近年、ディープラーニングによりコンピュータービジョンの分野が変化し、コンピューターが通常ではないレベルで視覚情報を認識し理解できるようになりました。畳み込みニューラル ネットワーク (CNN) の役割は、いくつかの画期的な設計によってこの変化に重大な影響を与えました。最も影響力のある CNN 構造の 2 つは、AlexNet と GoogleNet (InceptionNet) です。 2 つのモデルは、画像分類タスクの進行を完全に強化しますが、その構造と設計原則は対照的です。この記事では、AlexNet と GoogleNet の重要な違いを掘り下げ、その構造、設計上の決定、実行について探っていきます。

CSSで太字にする

AlexNet と GoogleNet の主な違い

アレックスネットとは何ですか?

AlexNet は、Alex Krizhevsky、Ilya Sutskever、Geoffrey Hinton によって作成された注目すべき畳み込みニューラル ネットワーク (CNN) アーキテクチャです。これは 2012 年に導入され、本質的にさまざまな方法論を打ち破ることにより、ImageNet Large Scope Visual Recognition Challenge (ILSVRC) において重要な進歩を遂げました。 AlexNet は、画像順序タスクに対する深層学習の実行可能性を示した主要な CNN であり、コンピューター ビジョンの分野における決定的な瞬間を示しています。

1. アーキテクチャ

2012 年にリリースされた AlexNet は、重大なエラーの余地を残しながら ImageNet Large Scope Visual Recognition Challenge (ILSVRC) で優勝した最先端の CNN でした。これは、5 つの畳み込み層と、それに続く 3 つの完全に関連した層で構成されます。 ReLU (Redressed Direct Unit) の作動と近隣反応標準化 (LRN) の利用がその繁栄にさらに拍車をかけました。 AlexNet はさらに、準備に GPU を関与させるというアイデアを提示し、これによりエクスペリエンスの成長が全体的に加速されました。

2. ネットワークの深度:

8 つの層 (5 つの畳み込み層と 3 つの完全に関連付けられた層) を備えた AlexNet は、プレゼンテーションの時点では深いとみなされていました。それにもかかわらず、現在の設計とは対照的に、それは一般に浅く、非常に複雑なデータセット内の気が遠くなるような要素や例を捕捉する能力が制限されています。

3. 計算の生産性:

AlexNet による GPU 準備のプレゼンテーションは教育体験を高速化しましたが、完全に関連付けられた層が深くなり、並列化の利用が制限されていたため、依然として計算コストが高くつきました。

4. 過学習:

AlexNet は、適度に浅い設計と膨大な数の境界により、特により控えめなデータセットで過剰適合する傾向がありました。その後、この問題を緩和するためにドロップアウトのような戦略が知られるようになりました。

5. トレーニング:

AlexNet をトレーニングするために、作成者は ImageNet データセットを利用しました。このデータセットには、1,000 の分類からの 1,000,000 個を超える名前付き画像が含まれています。彼らは、エネルギーを伴う確率的角度降下 (SGD) を改善計算として利用しました。トレーニング中に、任意の編集や反転などの情報拡張手法を適用して、トレーニング データセットのサイズを拡張し、一般化をさらに発展させました。

トレーニング システムは計算的に要求され、最終的に平等な処理のために AlexNet の GPU の利用が不可欠になりました。ダブル GPU フレームワークでの AlexNet のトレーニングには約 7 日間を要しましたが、これは通常のコンピューター プロセッサベースのトレーニング時間と比べて重要な改善でした。

6. 結果:

ImageNet 2012 のライバル関係では、AlexNet は、さまざまな手法を圧倒的に上回り、約 15.3% という注目に値するトップ 5 のミス ペースを達成しました。

AlexNet の成果により、ディープ ラーニングと CNN への関心が殺到し、コンピューター ビジョンのローカル領域の集中が、さらなる複雑でより深いニューラル ネットワークへと変化することを促しました。

7. 畳み込み層のセットアップ:

AlexNet の畳み込み層は、ダウンサンプリング用の周期的な最大プーリング層を備えた基本的な連続構造で構成されています。この明確なエンジニアリングは当時としては重要でしたが、複雑な進歩的な要素を捉える組織の能力を制限していました。

8. 次元の減少:

AlexNet には、ダウンサンプリング用の最大プーリング層が含まれており、要素マップの空間コンポーネントが減少します。これは、計算量を軽減し、過剰適合を制御するのに役立ちます。

9. モデルのサイズと複雑さ:

当時、AlexNet は奥深いものとみなされていましたが、その後の設計と比べると、やや控えめで複雑さが軽減されました。この率直さによって、それがより明確になり、実行できるようになりました。

10. アシスタント分類器の利用:

準備中の角度の蒸発の問題を解決するために、AlexNet はヘルパー分類器のアイデアを提示しました。これらの追加の分類器は中程度の層に結合され、バックプロパゲーション中に前の層に角度記号を与えました。

11. 研究の方向性への影響:

AlexNet の成果は、PC ビジョンの分野に大きな変化をもたらしました。これにより、科学者はさまざまな画像関連の課題に対する深層学習の能力を調査するようになり、さらに開発された CNN 設計の迅速な改善が促進されました。

GoogleNetとは何ですか?

GoogleNet は、Inception v1 とも呼ばれ、Google Brain グループ、特に Christian Szegedy 氏、Wei Liu 氏らによって作成された CNN アーキテクチャです。 2014 年に導入され、精度と計算生産性がさらに向上し、ILSVRC を受賞しました。 GoogleNet のアーキテクチャは、22 層で構成される深い設計によって説明され、最初の「非常に深い」 CNN の 1 つとなっています。

1. アーキテクチャ

GoogleNet (Inception v1): 2014 年に発表された GoogleNet は、CNN の Inception グループにとって不可欠です。 22 層 (インセプション モジュール) を含む奥深い設計で知られています。 GoogleNet の重要な開発は、同様の層内のさまざまなチャネル サイズの等畳み込みを考慮する開始モジュールです。これにより、精度を維持しながら計算の複雑さが軽減され、GoogleNet が AlexNet よりも効率的になりました。

2. ネットワークの深度:

GoogleNet のインセプション モジュールは、計算コストを拡大することなく、本質的により深い設計であると考えられています。 22 層を備えた GoogleNet は、ネットワークの奥深さの拡大による利点を示す主要な CNN の 1 つであり、精度と出力のさらなる開発を促しました。

3. 計算の生産性:

GoogleNet のインセプション モジュールは、計算資産のより生産的な使用法であると考えられています。 GoogleNet は、すべての開始ブロック内で等しい畳み込みを利用することで、境界と計算の数を減らし、継続的なアプリケーションやアセットを必要とするガジェットでの伝達の実現を容易にしました。

4. オーバーフィッティング:

GoogleNet の深く効果的な設計により、本質的に過剰学習が減少し、より控えめなデータセットや学習状況を移行する場合に優れたパフォーマンスを発揮できるようになりました。

5. トレーニング:

GoogleNet のトレーニングでは、ImageNet データセットの利用についてさらに詳しく説明されており、一般化をアップグレードするために同等の情報増加手順が利用されました。それはともかく、GoogleNet はそのアーキテクチャがより深いため、トレーニング中に AlexNet よりも多くの計算資産を必要としました。

インセプション モジュールの開発により、GoogleNet は奥深さと計算効率の間にある種の調和を見つけることができました。すべての開始ブロック内の均等な畳み込みにより、計算と境界の数が全体的に減少し、トレーニングがより達成可能かつ効果的になりました。

6. 結果:

GoogleNet は、ImageNet 2014 コンテストで約 6.67% という素晴らしいトップ 5 の失敗ペースを達成し、AlexNet のプレゼンテーションを上回りました。

GoogleNet の深くても熟練したアーキテクチャは、計算の達成可能性を維持しながら、より深いニューラル ネットワークの機能を示し、真のアプリケーションにとってより魅力的なものにしました。

7. 畳み込み層のセットアップ:

GoogleNet は、さまざまなチャネル サイズの多数の等しい畳み込み層で構成される開始モジュールのアイデアを提示しました。この計画により、GoogleNet はさまざまな規模でハイライトを捉えることができ、さまざまな程度の審議から重要な要素を削除する組織の能力に全面的に取り組むことができます。

8. 次元の減少:

通常の最大プーリングにもかかわらず、GoogleNet は 1x1 畳み込みなどの次元削減手法を利用します。これらのより控えめな畳み込みは、計算量の増加が少なく、基本的なデータを保護しながら要素の数を減らすのに役立ちます。

9. モデルのサイズと複雑さ:

GoogleNet のオリジン モジュールは、基本的により多くの層と境界を備えた、より奥深い設計を実現します。この複雑さにより、精度がさらに向上する一方で、組織はより多くのテストを準備および調整する必要があります。

10. アシスタント分類器の利用:

GoogleNet は、開始モジュール内にアシスタント分類器を組み込むことで、アシスタント分類器のアイデアを洗練させました。これらのアシスタント分類器は、より深い層の準備を進め、角度ストリームをアップグレードし、より安定した効果的な準備を加えます。

11. 研究の方向性への影響:

GoogleNet の初期モジュールは、さまざまなスケールで効果的なコンポーネント抽出の可能性を提示しました。このアイデアは結果として得られる設計の計画に影響を与え、アナリストが精度を維持またはさらに向上させながら、組織の深さと計算生産性の向上に焦点を当てることができるようになりました。

結論

AlexNet と GoogleNet は両方とも、コンピューター ビジョンとディープ ラーニングの分野に永続的に影響を与えます。 AlexNet は、画像認識タスクのための CNN の機能と、将来の進歩に向けたセットアップを展示しました。 GoogleNet は再び、オリジン モジュールのアイデアを提示し、より効果的でより深い CNN 構造を準備できるようにしました。

私のモニターのサイズ

AlexNet と GoogleNet には特別な資産がありますが、深層学習の分野は彼らのプレゼンテーション以来根本的に発展しました。 ResNet、DenseNet、EfficientNet などの現在の設計は、正確性、生産性、汎用性の限界をさらに押し広げています。アナリストがこれらの重要なモデルの改善と拡張を進めるにつれて、コンピューター ビジョンの運命には、さらに注目すべき取り組みとさらなる興味深い見通しが待ち受けています。