はじめに

畳み込みニューラルネットワーク（SNS）。 生物学と数学とコンピューターサイエンスが混ざった奇妙な組み合わせのように聞こえますが、これらのネットワークはコンピュータービジョンの分野で最も影響力のある革新の1つです。 ニューラルネットワークが最初に一般的な注目を集めたのは2012年で、アレックスクリジェフスキーのおかげでImageNetコンテスト（大まかに言うと、これは毎年のマシンビジョンオリンピアード）で優勝し、分類エラーの記録が26％から15％に下がり、突破口となりました。 今日、詳細なトレーニングは多くの企業のサービスの中心にあります：Facebookは、自動タグ付けアルゴリズムにニューラルネットワークを使用し、ユーザーの写真を検索するにはGoogleを、製品の推奨事項を生成するにはAmazonを、ユーザーのホームページをパーソナライズするにはPinterestを、検索インフラストラクチャにはInstagramを使用しています。

しかし、ネットワークの古典的な、そしておそらく最も一般的な使用例は画像処理です。 SNAを使用して画像を分類する方法を見てみましょう。

挑戦する

画像を分類するタスクは、初期画像を取得し、そのクラス（猫、犬など）または画像を最もよく説明する可能性のあるクラスのグループを出力することです。 人々にとって、これは彼らが誕生から学び始める最初のスキルの一つです。

努力することなく、自然に大人になります。 考えさえしなくても、私たちは私たちを取り巻く空間と物を素早く簡単に認識することができます。 画像を見たり、自分の周りで何が起こっているかを見ると、ほとんどの場合、シーンをすぐに説明し、各オブジェクトにショートカットを与えることができます。これはすべて無意識に、目に見えない形で起こります。 パターンをすばやく認識し、すでに得た知識を要約し、写真に記録されたさまざまな状況に適応するこれらのスキルは、電子的な友人には利用できません。

入力と結論

コンピューターが画像を見る（入力データを受け取る）と、ピクセルの配列が見えます。 たとえば、解像度と画像サイズに応じて、配列のサイズは32x332（3はRGBチャンネルの値）になります。 わかりやすくするために、JPG形式のカラー画像があり、そのサイズが480x480であるとします。 対応する配列は480x480x3になります。 これらの各数値には、0〜255の値が割り当てられます。これは、この時点でのピクセルの強度を表します。 これらの数値は、画像に何が含まれているかを判断しても意味がありませんが、コンピューターで使用できる唯一の入力データです。 考えは、コンピューターにこのマトリックスを与え、イメージクラスの確率を説明する数字を表示することです（猫の場合は.80、犬の場合は.15、鳥の場合は.05など）。

コンピューターに何が欲しい

タスク、入力、および出力を定義したので、ソリューションに到達する方法について考えてみましょう。 コンピューターは、与えられたすべてのデータを識別し、犬を犬にし、猫を猫にするユニークな機能を認識できるようにしたいと考えています。 私たちの国では、このプロセスも無意識のうちに起こります。 犬の画像を見るとき、画像に足や4本の足などの識別可能な特性がある場合、特定のクラスに関連付けることができます。 同様に、コンピューターは、境界線や曲率などのベースライン特性を検索し、畳み込み層のグループを介してより抽象的な概念を構築することにより、画像を分類できます。 これは、SNAが行うことの一般的な説明です。 それでは、詳細に移りましょう。

生物学的つながり

初めに、少し歴史。 畳み込みニューラルネットワークという用語を最初に聞いたとき、おそらく神経科学や生物学に関連する何かを考えていたでしょう。 ある意味で。 SNSは、まさに視覚野のプロトタイプです。 視覚野には、視野の特定の領域に敏感な細胞の小さな部分があります。 このアイデアは、1962年のフーベルとヴィーゼルによる素晴らしい実験の助けを借りて詳細に調べられました（ ビデオ ）。特定の方向の境界を視覚化したときにのみ個々の脳神経細胞が反応（または活性化）したことを示しました。 たとえば、いくつかのニューロンは、垂直の境界を認識したときにアクティブになり、一部のニューロンは水平または斜めになります。 HubelとWieselは、これらすべてのニューロンがコアアーキテクチャの形に集中しており、一緒になって視覚を形成することを発見しました。 特定の問題（特定の特性を探す視覚野のセルなど）を解決し、マシンを使用するシステム内の特殊なコンポーネントのこのアイデアは、SNAの基礎です。

構造

詳細に戻ります。 SNAは正確に何をしますか？ 画像が撮影され、一連の畳み込み、非線形層、結合層、および完全に接続された層を通過して、出力が生成されます。 先ほど述べたように、結論は画像を最もよく説明するクラスまたはクラスの確率です。 難しいのは、これらの各層が何をしているのかを理解することです。 それでは、最も重要なことに移りましょう。

最初の層は数学的な部分です

SNAの最初の層は常に畳み込みです。 この畳み込み層の入力を覚えていますか？ 前述のように、入力画像はピクセル値を持つ32 x 32 x 3のマトリックスです。 たたみ込み層が何であるかを理解する最も簡単な方法は、画像の左上を照らす懐中電灯の形で想像することです。 この懐中電灯が発する光が5 x 5の領域をカバーするとしましょう。今度は、懐中電灯が入力画像のすべての領域を移動することを想像してみましょう。 コンピュータートレーニングの観点から、この懐中電灯はフィルター（ニューロンまたは核）と呼ばれ、それが光る領域は受容野（知覚野）と呼ばれます。 つまり、フィルターは行列です（このような行列は、重み行列またはパラメーター行列とも呼ばれます）。 フィルターの深さは入力画像の深さと同じである必要があることに注意してください（数学的な忠実度の保証があります）。このフィルターの寸法は5 x 5 x 3です。 左上隅にします。 フィルターは畳み込みを生成する、つまり入力画像に沿って移動するため、フィルター値に画像ピクセルの初期値を乗算します（要素ごとの乗算）。 これらすべての乗算が合計されます（合計75回の乗算）。 そして、結果は単一の数字です。 覚えておいてください、それは単に画像の左上隅にあるフィルターの位置を象徴しています。 各ポジションでこのプロセスを繰り返します。 （次の手順は、フィルターを1つずつ右に移動し、次に1つずつ右に移動することです）。 入力された画像の一意の位置ごとに番号が生成されます。 すべての位置でフィルターを通過した後、28 x 28 x 1のマトリックスが取得されます。これは、アクティベーション関数または機能マップと呼ばれます。 32 x 32の画像の5 x 5フィルターを通過できる784の異なる位置があるため、28 x 28のマトリックスが得られ、これらの784の数値は28 x 28のマトリックスに変換されます。

（小さな発言：上記の画像を含む画像の一部は、マイケルニールセンの素晴らしい本「 ニューラルネットワークとディープラーニング （マイケルニールセン）からのものです。強くお勧めします」）。

ここで、1つではなく2つの5 x 5 x 3フィルターを使用するとします。 その場合、出力値は28 x 28 x 2になります。

最初の層

この畳み込みが実際に高レベルで行うことについて話しましょう。 各フィルターは、プロパティ識別子と見なすことができます。 プロパティとは、直線の境界線、単純な色、曲線を意味します。 すべての画像に共通する最も単純な機能について考えてください。 最初のフィルターが7 x 7 x 3であり、曲線検出器であるとします。 （今度は、フィルターの深さが3であるという事実を無視し、簡単にするためにフィルターと画像の最上層のみを考慮します）。 フィルターは、曲線の形状を決定する領域に沿って数値が高くなるピクセル構造を持っています（ここで説明しているフィルターは単なる数字です！）。

数学的視覚化に戻りましょう。 入力画像の左上隅にフィルターがある場合、フィルター値にこの領域のピクセル値を乗算します。 クラスを割り当て、左上隅にフィルターを設定したいサンプル画像を見てみましょう。

必要なのは、フィルター値に画像の元のピクセル値を掛けることだけです。

実際、入力フィルターの形状がこのフィルターが表す曲線に広く似ていて、すべての乗算値が合計される場合、結果は大きな値になります！ 次に、フィルターを移動するとどうなるかを見てみましょう。

値はずっと低いです！ これは、カーブ検出フィルターが検出できる新しい画像領域には何もないためです。 この畳み込み層の出力はプロパティマップであることに注意してください。 最も単純な場合、畳み込みフィルターが1つある場合（およびこのフィルターが曲線検出器である場合）、プロパティマップには、曲線が存在する可能性が高い領域が表示されます。 この例では、左上隅の28 x 28 x 1プロパティマップの値は6600です。この高い値は、おそらく曲線に似た何かが画像に存在し、この確率がフィルターをアクティブにしたことを示します。 右上隅では、プロパティマップの値は0になります。これは、フィルターをアクティブにできる画像が何もなかったためです（言い換えると、この領域には曲線がありませんでした）。 これは1つのフィルターのみを対象としていることに注意してください。 これは、外側に曲がった線を検出するフィルターです。 内側に曲がっている、またはまっすぐになっているラインには、他のフィルターがある場合があります。 フィルターが多いほど、プロパティマップの深さが大きくなり、紹介画像に関する情報が多くなります。

注：このセクションで説明したフィルターは、折りたたみの数学を単純化するために単純化されています。 以下の図は、訓練されたネットワークの最初の畳み込み層のフィルターの実際の視覚化の例を示しています。 しかし、考え方は同じです。 最初のレイヤーのフィルターは、入力画像の周りに折り返され、探している特定の特性が入力画像にあるときに「アクティブ化」（または大きな値を生成）します。

（注：上記の画像は、Andrej KarpathyとJustin Johnsonが教えたスタンフォード231Nコースのものです。SNAの詳細を知りたい方にはお勧めです）。

ネットワークを深く掘り下げます

今日、従来の畳み込みニューラルネットワークアーキテクチャには、畳み込み層が散在する他の層があります。 トピックに興味がある人は、これらのレイヤーの機能と効果を理解するためにこれらのレイヤーについて読むことを強くお勧めします。 古典的なSNAアーキテクチャは次のようになります。

最後の層は、最後ではありますが、最も重要な層の1つです。後で説明します。 すでにわかったことをまとめましょう。 最初の畳み込み層のフィルターを決定する方法について説明しました。 境界線や曲線などの基本的なレベルのプロパティを発見します。 ご想像のとおり、写真に表示されるオブジェクトの種類を提案するために、手、足、耳など、より高いレベルのプロパティを認識できるネットワークが必要です。 それでは、最初の畳み込み層の後のネットワーク出力がどのように見えるか考えてみましょう。 サイズは28 x 28 x 3です（3つのフィルター5 x 5 x 3を使用する場合）。 画像が1つの畳み込み層を通過すると、最初の層の出力は2番目の層の入力値になります。 今では、視覚化が少し難しくなっています。 最初のレイヤーについて話したとき、入力は入力画像データのみでした。 しかし、2番目のレイヤーに移動したとき、その入力値は1つ以上のプロパティマップでした-前のレイヤーを処理した結果です。 入力データの各セットは、元の画像で特定の基本的な特徴が見つかった位置を示します。

これで、この上に一連のフィルターを適用すると（2番目の畳み込み層に画像を渡す）、より高いレベルのプロパティを表すフィルターが出力でアクティブになります。 これらのプロパティのタイプは、ハーフリング（直線境界とベンドの組み合わせ）または正方形（複数の直線エッジの組み合わせ）です。 画像が通過する畳み込み層が多くなり、ネットワークをさらに進むと、アクティベーションカードに表示される特性が複雑になります。 ネットワークの最後には、画像に手書きのテキストがある場合、ピンク色のオブジェクトがある場合などにアクティブになるフィルターがあります。 畳み込みネットワークのフィルターについて詳しく知りたい場合は、Matt ZeilerとRob Fergusがこのテーマに関する優れた研究論文を執筆しています。 また、YouTubeでは、これらのプロセスを視覚的に表現したJason Josinskiのビデオがあります。

もう一つの興味深い点。 ネットワークの奥深くに移動すると、フィルターはより大きな知覚のフィールドで機能します。つまり、フィルターは元の画像のより広い領域からの情報を処理できることを意味します（簡単に言えば、より広いピクセル空間の領域を処理するのに適しています）。

完全に接続されたレイヤー

高レベルのプロパティを発見できるようになったので、最もクールなことは、ネットワークの最後に完全に接続されたレイヤーを追加することです。 このレイヤーは入力データを取得し、N空間ベクトルを表示します。Nは、プログラムが目的のクラスを選択するクラスの数です。 たとえば、数値を認識するプログラムが必要な場合、数値は10であるため、Nの値は10になります。このN空間ベクトルの各数値は、特定のクラスの確率を表します。 たとえば、数字認識プログラムの結果のベクトルが[0 0.1 0.1 0.75 0 0 0 0 0.05]の場合、画像が「1」である確率は10％であり、画像が10％である可能性が高い「2」、75％の確率は「3」、5％の確率は「9」です（もちろん、結論を出す方法は他にもあります）。

完全に接続されたレイヤーが機能する方法は、前のレイヤーの出力にアクセスし（思い出すように、高レベルのプロパティマップを表示する必要があります）、特定のクラスにより関連するプロパティを定義することです。 たとえば、ある画像に犬がいるとプログラムが予測する場合、脚や4本の脚などの高レベルの特性を反映するプロパティマップには高い値が必要です。 同様に、プログラムが画像に鳥がいることを認識すると、翼やくちばしなどの高レベルの特性で表されるプロパティマップで高い値を持ちます。 完全に接続されたレイヤーは、高レベル関数が特定のクラスに強く関連し、特定の重みを持っているという事実を調べます。したがって、前のレイヤーと重みの積を計算すると、異なるクラスの正しい確率が得られます。

トレーニング（または「このことを機能させるもの」）

これは、これまで特に言及しなかったニューラルネットワークの1つの側面です。 これはおそらく最も重要な部分です。 多くの質問があります。 最初の畳み込み層のフィルターは、境界線と曲線を探す必要があることをどのように知っていますか？ 完全に接続されたレイヤーは、プロパティマップが探しているものをどのように知るのですか？ 各レイヤーのフィルターはどの値を保存するかをどのように知るのですか？ コンピューターがフィルター（または重み）を調整できる方法は、逆伝播法と呼ばれる学習プロセスです。

この方法の説明に移る前に、ニューラルネットワークが機能するために必要なものについて話しましょう。 私たちが生まれたとき、私たちの頭は空です。 猫、犬、鳥の見分け方がわかりません。 SNAの場合も同様です。ネットワークが構築されるまで、フィルターの重みまたは値はランダムです。 フィルタは、境界線と曲線を探す方法を知りません。 上層のフィルターは、足とくちばしを探す方法を知りません。 私たちが年をとると、両親と教師は私たちに異なる写真と画像を見せて、対応するラベルを割り当てます。 SNAを通過する学習プロセスでも、写真を表示してラベルを付けるという同じ考え方が使用されます。 犬、猫、鳥の何千もの画像があるトレーニング画像のセットがあると想像してみましょう。 各画像には、動物の名前のラベルが付いています。

誤差逆伝播法は、直接分布、損失関数、逆分布、および重み更新の4つの個別のブロックに分割できます。 直接配信中に、トレーニング画像が撮影されます-覚えているように、これは32 x 32 x 3マトリックスです-ネットワーク全体に渡されます。 最初のトレーニングの例では、すべての重みまたはフィルター値がランダムに初期化されたため、出力値は[.1 .1 .1 .1 .1 .1 .1 .1 .1 .1 .1]などのようになります。特定の番号を優先しない値。 このような重みを持つネットワークは、基本レベルのプロパティを見つけることができず、画像のクラスを合理的に決定できません。 これは損失関数につながります。 現在使用しているのはトレーニングデータです。 そのようなデータには、画像とラベルの両方があります。 最初のトレーニングイメージが番号3であるとします。イメージのラベルは[0 0 0 1 0 0 0 0 0 0 0]です。 損失関数はさまざまな方法で表現できますが、標準偏差（標準誤差）がよく使用されます。これは1/2（現実-予測）の2乗です。

変数Lに対してこの値を使用します。ご想像のとおり、最初の2つのトレーニング画像の損失は非常に大きくなります。 それでは直感的に考えてみましょう。 予測ラベル（畳み込み層の出力）がトレーニングイメージのラベルと同じであることを確認したい（これは、ネットワークが正しい仮定を行ったことを意味します）。 これを達成するには、損失の量を最小限に抑える必要があります。 これを数学的分析から最適化問題として視覚化することにより、どの入力（この場合は重み）がネットワークの損失（またはエラー）に最も直接寄与したかを見つける必要があります。

（損失を最小化する考えを視覚化する1つの方法は、ニューラルネットワークの重み（明らかに2つ以上ですが、例は単純化されています）が独立変数であり、従属変数が損失です。損失を最小化するタスクは、重みを調整することです視覚的には、カップのようなオブジェクトの最下点に近づく必要があります。これを達成するには、重みを考慮して損失の導関数を見つける必要があります（描かれたグラフの枠組み内で-各方向の角度係数を計算します）。

これはdL / dWの数学的な同等物です。ここで、Wは特定のレイヤーの重量です。 次に、ネットワークを通じて逆伝播を実行し、どの重みが損失に大きな影響を与えるかを決定し、損失を減らすためにそれらを調整する方法を見つける必要があります。 導関数を計算した後、最後のステップである重みの更新に進みます。 すべてのフィルターの重みを取得し、それらを更新して、勾配の方向に変化するようにします。

学習速度は、プログラマーが選択するパラメーターです。 トレーニング率が高いということは、重みの更新でより大きなステップが取られたことを意味するため、サンプルが重みの最適なセットを取得するのにかかる時間が短くなります。 しかし、学習率が高すぎると、最適なパフォーマンスの達成を妨げる、非常に大きくて不十分な正確な跳躍につながる可能性があります。

直接伝播プロセス、損失関数、逆伝播、および重みの更新は、通常、単一サンプリング期間（またはエポック時代）と呼ばれます。 プログラムは、各トレーニング画像に対して一定の期間、このプロセスを繰り返します。 パラメーターの更新が最後のトレーニングサンプルで完了した後、理論上のネットワークは十分にトレーニングされ、レイヤーの重みが正しく構成されます。

テスト中

最後に、SNAが機能するかどうかを確認するために、異なる画像とショートカットのセットを取得し、ネットワークを介して画像を渡します。 出力を現実と比較し、ネットワークが機能するかどうかを確認します。

企業がSNAを使用する方法

データ、データ、データ。 この6文字の魔法を大量に持っている企業は、他の競合他社よりも論理的に有利です。 ネットワークに入力できるトレーニングデータが多いほど、トレーニングの反復回数が多くなり、重みの更新が多くなります。また、本番環境を離れる前に、より良いトレーニングネットワークを取得できます。 Facebook（およびInstagram）は、現在所有している10億人のユーザーのすべての写真、Pinterest-500億ピンからの情報、Google-検索データ、およびAmazon-毎日購入される数百万の製品に関するデータを使用できます。 そして今、あなたは彼らが彼ら自身の目的のために使用する魔法を知っています。

発言

この投稿はSNAを理解するための良い出発点になるはずですが、これは完全なレビューではありません。 この記事で説明しなかった点には、非線形層とプーリング層のほか、フィルターサイズ、ステップ、インデントなどのネットワークハイパーパラメーターが含まれます。 ネットワークアーキテクチャ、バッチ正規化、フェージンググラデーション、ドロップアウト、初期化方法、非凸最適化、シフト、損失関数オプション、データ拡張、正則化方法、機械機能、逆伝播修正およびその他多くの無理な（今のところ;-)トピック

（ ナタリアベースによる翻訳）