畳み込みニューラルネットワーク、パート1：構造、トポロジ、活性化関数、およびトレーニングセット

まえがき

これらの記事（ パート2 ）は、大学での科学研究の一部であり、「畳み込みニューラルネットワークを使用してビデオストリーム内の顔を検出するためのソフトウェアパッケージ」と読みました。 この作業の目標は、ビデオストリーム内の顔を検出するプロセスの速度特性を改善することでした。 スマートフォンのカメラはビデオストリームとして使用され、デスクトップPS（Kotlin言語）は、たたみ込みニューラルネットワークを作成およびトレーニングするために作成されました。 私が言う結果はまあまあなので、私が提案したトポロジーの正確なコピーを自分の危険とリスクで使用することが判明しました（推奨しません）。

はじめに

顔認識の分野で最良の結果が得られたのは、畳み込みニューラルネットワークまたは畳み込みニューラルネットワーク（以下、SNA）です。これは、コグニトロンやネオコグニトロンなどのNSアーキテクチャのアイデアを論理的に発展させたものです。 成功は、多層パーセプトロンとは対照的に、二次元画像トポロジーを考慮する可能性によるものです。



畳み込みニューラルネットワークは、スケール、変位、回転、角度の変化、その他の歪みの変化に対する部分的な耐性を提供します。 畳み込みニューラルネットワークは、ズーム、回転、せん断、空間歪みに対する不変性を保証するために、3つのアーキテクチャのアイデアを組み合わせています。

• ローカル受容体フィールド（ニューロンのローカルな2次元接続性を提供）;
• 一般的なシナプス係数（画像内の任意の場所でいくつかの特徴の検出を提供し、重み係数の総数を減らします）;
• 空間サブサンプルを使用した階層構造。

現時点では、畳み込みニューラルネットワークとその修正は、ステージ上のオブジェクトを精度と速度で見つけるための最適なアルゴリズムと見なされています。 2012年以来、ニューラルネットワークは、よく知られているImageNet国際パターン認識競争の第一位を占めています。







それが、私の研究で、ネオコグニトロンの原理に基づいた畳み込みニューラルネットワークを使用し、エラー逆伝播アルゴリズムのトレーニングで補足した理由です。

畳み込みニューラルネットワーク構造

SNAはさまざまなタイプの層で構成されます。畳み込み層、サブサンプリング、サブサンプリング層、および「通常の」ニューラルネットワークの層-パーセプトロン、図1に従って。





図1-畳み込みニューラルネットワークのトポロジ



最初の2種類のレイヤー（畳み込み、サブサンプリング）は、交互に重なり合って、多層パーセプトロンの入力特徴ベクトルを形成します。



畳み込みネットワークは、操作の名前でその名前を取得しました-畳み込み、その本質は後述します。



たたみ込みネットワークは、生物学的にもっともらしいネットワークと通常の多層パーセプトロンとの良い中間点です。 現在までに、画像認識で最良の結果が得られました。 平均して、このようなネットワークの認識精度は、従来のANNを10〜15％超えています。 SNAは、ディープラーニングの重要なテクノロジです。



SNAが成功した主な理由は、一般的な重みの概念でした。 これらのネットワークは、サイズが大きいにもかかわらず、祖先であるネオコグニトロンと比較して、構成可能なパラメーターが少数です。 ネオコグニトロンに似たSNA（Tiled Convolutional Neural Network）のバージョンがあり、そのようなネットワークでは関連する重みが部分的に拒否されますが、学習アルゴリズムは同じままで、エラーの逆伝播に基づいています。 SNAは、シリアルカード上ですばやく動作し、各カードの畳み込みプロセスの純粋な並列化と、ネットワーク上でエラーを伝播する際の逆畳み込みにより、すばやく学習できます。



以下の図は、畳み込みとサブサンプリングの視覚化を示しています。

畳み込みニューラルネットワークトポロジ

ネットワークトポロジの定義は、解決される問題、科学記事のデータ、および私たち自身の実験的経験に焦点を当てています。



トポロジの選択に影響する次の手順を区別できます。

• ニューラルネットワークによって解決される問題を判別します（分類、予測、修正）。
• 解決される問題の制限（速度、回答の精度）を決定します。
• 入力（タイプ：画像、音声、サイズ：100x100、30x30、形式：RGB、グレースケール）と出力（クラスの数）を定義します。

私のニューラルネットワークによって解決されるタスクは、画像、特に個人の分類です。 ネットワークに課せられる制限は、1秒以下の応答速度と少なくとも70％の認識精度です。 図2に基づく一般的なネットワークトポロジ。





図2-トポロジーたたみ込みニューラルネットワーク

入力層

入力データは、サイズが48x48ピクセルのJPEGタイプのカラー画像です。 サイズが大きすぎると、計算の複雑さが増し、それに応じて、応答速度の制限に違反することになり、この問題のサイズの決定は選択方法によって解決されます。 選択したサイズが小さすぎると、ネットワークは顔の主要な兆候を特定できなくなります。 各画像は、赤、青、緑の3つのチャネルに分割されます。 したがって、48x48ピクセルの3つの画像が取得されます。



入力レイヤーは、画像の2次元トポロジを考慮し、複数のマップ（行列）で構成されます。画像がグレーの陰影で表示される場合、マップは1つになります。それ以外の場合、各マップは特定のチャンネル（赤、青、緑） 。



特定の各ピクセル値の入力データは、次の式に従って0〜1の範囲に正規化されます。

畳み込み層

畳み込み層は一連のカードであり（別の名前は機能カードであり、日常生活ではこれらは通常のマトリックスです）、各カードにはシナプスコアがあります（スキャンコアまたはフィルターなど、ソースが異なると呼ばれます）。



カードの数は、タスクの要件によって決まります。大量のカードを使用すると、認識品質は向上しますが、計算の複雑さが増します。 科学記事の分析に基づいて、ほとんどの場合、1対2の比率を取ることが提案されています。つまり、前のレイヤー（たとえば、最初の畳み込みレイヤー、前のレイヤーの入力）の各カードは、図3に従って、畳み込みレイヤーの2つのカードに関連付けられています。カードの数- 6。





図3-畳み込み層のカードと前の層の間の関係の構成



畳み込み層のすべてのカードのサイズは同じであり、式2で計算されます。







コアは、前のマップの領域全体をスライドし、オブジェクトの特定の兆候を見つけるフィルターまたはウィンドウです。 たとえば、ネットワークが多くの顔で訓練された場合、コアの1つは訓練中に目、口、眉、または鼻の分野で最大の信号を与えることができ、他のコアは他の兆候を明らかにすることができます。 コアのサイズは、通常3x3〜7x7の範囲で採用されます。 核のサイズが小さい場合、兆候を強調することはできません;それが大きすぎる場合、ニューロン間の接続の数が増加します。 また、カーネルサイズは、畳み込み層カードのサイズが均等になるように選択されます。これにより、以下で説明するサブサンプルレイヤーの次元を小さくするときに情報を失うことがなくなります。



コアは重みまたはシナプスを共有するシステムであり、これは畳み込みニューラルネットワークの主要な機能の1つです。 通常の多層ネットワークでは、ニューロン間に多くの接続、つまりシナプスがあり、検出プロセスが大幅に遅くなります。 逆に、畳み込みネットワークでは、総重みによりリンクの数を減らし、画像領域全体で同じ属性を見つけることができます。







最初、畳み込み層の各カードの値は0です。カーネルの重みの値は、-0.5〜0.5の範囲でランダムに設定されます。 カーネルは前のマップ上を滑空し、画像処理によく使用されるコンボリューション操作を実行します：







非公式には、この操作は次のように記述できます：カーネルサイズウィンドウgを所定のステップ（通常1）で画像f全体を通過し、各ステップでウィンドウの内容にカーネルgを乗算し、結果を合計して結果マトリックスに書き込みます（図4）。





図4-畳み込み演算と畳み込みカードの値の取得（有効）





畳み込み演算と畳み込みマップ値の取得。 コアはシフトされ、新しいカードは前のものと同じサイズです（同じ）



さらに、元の行列のエッジを処理する方法によっては、図5に従って、結果は元の画像より小さく（有効）、同じサイズ（同じ）または大きく（完全）になる場合があります。





図5-元の行列の3種類の畳み込み



簡略化した形式では、このレイヤーは次の式で説明できます。







さらに、エッジ効果により、元の行列のサイズが小さくなり、式：

サブサンプルレイヤー

サブサンプルレイヤーと畳み込みレイヤーにはカードがありますが、それらの数は前の（畳み込み）レイヤーと一致します。6つあります。レイヤーの目的は、前のレイヤーのカードの寸法を小さくすることです。 前の畳み込み操作でいくつかの兆候がすでに明らかになっている場合、さらに処理するためにそのような詳細な画像はもはや必要ではなく、より詳細でない画像に圧縮されます。 さらに、すでに不要な部分をフィルタリングすることで、再トレーニングを行わないようにします。

前のレイヤーのマップのサブサンプルレイヤー（フィルター）のコアによるスキャン中、畳み込みレイヤーとは異なり、スキャンコアは交差しません。 通常、各カードには2x2のコアがあり、以前のカードの畳み込み層を2倍減らすことができます。 フィーチャマップ全体が2x2のセル要素に分割され、最大値が選択されます。



通常、サブサンプリングレイヤーはRelUアクティベーション関数を使用します。 図6によるサブサンプリング操作（またはMaxPooling-最大選択）。





図6-前の畳み込み層マップに基づく新しいサブサンプルレイヤーマップの形成 サブサンプリング操作（最大プーリング）



正式には、レイヤーは次の式で記述できます。

完全に接続されたレイヤー

最後のタイプの層は、通常の多層パーセプトロンの層です。 層の目的は分類であり、複雑な非線形関数をモデル化し、認識の品質を向上させる最適化を行います。







前のサブサンプル層の各カードのニューロンは、隠れ層の1つのニューロンに関連付けられています。 したがって、隠れ層のニューロンの数はサブサンプル層のカードの数に等しくなりますが、接続は必ずしも同じではない可能性があります。たとえば、サブサンプル層のカードのいずれかのニューロンの一部のみが隠れ層の最初のニューロンに接続でき、残りの部分は2番目、または最初のすべてのニューロンに接続できますカードは、隠れ層のニューロン1および2に接続されています。 ニューロンの値の計算は、次の式で説明できます。

出力層

出力層は、前の層のすべてのニューロンに接続されています。 ニューロンの数は、認識可能なクラスの数、つまり2-顔ではなく顔に対応します。 ただし、バイナリケースの接続と計算の数を減らすために、1つのニューロンを使用できます。双曲線正接を活性化関数として使用する場合、-1の値を持つニューロンの出力は「非顔」クラスに属し、1の値を持つニューロンの出力はクラスに属することを意味します人。

アクティベーション機能の選択

ニューラルネットワークの開発段階の1つは、ニューロンの活性化機能の選択です。 活性化関数のタイプは、ニューラルネットワークの機能とこのネットワークのトレーニング方法を大きく決定します。 従来のバックプロパゲーションアルゴリズムは2層および3層のニューラルネットワークでうまく機能しますが、深さがさらに増加すると問題が発生し始めます。 1つの理由は、いわゆる勾配減衰です。 エラーが出力層から入力層に伝播すると、現在の結果とアクティベーション関数の導関数の乗算が各層で発生します。 従来のシグモイド活性化関数の導関数は、ドメイン全体で1未満であるため、複数の層の後、エラーはゼロに近くなります。 反対に、活性化関数が無制限の微分（双曲線正接など）を持っている場合、伝播時にエラーの爆発的な増加が発生する可能性があり、トレーニング手順が不安定になります。



この論文では、双曲線正接を隠れ層と出力層の活性化関数として使用し、ReLUを畳み込み層で使用します。 ニューラルネットワークで使用される最も一般的な活性化関数を検討してください。

シグモイド活性化機能

この関数は連続関数のクラスに属し、入力で任意の実数を取り、出力で0〜1の範囲の実数を返します。特に、大きな（モジュロ）負の数はゼロになり、大きな正の数は1になります。 歴史的に、シグモイドは広く使用されていました。その出力はニューロンの活性化レベルとしてよく解釈されているためです。活性化の不在（0）から完全に飽和した活性化（1）まで。 シグモイドは次の式で表されます。







以下の図に従ったシグモイド関数のグラフ：







シグモイドの非常に望ましくない特性は、関数が一方または他方（0または1）で飽和すると、これらの領域の勾配がゼロに近くなることです。



エラーの逆伝播の過程で、この（ローカル）勾配に一般勾配が乗算されることを思い出してください。 したがって、局所勾配が非常に小さい場合、全体の勾配が効果的にリセットされます。 その結果、信号はニューロンをその重みにほとんど通過せず、データに再帰的に通過しません。 さらに、飽和を防ぐためにシグモイドニューロンの重みを初期化するときは非常に注意する必要があります。 たとえば、初期の重みが大きすぎると、ほとんどのニューロンが飽和状態になり、ネットワークのトレーニングが不十分になります。



シグモイド関数は次のとおりです。

• 連続的
• 単調増加;
• 微分可能。

双曲線正接活性化関数

このホワイトペーパーでは、双曲線正接を非表示層と出力層の活性化関数として使用します。 これは、次の理由によるものです。

• 双曲線正接などの対称活性化関数は、標準のロジスティック関数よりも速い収束を提供します。
• 関数には連続一次導関数があります。
• この関数には単純な導関数があり、その値を通じて計算でき、計算を節約できます。

双曲線正接の関数のグラフを図に示します：

ReLUアクティベーション機能

十分な層があり、活性化関数が非線形である場合、ニューラルネットワークは任意の複雑な関数を近似できることが知られています。 シグモイドやタンジェンシャルなどの活性化関数は非線形ですが、減衰や勾配の増加に問題が生じます。 ただし、はるかに簡単なオプション-修正線形アクティベーション関数（修正線形ユニット、ReLU）を使用できます。これは次の式で表されます。







以下の図に従ったReLU関数のグラフ：







ReLUを使用する利点：

• その導関数は1または0に等しいため、勾配の成長または減衰は発生しません。 ユニットにエラーデルタを掛けると、エラーデルタが得られます。たとえば、双曲線正接などの別の関数を使用する場合、エラーデルタは減少、増加、または同じままになる可能性があります。つまり、双曲線タンジェントの導関数は異なる符号の数値を返します勾配の減衰または成長に大きく影響する可能性のある大きさ。 さらに、この機能を使用すると、バランスが薄くなります。
• シグモイドおよび双曲線正接の計算には、べき乗などのリソースを大量に消費する操作が必要ですが、ReLUはゼロでの活性化マトリックスの単純なしきい値変換を使用して実装できます。
• 負の出力でチャンネルの不要な部分をカットします。

欠点のうち、ReLUの信頼性は必ずしも十分ではなく、学習プロセスで失敗する可能性がある（「死ぬ」）ことに注意してください。 たとえば、ReLUを通過する大きな勾配は、特定のニューロンが再びアクティブにならないようなバランスの更新につながる可能性があります。 これが発生した場合、この時点から、このニューロンを通過する勾配は常にゼロになります。 したがって、このニューロンは永続的に無効になります。 たとえば、学習率が速すぎる場合、ReLUの最大40％が「デッド」であることが判明する場合があります（つまり、アクティブ化されません）。 この問題は、適切な学習率を選択することで解決されます。

実験で使用したトレーニングサンプル

トレーニングサンプルは、肯定的な例と否定的な例で構成されています。 この場合、人と「人ではない」から。 ポジティブな例とネガティブな例の比率は、4対1、8000ポジティブ、2000ネガティブです。



LFW3Dデータベース[7]は、ポジティブトレーニングサンプルとして使用されました。 これには、JPEGなどの正面顔のカラー画像（サイズ90x90ピクセル、13000）が含まれています。データベースはFTP経由で提供され、アクセスはパスワードで保護されています。 パスワードを取得するには、サイトのメインページで簡単なフォームに入力する必要があります。ここで、名前とメールを入力できます。 以下の図に従って、データベースの人物の例を示します。







否定的な教育例として、SUN397データベース[8]が使用されました。これには、カテゴリに分類される膨大な数のあらゆる種類のシーンが含まれています。 合計130,000個の画像、908個のシーン、313,000個のシーンオブジェクト。 このベースの総重量は37 GBです。 画像のカテゴリは非常に異なり、最終PSを使用するより具体的な環境を選択できます。 たとえば、顔検出器が屋内での認識のみを目的としていることが事前にわかっている場合、自然、空、山などのトレーニングサンプルを使用しても意味がありません。 このため、この作品の著者は、リビングルーム、書斎、教室、コンピュータールームの画像カテゴリを選択しました。 以下の図に従って、SUN397トレーニングセットの画像の例を示します。

結果

90x90ピクセルの入力画像からの信号の直接伝播には20 ms（PC上）、モバイルアプリケーションでは3,000 msかかります。 640x480ピクセルの解像度でビデオストリーム内の顔を検出する場合、サイズが90x90ピクセルの50の重複しない領域を検出することができます。 選択したネットワークトポロジで得られた結果は、Viola-Jonesアルゴリズムに比べて劣っています。

結論

畳み込みニューラルネットワークは、スケール、変位、回転、角度の変化、その他の歪みの変化に対する部分的な耐性を提供します。



コアは、画像全体をスライドし、任意の場所で顔の兆候を検出するフィルターです（変位に対する不変性）。



サブサンプルレイヤーは以下を提供します。

• 前のレイヤーのマップの次元が減少するため、計算速度が向上します（少なくとも2倍）。
• 不要な詳細を除外します。
• より高いレベルの兆候を検索します（次の畳み込み層用）。

最後の層は、通常の多層パーセプトロンの層です。 2つの完全に接続された1つの出力。 この層は分類を担当し、数学的な観点から、複雑な非線形関数をモデル化し、認識の品質を向上させる最適化を行います。 下付き層の機能マップの数に応じた、層6のニューロンの数。



可能な改善

• ニューラルネットワークFast-RCNN、YOLOを検討してください。
• グラフィックプロセッサでの学習プロセスの並列化。
• Android NDK（C ++）を使用してパフォーマンスを改善する

畳み込みニューラルネットワークトレーニングについては、 第2部で説明します。

参照資料

- 畳み込みニューラルネットワークとは



-学習セット：

制約のない画像での効果的な顔の前線化//有効な顔。

SUNデータベース// MITコンピュータサイエンスおよび人工知能研究所



- 畳み込みニューラルネットワークに関する情報



- ニューラルネットワークのトレーニング関数について



- ニューラルネットワークの種類（ニューラルネットワークの同様の分類スキーム）



-初心者向けのニューラルネットワーク： 1つと 2つ 。