デコンボリューショナルニューラルネットワーク

画像認識のための古典的なニューラルネットワークの使用は、原則として、ニューラルネットワークの入力値のベクトルの大きな次元、中間層の多数のニューロン、および結果として、ネットワークのトレーニングとコンピューティングのためのコンピューティングリソースのコストが高いために複雑です。 畳み込みニューラルネットワークは、上記の欠点に固有ではありません。



畳み込みニューラルネットワーク（ CNN ）-Jan Lekunが提案し、効率的な画像認識を目的とした人工ニューラルネットワークの特別なアーキテクチャは、ディープラーニング（英語のディープリーニング ）の技術の一部です。 この技術は、脳の視覚皮質の原理との類推によって構築されています。ここでは、さまざまな角度で直線に反応するいわゆる単純細胞と、その反応が特定の単純細胞のセットの活性化に関連する複雑な細胞が発見されました。 したがって、畳み込みニューラルネットワークの考え方は、畳み込み層（英語の畳み込み層 ）とサブサンプリング層（英語のサブサンプリング層 、サブサンプル層）を交互にすることです[6]。





図1.畳み込みニューラルネットワークアーキテクチャ



畳み込みニューラルネットワークを理解するための重要なポイントは、いわゆる「共有」重みの概念です。 ニューラルネットワークの特定の層のニューロンの一部は、同じ重み係数を使用できます。 同じ重みを使用するニューロンは特徴マップに結合され、 特徴マップの各ニューロンは前の層のニューロンの一部に関連付けられます。 ネットワークを計算すると、各ニューロンは前の層の特定の領域（このニューロンに関連付けられたニューロンのセットによって定義される）の畳み込み（ 畳み込み演算 ）を実行することがわかります。 説明した方法で構築されたニューラルネットワークの層は、畳み込み層と呼ばれます。 畳み込みニューラルネットワークの畳み込み層に加えて、サブサンプリング層（フィーチャマップの空間の次元を減らす機能を実行）と完全に接続された層（原則として、出力層は常に完全に接続されています）があります。 3種類のレイヤーはすべてランダムな順序で交替できます。これにより、フィーチャマップからフィーチャマップをコンパイルできます。これは、実際には、複雑なフィーチャ階層を認識できることを意味します[3]。



畳み込みニューラルネットワークのトレーニングでパターン認識の品質に正確に影響するものは何ですか？ この質問に戸惑い、彼らはマシュー・ツァイラーの記事に出会いました。 現在のニューラルネットワークの動作を理解および分析するために、 デコンボリューショナルニューラルネットワーク （ DNN ）の概念と技術を開発しました。 Matthew Zeilerの記事では、デコンボリューショナルニューラルネットワークの技術が提案されています。これは、 CNNトレーニング中に取得されたフィルターとパラメーター（図2）を考慮して、画像の階層表現を実装します（図2）。 これらの表現は、ノイズ低減などの主要な信号処理の問題を解決するために使用でき、オブジェクト認識のための低レベルの機能も提供できます。 階層の各レベルは、下の階層にあるレベルの機能に基づいて、より複雑な機能を形成できます。





図2.画像ビュー



CNNとDNNの主な違いは、 CNNでは入力信号が畳み込みとサブサンプリングのいくつかの層を経ることです。 反対に、 DNNは、使用されるフィルターを考慮して、フィーチャカードの畳み込みの合計の形式で入力信号を生成しようとします（図3）。 この問題を解決するために、パターン認識の理論の幅広いツール、たとえば、 ブレ除去アルゴリズムが使用されます。 Matthew Sailerによって書かれたこの作品は、画像オブジェクトの認識を、データの処理とフィルタリングのための低レベルのタスクとアルゴリズムに結びつけようとする試みです。



畳み込み演算を理解するには、中間層のフィーチャマップの動作の解釈が必要です。 畳み込みニューラルネットワークを研究するために、図3に示すように、 DNNが各レイヤーに接続され、ネットワーク出力から入力画像ピクセルへの連続パスを提供します。 まず、畳み込み演算が入力画像に対して実行され、特徴マップがすべてのレイヤーに対して計算されます。その後、 CNNの動作を調べるために、レイヤー内のすべてのニューロンの重みがゼロに設定され、結果の特徴マップが接続されたデコンバーネットレイヤーの入力パラメーターとして使用されます。 次に、次の操作を順次実行します。（I）分離、（II）修正、および（III）ろ過。 レイヤー内のニューロンの重みや使用されるフィルターなどの必要なパラメーターを取得するために、下のレイヤー内の文字マップが再構築されます。 この操作は、画像の入力ピクセルの値に達するまで繰り返されます。





図3. DNNを使用した畳み込みニューラルネットワークの研究プロセス



切断操作：畳み込みニューラルネットワークでは、これは結合操作であり、不可逆的ですが、各領域内の最大値の位置を記録することにより、おおよその逆数値を取得できます。 結合の操作とは、ニューロンのすべての入力値の合計と、結果の量をニューロンの伝達関数に転送することです。 DNNでは、切断操作は、現在処理中のレイヤー内の適切な場所の上のレイヤーにある変数セットの変更を使用します（図2を参照）。



整流操作：畳み込みニューラルネットワークは、非線形関数（ relu（x）= max（x、0） 、x入力画像）を使用するため、結果の特徴マップが常に正であることが保証されます。



フィルタリング操作：畳み込みニューラルネットワークは、ネットワークのトレーニング中に取得したフィルターを使用して、前のレイヤーの特徴マップを畳み込みます。 どのフィルターが画像に適用されたかを理解するために、deconvnetは同じフィルターの転置バージョンを使用します。 より高いレベルから「下降」を設計するには、 CNNトレーニングから取得したパラメーターの変更を使用します。 これらの変更はこの入力画像に固有であるため、1つの関数から得られた再構成は、特徴マップへの寄与に従って重み付けされた構造（図4）を持つ初期画像の小さな断片に似ています。 モデルは明らかにされた特徴に従ってトレーニングされるため、構造は、入力画像のどの部分（または2つの異なる画像の部分）が受信特性に関して異なるかを暗黙的に示します[4]。 また、得られた構造により、画像のどの低レベルの特徴が分類の鍵であるかについて結論を出すことができます。





図 4.画像構造。



理論上は常にグローバルな最小値を見つけることができますが、実際にはそれは困難です。 これは、機能マップの要素がフィルターを介して互いに接続されているという事実によるものです。 マップ内の1つの要素が、この要素から遠く離れた他の要素に影響を与える可能性があります。つまり、最小化には非常に長い時間がかかる可能性があります。



DNNを使用する利点：



1）概念的にシンプルな学習スキーム。 DNNトレーニングは、プール解除、修正、画像フィルタリング、およびCNNトレーニング中に取得した特徴マップを使用して実行されます。

2）ソース画像にDNNを適用すると、プリミティブ表現を使用して画像構造全体をカバーするフィルターの大きなセットを取得できます。 したがって、元の画像のすべての小さな断片ではなく、画像全体に適用されるフィルターが取得されます。 これは、 CNNトレーニング中に発生するプロセスをよりよく理解できるため、大きな利点です。

3）表現（図2）は、分離、修正、フィルタリングなどの特定のパラメーターや追加モジュールを構成せずに取得できます。 これらの表現は、 CNNトレーニングの過程で取得されます。

4） DNNを使用するアプローチは 、 CNNトレーニング中に取得されたフィルターの使用と同様に、グローバル最小値の検索方法に基づいており、畳み込みアプローチで発生する悪条件のコストを最小限に抑えるように設計されています。



レビュー記事には、Matthew Zeilerが実施した実験の結果も掲載されています。 ImageNet 2013コンペティションで彼が提案したネットワークは、画像分類の問題を解決するときに最良の結果を示しました。エラーはわずか14.8％でした。 1000カテゴリのオブジェクトの分類。 トレーニングサンプルは120万枚の画像で構成され、テストサンプルは15万枚の画像で構成されました。 各テスト画像について、認識アルゴリズムは信頼性の高い順に5つのクラスラベルを生成する必要があります。 エラーを計算する際、最も信頼性の高いラベルが、各画像について既知の画像上に実際に存在するオブジェクトのクラスのラベルに対応するかどうかが考慮されました。 5つのラベルの使用は、暗黙的に表示される可能性のある画像内の他のクラスのオブジェクトを認識した場合に、アルゴリズムの「罰」を除外することを目的としています[1]。 ImageNet 2013のその他のコンテストについては、 こちらをご覧ください 。



デコンボリューションニューラルネットワークの結果を図5に示します。





図5. DNNの結果



Seilerは、次の分野でDNNテクノロジーをさらに開発する予定です。



1） DNNでの画像の分類の改善。 DNNネットワークは、畳み込みネットワーク学習プロセスの特徴を理解するために導入されました。 高レベル関数に加えて、畳み込みニューラルネットワークのトレーニング中に取得したパラメーターを使用して、 DNNの分類レベルを上げるメカニズムを提供できます。 さらなる作業はソース画像の分類に関連しているため、テンプレート手法が適用されると言えます。 画像は、オブジェクトが属するクラスに基づいて分類されます。

2） DNNスケーリング。 DNNで使用される出力メソッドは、多くの反復が必要なため、本質的に低速です。 直接通信に基づく数値近似法も調査する必要があります。 これには、 DNNが大規模なデータセットに拡張できるスナップショットの現在のバッチの関数とマージパラメーターのみが必要です。

3）画像内のいくつかのオブジェクトを検出するための畳み込みモデルの改善。 畳み込みネットワークは、長年にわたって分類に使用されていることが知られており、最近では非常に大きなデータセットに適用されています。 ただし、画像に存在するいくつかのオブジェクトを検出するための畳み込みアプローチで使用されるアルゴリズムのさらなる開発が必要です。 画像内の複数のオブジェクトCNNを一度に検出するには、大量のトレーニングデータセットと、ニューラルネットワークをトレーニングするためのパラメーター数を大幅に増やす必要があります[4]。



彼の記事を研究したので、 DNNの研究を行うことにしました。 Matthew Sailerは、 Matlab用のデコンボリューショナルネットワークツールボックスを開発しました。 そして、すぐに問題に直面しました-このToolboxをインストールするという簡単なタスクではありません。 インストールが成功した後、これらのスキルをHabrachiansと共有することにしました。



それでは、インストールプロセスに移りましょう。 Deconvolutional Network Toolboxは 、次の技術仕様のコンピューターにインストールされました。

• Windows 7 64x

• Matlab b2014a



インストールする必要があるソフトウェアを準備することから始めましょう。



1） Windows SDK 、インストール中にVisual C ++コンパイラのチェックを外す必要があります

Microsoft Visual C ++ 2010

VS 2010 再頒布可能 x64またはVS 2010 再頒布可能 x86が既にコンピューターにインストールされている場合は、削除する必要があります。

Windows SDKのインストールプロセスを完了し、 パッチをインストールします

2）その後、 VS 2010をダ​​ウンロードしてインストールします

3）このツールボックスをインストールするにはiccコンパイラーもインストールする必要があります。この場合、 インテルC ++ Composer XEコンパイラー2011です。

4） Matlabで 、コマンドを入力します

  mbuild -setup 

SDK 7.1が自動的に選択されます。

同様に起こる

  mex –setup 

コンパイラが正常にインストールされたら、ツールボックスの構築を開始できます。



ソフトウェアの準備が完了しました。 コンパイルプロセスを開始します。



1）からツールボックスをダウンロード

www.matthewzeiler.com/software/DeconvNetToolbox/DeconvNetToolbox.zipおよびunzip

2） Matlabで、解凍されたツールボックスがあるディレクトリに移動し、 「setupDeconvNetToolbox.m」ファイルを実行します

3） PoolingToolboxフォルダーに移動します。 compilemex.mファイルを開きます

このファイルはLinux用に作成されているため、このファイルには多くの変更を加える必要があります。

MEXOPTS_PATHのパスをMatlabに登録し、64ビットシステムのコンパイラフォルダーにあるライブラリ、およびコンパイラとVisualStudio 2010ヘッダーファイルに登録する必要があります。

4）さらに変更を加えてみましょう、彼らはこのように見えます

exec_string = strcat({'mex '},MEXOPTS_PATH,{' '},{'-liomp5mt max_pool.cpp'});

eval(exec_string{1});





同様に、コンパイルされた残りのファイルに対しても行う必要があります（ 例 ）

5） mexopts.shにも変更を加えます

また、64ビットおよび32ビットコンパイラへのパスを登録する必要があります。 （ 例 ）

6） IPP Convolution Toolboxディレクトリに移動します

7） MEXフォルダーに移動してcomplimex.mファイルを実行します 。ここでは、ステップ4と同じように登録し、 ipp_libとipp_includeにパスを個別に追加する必要もあります 。 （例）

Matlabは十分なライブラリがないと言います 、それらはcに入れる必要があります：\ Program Files（x86）\ Intel \ ComposerXE-2011 \ ipp \ lib \ intel64 \

8）パラグラフ5と同様に、変更を行います

  exec_string = strcat（{'mex'}、MEXOPTS_PATH、{''}、{IPP_INCLUDE_PATH}、{''}、{IPP_LIB64_PATH}、{''}、{IPP_LIB_PATH}、{''}、{'-liomp5mt -lippiemerged -lippimerged -lippcore -lippsemerged -lippsmerged -lippi ipp_conv2.cpp '}）;
 eval（exec_string {1}）; 

（ 例 ）

すべてが正常に機能した場合、ファイルを実行します-続行します。

9） GUIフォルダーに移動します

10） gui.mファイルを開きます。ここでは、解凍されたDeconvolutionalツールボックスを使用してフォルダーへのパスを指定する必要があります。

START_DATASET_DIRECTORY = 'C:/My_projects/DeconvNetToolbox/DeconvNetToolbox';

START_RESULTS_DIRECTORY = 'C:/My_projects/DeconvNetToolbox/DeconvNetToolbox';





（ 例 ）

11） gui.mファイルを実行します。 稼いだ？ 閉じて先に進みます。

12）次に、Toolboxが出力されたフォルダーで、 Resultsフォルダーを作成し、その中にtempフォルダーを作成します。 結果フォルダgui.mから実行すると、パラメータが設定されたグラフィカルインターフェイスが表示されます。右下隅の「結果を保存」を1に設定し、「 保存 」をクリックします 。 これらのアクションの結果として、 gui_has_set_the_params.matファイルが、Matthew Sailerによって提案されたDNNネットワークデモモデルのパラメーターとともにGUIディレクトリに生成されます。

13） trainAll.mスクリプトを呼び出して、結果のモデルのトレーニングを開始できます。

すべてのアクションが正しく実行された場合、トレーニングを完了した後、 結果フォルダーで作業の結果を確認できます。



これで調査を開始できます！ 別の記事が研究結果に当てられます。



参照：

1） habrahabr.ru/company/nordavind/blog/206342

2） habrahabr.ru/company/synesis/blog/238129

3） habrahabr.ru/post/229851

4） www.matthewzeiler.com/pubs

5） geektimes.ru/post/74326

6） nordavind.ru/node/550