ResNet50。 独自の実装

みなさんこんにちは。 ニューラルネットワークライブラリについては、前回の記事で説明しています 。 ここで、TF（Tensorflow）からトレーニングされたネットワークを決定に使用する方法と、それが価値があるかどうかを示すことにしました。



カットの下で、TFの元の実装との比較、写真を認識するためのデモアプリケーション、よく...結論。 誰も気にしないでください。



ResNetの仕組みについては、たとえばこちらをご覧ください 。



ネットワーク構造を数字で示します。







コードはpythonほど単純で複雑ではないことが判明しました。





→完全なコードはこちらから入手できます



それを簡単に行うことができ、ネットワークアーキテクチャとファイルからの重みを読み込み、





興味のあるアプリケーションを作成しました。 こちらからダウンロードできます。 ネットワークの重みにより、ボリュームが大きくなっています。 ソースがあります。例として使用できます。



アプリケーションは記事専用に作成されたため、サポートされないため、プロジェクトリポジトリには含まれていません。







さて、TFと比較して何が起こったのか。



平均100個の画像を実行した後の兆候。 マシン：i5-2400、GF1050、Win7、MSVC12。



認識結果の値は、3文字目まで一致します。



→ テストコード





実際、すべてがもちろん嘆かわしいです。



CPUについては、MKL-DNNを使用しないことにしました。私はそれを終了することを考えました。シーケンシャル読み取りのためにメモリを再分散し、ベクトルレジスタを最大限にロードしました。 おそらく、行列の乗算、および/または他のいくつかのハッキングにつながる必要がありました。 ここで休むと、最初はもっと悪かったのですが、MKLをすべて同じように使用する方が正しいでしょう。



GPUでは、ビデオカードのメモリからメモリへのメモリのコピーに時間がかかり、すべての操作がGPUで実行されるわけではありません。



このすべての騒ぎからどのような結論を引き出すことができますか：



-誇示するのではなく、よく知られた実績のあるソリューションを使用するために、すでに多かれ少なかれ気になっています。 彼は一度mxnetに座って、ネイティブ使用に苦労しました。



-MLフレームワークのネイティブCインターフェイスを使用しようとしないでください。 そして、開発者が焦点を当てた言語、つまりpythonでそれらを使用します。



あなたの言語からML機能を使用する簡単な方法は、Pythonでサービスプロセスを作成し、ソケットで画像を送信することです。責任の分担と重いコードの欠如が発生します。



おそらくすべて。 この記事は短いものでしたが、結論は価値があり、MLだけに当てはまるとは思いません。



ありがとう



PS：

まだTFに追いつくことを試みたいという欲求と強さを持っている人がいれば、 歓迎 ！）



PS2：

早く手を下げました 彼は煙の休憩を取って、再びそれを取り、すべてがうまくいった。

CPUについては、私が考えたように、行列乗算へのキャストが役立ちました。

GPUの場合、すべての操作を個別のlibで選択したため、CPUにコピーすることなく、その逆もありませんが、このアプローチの唯一のマイナス点は、いくつかの事が一致したものの、すべての演算子を書き直さなければならないことでしたが、それらを接続しませんでした。

一般的には、次のようになります。



つまり、少なくともTFの場合よりも推論がさらに速くなりました。

テストコードは変更されていません。