Windows機械学習の紹介-WinML

人工知能と機械学習は、近年の2つの誇大広告傾向です。 AI＆MLに必要な計算量は、通常、特殊で高性能でエネルギー効率の高い機器（たとえば、TPUを搭載したサーバー）を使用してデータセンターで実行されます。 進化は周期的であり、振り子はPC、タブレット、IoTなどの周辺機器でのコンピューティングに向かって振り返りました。 特に、これにより、音声コマンドに対するデバイスの反応速度が向上し、パーソナルアシスタントとのコミュニケーションの快適さが向上します。







WinMLは、開発者がWindows 10デバイスのすべての機能を使用して事前学習済みの機械学習モデルを計算し、Open Neural Network Exchange（ONNX）形式でアプリケーションにロードできるようにする新しいAPIセットです。



長くてWin-Winの伝統に従いますが（WinPhoneは覚えています）、AppleのiOS向けCoreMLおよびAndroid 8.1向けTensorFlow Lite / Neural Networks APIに従って、DirectML上で実行する開発者向けの高レベルWinML APIを公開しています。 このレイヤーは、DirectX 12を使用するか、コンピューティングデバイス（CPU / VPU / GPU）に直接アクセスできます。



開発の本質は、準備された機械学習モデルをクラウドまたは専用パッケージ（たとえば、Anaconda、Microsoft Cognitive Toolkit、TensorFlow）からUWPアプリケーションおよびWindows 10の従来のWindowsアプリケーション（WPF / WinForms / ConsoleApp）に転送することです。さらに、モデルを取得することもできますAzure Machine Learning Workbenchを使用すると、まもなく、Azure Custom Vision ServiceはWindows用のONNXモデルの作成もサポートします。 WinML APIは、Windows 10のすべてのエディションで使用できます。



これは、Windows開発者が長年待ち望んでいたソリューションです。 マイクロソフトは快適なエコシステムを作成しました。 競合するエコシステムの課題は、ユーザーと開発者をエコシステムに引き込むことです。 機械学習に関しては、Windowsを忘れる必要があるという過激な意見さえあります。 マイクロソフトはこれを認識しており、次の一歩を踏み出し、新しい市場に参入して懐疑論者を打ち負かすことを望んでいます。



モデルトレーニングツールとそれらを使用するアプリケーション間のモデル交換のテクノロジーは、Microsoft、Facebook、Amazonといった大手テクノロジー大手がサポートするONNXプロジェクトに基づいています。 開発者は、PyTorch、Caffe2およびその他のモデルをONNX形式に変換し、それらをアプリケーションに統合できます。 同時に、最終アプリケーションの開発者は、経験豊富な機械学習の専門家である必要はありません。 モデルは関数であり、その入力に対して準備されたデータセットを送信し、受信した回答を解釈する必要があることを理解することだけが必要です。



さらに、最初はニューラルネットワークモデルのみを格納するONNX形式を見ました。 プロジェクトのウェブサイトによると、ONNXはディープラーニングモデルを表すためのオープン形式です。 はい、そしてOpen Neural Network Exchangeの名前で。 ただし、WinMLで公開されているドキュメントには、WinMLToolsパッケージを使用してサポートベクターマシンモデル（ サポートベクターメソッド ）をONNXに転送する例が記載されています。 SVMは線形分類器のファミリーに属し、原則としてニューラルネットワークモデルにマッピングできます。 私が見るまで、他のどのモデルをONNXにアップロードできますか。 ロジスティック回帰モデル（実際には1つのニューロン）または線形回帰（活性化関数のないニューロン）をアンロードすることもできます。 ONNXにアップロードしてCNTK（Microsoft Cognitve Toolkit）で最も単純なMLPモデルを作成した最初の経験は失敗しました。 選択したハイパーパラメーターを現在の形式の実装に変換できませんでした。 互換性の問題。 しかし、それはCNTKバージョン2.3.1でした。 1週間前、CNTK 2.5がリリースされました。 新しいバージョンでは、ONNXサポートの改善について書いています。



MLは、代替ライブラリを介して.Net以前で利用できました。 たとえば、オープンソースプロジェクトのAccord.Net。 WinMLの有用性は、特定の標準を提供することです。これにより、一方では一般的なパッケージからモデルを取得でき、他方ではさまざまなハードウェアでモデルを実行できます。



Microsoftはプレゼンテーションで、DirectMLレイヤーを介してさまざまなプラットフォームにロードされたモデルをすばやく計算すると述べました。 開発者にとって、ハードウェアおよびソフトウェアプラットフォームの動物園用の計算の最適化は巨人的で、時には重労働です。 マイクロソフトが計画したとおり、アプリケーションはデスクトップだけでなく、Xbox、Hololens、さらにはIoTでも動作します。



CPU / GPU専用のカーネル/モジュールIntel、AMD、Qualcomm、NVidiaは、ハードウェアに関与できます。 グラフィックカードをお持ちですか？ モデルはそれで動作します。 ビデオカードはありませんが、Intelはあります。モデルは、ベクトル命令AVX256またはAVX512でも動作します。 統合グラフィックスが関係する場合があります。 IoTデバイスの計算能力が不十分-Intel Movidius VPUを接続します。 これはすべて、既存の機器の計算モデルを自動的に動的にコンパイルする技術のおかげです。



開発者は、アプリケーションで使用可能な機器を心配する必要はありません。 WinMLメカニズムは、ハードウェアを動的に使用し、必要なネイティブコードを作成して、デバイスで使用可能な機器から最大のパフォーマンスを取得します。 さらに印象的なのは、SnapDragon 835を実行している新しいラップトップやタブレット、さらにはIoTデバイスでも動作するWinMLの機能です。 したがって、利用可能なすべての追加の計算能力を使用でき、それらが存在しない場合は、計算に十分なのはCPUだけです。



春の更新により、開発者はIoTデバイスからワークステーション、サーバー、データセンターに至るWindowsデバイスファミリ全体でWinMLプラットフォームを使用できます。 WinMLプレビューリリースは、FP32コンピューティングをサポートしています。 最終バージョンはFP16をサポートすることが約束されています。 今日ではこれは関係ありませんが、Volta GPUの登場により、FP16テンソルカーネルのパフォーマンスが大幅に向上します（特別に訓練されたモデルの場合）。 Microsoftはすでに8倍の加速を実証しています。



その結果、開発者には多くの利点があります。



低レイテンシ 、リアルタイムの結果。 Windowsは、PCリソースを使用してモデルを計算できるため、画像やビデオなどの大きなローカルデータのオンザフライ分析が可能です。 計算結果は迅速かつ迅速に取得できます。



ユーザーのデバイス上のモデルのクラウドからのアンロードによる運用コストの削減 。 ネットワーク分析サービスとクライアント間でデータを転送するコストを削減または排除することにより、大幅な節約を実現できます。 クライアント側でMLモデルを実行すると、要求をローカルで処理でき、モデルを再トレーニングするための小さな新しいデータをサービスに送信できます。



柔軟性。 開発者は、ローカルまたはクラウドで計算を実行する場所を選択できます。 クライアントポリシーは、機密データのネットワークへの送信を禁止したり、ネットワークでの計算を必要として結果を取得するのにかかる時間を短縮したりすることがあります。

Windows Machine Learningの開始

このテクノロジーを使用するには、ソフトウェアを更新する必要があります。 Visual Studio Preview 15.7以降、ONWPファイルをUWPプロジェクトに追加すると、開発者プロジェクトに必要なインターフェイスが自動的に追加されます。 これはプレビューです。 さらに、Windows 10の必要なバージョンは、現在Insider Previewプログラムでのみ利用可能です。 Visual Studioの以前のバージョンでは、開発者はMLGenツールを使用して適切なインターフェイスを作成し、それをプロジェクトに手動で追加できます。 この機能は、間もなくAIのVisual Studioツールで利用できるようになります。



Windows ML APIドキュメントは3月7日に公開されました。 当時、2018年3月のWindows Developer Dayが開催され、ビデオはYouTubeのWindows Developerチャンネルで公開されました。





すでに機械学習で作業している人にとって、標準ライブラリの利点は理解できます。 そして、まだ主題に含まれていない人のために、アプリケーションで既製のMLモデルで何が得られるかを簡単に説明します。



上記のように、MLモデルは関数であり、その入力は固定（エンティティのパラメーター化された説明）または可変長（サウンド/スペクトログラム、ビデオ）のベクトルであり、出力では入力ベクトルをいくつかのクラスに割り当てると解釈できる応答ベクトルを取得します（分類、クラスタリングの問題）、ある程度の尤度（確率）、および入力ベクトルのいくつかの計算されたパラメーター（回帰問題）。 これは最も単純な場合です。 この記事のより複雑なアプリケーションは考慮されません。



例として、Microsoftは、 MNISTの有名な例をGitHubに投稿しました 。 モデルをプログラムに接続し、タッチスクリーン上で指で描いた数字をさらに認識することができます。 ただし、API手書き認識では、同様の機能がさらに豊富に実装されています。

GameDevの例でこれらのタスクを検討してください。

入力ベクトルとして、特定の画像または特定の状況（ゲーム）の表現があります。 画像は、一連のユーザーアクションまたは彼が見たものを記述し、それに基づいて行動します。 モデルはユーザーの行動を予測し、それに基づいて新しい環境を設計できます。



プレイヤーのゲームワールドをカスタマイズして、より多くのタスクとより多くのギフトを提供し、好みにすばやく適応させることができます。 プレイヤーがゲーム内で宝物を見つけるのが好きで、戦闘に参加したくない場合、モデルは宝物を追加し、戦闘の複雑さを軽減できます。





強化およびシミュレーショントレーニングモデルは、ゲーム体験に貢献できます



画像はボットの環境の説明であり、そのアクションはモデルの計算結果になります。 複雑なグラフィックス、たとえば、感情の描画やオーディオファイルの明瞭なアーティキュレーションなどです。





かなり難しいタスクは、キャラクターの手足のもっともらしいダイナミクスを誤って計算することです。





昨年、SIGGRAPH 2017で、流体力学の直接シミュレーションを行わずに流体力学を計算するためのMLモデルが発表されました。これにより、計算量が大幅に削減されます。





イマジネーションを含めると、スタイルを転送することで（ Prismaに似た）テクスチャのプロシージャル生成にモデルを使用できます。 同様に、ランドスケープ、アーキテクチャ、その他のエンティティを作成できます。



私が見るように、Mossゲームのメインキャラクターに似たゲームキャラクターの訓練されたモデル（ボット）の市場を形成することはかなり可能です。 まず、スケルトン/シェルの精巧なダイナミクスを使用します。 入力条件（速度/状態、性別/ステップ座標、感情のベクトル、アクション/目標）をMLモデルの入力に入力し、出力で次の状態を取得するとします。 このようなフレームから、関連する3Dアニメーションを組み立てることができます。





マウスの動きのダイナミクスやキーボードの使用状況のプロファイルなどに従って、ユーザーのアクションを分類するモデルを構築できます。



予想外のアプローチは、MLモデルを使用して画質を改善することです。 「超解像技術」と呼ばれる、NVIDIAからの「スマート」フィルタリングの例が多数の記事で提供されています。





MLスーパーサンプリング（左）およびバイリニアアップサンプリング（右）



MLモデルの範囲は広範であり、開発者の想像力によってのみ制限されます。 この記事が気に入ったら、次の記事でMLモデルの構築と使用の問題を簡単な例で説明します。