AWS EC2およびAWS DeepLearning AMIに基づいたsockeye（MXNet）を使用してchatbot-aを作成する

最近、AWSDeepLearningチームは新しいフレームワーク「sockeye」をリリースしました。これは、seq2seqネットワークのトレーニングを簡素化することを目的としています。 将来を見据えて-私はそのような単純ささえ期待していませんでした。 そこで、ニューラルネットワークの分野で読者の深い知識を必要としない、シンプルで迅速かつ自給自足のガイドを書くことにしました。 すべての手順を正常に完了するために必要な唯一のことは、以下の経験を積むことです。

• AWS EC2;
• SSH;
• python

これら3つすべてが問題を引き起こさない場合-猫をお願いします。



続行する前に、私を支えてくれた後援者に特別な感謝を表明したいと思います。



すでに述べたように、先日、AWS DeepLearningチームは新しいフレームワーク「sockeye」をリリースしました。 公式ウェブサイトから引用させてください：

... Sockeyeプロジェクト、MXNetに基づくニューラル機械翻訳のシーケンス間フレームワーク。 よく知られているエンコーダーデコーダーアーキテクチャを実装し、注意を払っています。

無料翻訳：

Sockeyeは、機械翻訳でニューラルネットワークをトレーニングするためのフレームワークであり、よく知られているエンコーダーデコーダーアーキテクチャに基づいています。

公式には、このフレームワークはトレーニングネットワーク用、機械翻訳用に設計されていますが、技術的には、1つのシーケンスを別のシーケンスに変換するタスクのより一般的なクラス（seq2seq）のトレーニングにも使用できます。 機械翻訳とチャットボットの作成という2つのタスクとしての共通点があり、 以前の記事の 1つで同様の方法で解決できる理由については、既に触れました。 したがって、私は自分自身を繰り返さず、好奇心reader盛な読者がリンクをたどる機会を残し、その間、チャットボットを直接作成します。

プロセスの説明

一般に、プロセスは次の手順で構成されます。

1. DeepLearning AMIに基づくGPUでEC2マシンを持ち上げます
2. EC2トレーニングマシンを準備する
3. トレーニングを開始
4. 待って
5. 利益

AWS DeepLearning AMIに基づいて、GPUを使用してEC2車を上げる

この記事では、 AWS DeepLearning AMI （以降：DLAMI）を使用します（ちなみに、AMIがわからない場合は、 こちらの公式ドキュメントに精通することをお勧めします）。 この特定のAMIを使用する主な理由は次のとおりです。

• Nvidia CUDAドライバーが含まれています（執筆時、バージョン：7.5）。
• GPUサポートで組み立て-MXNet;
• 必要なすべての（ほぼ）ユーティリティが含まれます。例：git;
• 驚いた、驚いた、GPUがあるマシンで使用できます。

AMIから必要な車をすばやく作成するには、AW​​S MarketplaceのDLAMIページに移動します 。 ここでは、次のことに注意する価値があります。

1. AMIバージョン

執筆時点では、「2017年6月」が最新バージョンであったため、この記事の残りの部分とプロセスの一貫性を保ちたい場合は、選択することをお勧めします。

2.作成する地域

GPUを搭載したすべてのタイプのマシンがすべての地域で利用できるわけではないことに注意してください。 実際、正式に利用できる場合でも、作成できるとは限りません。 そのため、たとえば、2016年の彼らとのNIPS会議では、非常に問題がありました。 タイプp2のマシンに加えて、執筆時点では、DLAMIはこのタイプが利用可能な地域でのみ利用可能でした。

3.インスタンスタイプの選択

p2.xlarge-GPUメモリの要件を満たす最も安価なマシンです（g2.2xlargeを試してみることはできますが、後で警告されなかったと言わないでください）。 執筆時点では、価格は1時間あたり約0.9ドルでした。 しかし、公式ウェブサイトで価格を確認した方が良いでしょう。

4. VPC

あなたはそれで何をすべきかわからない場合-触れないでください。

5.セキュリティグループ

VPCと同様に、あなたは知らない-触れないでください。 ただし、既存のグループを使用する場合は、そこでSSLが開いていることを確認してください。

6.キーペア

読者がSSHの経験があり、それが何であるかを理解していると仮定します。

7.クリックして作成します！

実際、マシンを作成して接続できます。

ネットワークトレーニングの準備

新しく作成されたマシンに接続します。 すぐに、画面を開始します。 また、接続時にubuntuログインを使用する必要があるという事実を忘れないでください：



この点に関するいくつかのコメント：

• DLAMIにはすぐに使えるtmuxが含まれていないため、「スクリーン」と言いました。 ええ、悲しい。
• 画面やtmuxがわからない場合でも問題ありません。読み続けるだけで問題なく動作します。 ただし、 tmux （私の選択）とscreenのような動物の種類については読みに行く方が良いでしょう。

1. sockeyeをインストールする

最初に必要なのは、sockeyeをインストールすることです。 DLAMIを使用すると、インストールプロセスは非常に簡単で、コマンドは1つだけです。

sudo pip3 install sockeye --no-deps
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

ここで重要なのは、デフォルトではDLAMIのpipがPython 2を使用するため、pipだけでなくpip3を使用する必要があるということです。これは、sockeyeではサポートされていません。 また、依存関係はすべてインストールされているため、インストールする必要もありません。

2.トレーニング用のデータ（ダイアログ）の準備

トレーニングには、「Cornell Movie Dialogs Corpus」（https://www.cs.cornell.edu/~cristian/Cornell_Movie-Dialogs_Corpus.html）を使用します。 実際、これは映画からの膨大な対話です。 トレーニングのために、あなたはそれを「準備」する必要があります。実際、私はすでにケースを準備するスクリプトを実装しており、これまでにないことについて詳しく説明しました。



それでは、トレーニング用にこれらのデータを取得して準備しましょう。

 # cd ~/src src# git clone https://github.com/b0noI/dialog_converter.git Cloning into 'dialog_converter'… remote: Counting objects: 59, done. remote: Compressing objects: 100% (49/49), done. remote: Total 59 (delta 33), reused 20 (delta 9), pack-reused 0 Unpacking objects: 100% (59/59), done. Checking connectivity… done. src# cd dialog_converter dialog_converter git:(master)# git checkout sockeye_chatbot Branch sockeye_chatbot set up to track remote branch sockeye_chatbot from origin. Switched to a new branch 'sockeye_chatbot' dialog_converter git:(sockeye_chatbot)# python converter.py dialog_converter git:(sockeye_chatbot)# ls LICENSE README.md converter.py movie_lines.txt train.a train.b test.a test.b
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

注目に値するいくつかのこと：

• srcフォルダーは既に存在するため、作成する必要はありません。
• ブランチ「sockeye_chatbot」に注意してください。この記事には、この記事と整合性のあるコードが格納されています。 マスターは自己責任で使用してください。

それでは、トレーニングを行うフォルダーを作成して、そこにすべてのデータをコピーしましょう。

 # cd ~ # mkdir training # cd training training# cp ~/src/dialog_converter/train.* . training# cp ~/src/dialog_converter/test.* .
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

さて、トレーニングを開始する準備が整いました...

トレーニング

sockeyeを使用すると、トレーニングプロセスは非常に簡単です。1つのコマンドを実行するだけで済みます。

 python3 -m sockeye.train --source train.a --target train.b --validation-source train.a --validation-target train.b --output model
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

トレーニングと検証に同じデータを使用しないでください。 ただし、現時点のスクリプトでは、データを2つのグループに正確に分割していないため、より良い結果（主観的な評価について話している）が得られます。







最後の記事を読んでいると、sockeyeがあなたのワークアウトに適した設定を見つけようとしていることに気付くかもしれません：

• 辞書サイズ;
• ネットワーク設定。
• など...

最適に近い構成は、より高速な（安価な）トレーニングにつながる可能性があるため、これはかなり良いです。 まだ、sockeyeがパラメーターを検索する方法と、このプロセスに費やされるリソースの量を正確に確認する必要があります。



また、sockeyeは、トレーニングプロセスを完了する価値がある時期を正確に判断します。 これは、モデルの品質が最後の8つのコントロールポイントの検証用データで改善されていない場合に発生します。

結果を待っています

待っている間、トレーニング中にMXNetがGPUリソ​​ースを噛む様子を見ることができます。 これを行うには、新しいウィンドウで次のコマンドを実行します。

 watch -n 0.5 nvidia-smi
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

次のようなものを参照してください。







ちなみに、技術的には、ボットとの通信を開始するには、少なくとも最初に作成されたコントロールポイントを待つ必要があります。 これが発生すると、次のようなものが表示されます。







これで通信を開始できます。

チャット...

このプロセスでは、トレーニングを停止する必要はありません。新しいウィンドウ（または、新しいSSH接続）を開き、トレーニングが行われている同じフォルダーに移動してコマンドを実行するだけです。

 python3 -m sockeye.translate --models model --use-cpu --checkpoints 0005
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

注目したいいくつかの要素：

• python3-当然;
• model-学習プロセスがモデルを保存するフォルダーの名前。トレーニング中に指定された名前と一致する必要があります。
• --use-cpu-これがないと、MXNetはGPUを使用しようとしますが、学習プロセスでまだ使用されているため、失敗する可能性が最も高くなります。
• --checkpoints 0005-チェックポイントが保存されたときにコンソール出力から取得されたチェックポイント番号。

コマンドの実行後、sockeyeはSTDINから入力を読み取り、STDOUTに応答を出力します。 以下に例を示します。

1時間のトレーニング後：

2時間のトレーニングの後

3時間のトレーニングの後、私を脅かし始めました=）

おわりに

sockeyeでわかるように、トレーニングプロセスは非常に簡単です。 実際、おそらく最も難しいことは、適切なマシンを選択して接続することです=）私はまだ読者の一人が次のことをするのを待っています：

• マスターヨーダ（まあ、またはベイダー）によってボットを作成しました。
• ロードオブザリングユニバースからボットを作成しました。
• StarWarsユニバースからボットを作成しました。

PS：モデルをダウンロードし、卒業後に車を打ち負かすことを忘れないでください。

訓練されたモデル

ここで 、トレーニングされたモデルをダウンロードできます（トレーニングは4時間のみ）。 独自のトレーニングを行わない場合は、ローカルマシンで使用してボットと遊ぶことができます。