機械学習：最先端

2015年、芸術の世界に新しい言葉「 インセプショニズム 」が登場しました。 車は絵を描き直すことを学び、すでに2016年に、Prismaは何百万人もの人々によってダウンロードされました。 今日は、高い評価を受けているNeural Defenseの著者であるIvan Yamshchikovとアート、機械学習、人工知能についてお話します。







会いましょう：イワン・ヤムシチコフ。 彼はブランデンブルク工科大学（コットブス、ドイツ）で応用数学の博士号を取得しました。 現時点では-Max Planck Institute（ライプツィヒ、ドイツ）の研究者およびYandexのアナリスト/コンサルタント。



-Neurona、Neural Defense、Pianola-創造的なAIへの情熱はどのようにして始まったのですか？ どの時点でこのトピックに真剣に取り組むことにしましたか？



Ivan Yamshchikov：私はそれを創造的な人工知能に対する深刻な情熱とは呼びません。 アレクセイ・ティホノフがニューロ詩人についてのアイデアを共有し、2016年の夏にアルバム「Neural Defense」を一緒にレコーディングすることに決めたのはまさにその時です。 それ以来、この分野がはるかに広いことが明らかになり、現在、私は人工知能のトピックに継続的に取り組んでいます。



これは非常に興味深いトピックであり、現在、動いています。AIの歴史には、不当で誇張された期待からの失望の時期である「冬」がいくつかありました。 今がAIに大きな関心を寄せる3番目の時期であり、近いうちに同様の問題に直面する可能性があります。 それにもかかわらず、機械翻訳、集約システム、自律システムなど、多くのシステムの仕事には本当に質的な飛躍があります。



-マットモデルと音楽/絵画を組み合わせるという考えは新しいものではありませんが、なぜ今アプローチが発動したのですか？



Ivan Yamshchikov：これはおそらく私のお気に入りのトピックの1つです。90年代にシューティングゲームをプレイしたとき、あなたは無意識にAIの開発を支援しました。



ビデオカード（GPU）は、グラフィカルインターフェイスとゲームの開発のためにアップグレードされましたが、ある時点で、人々はそれらが並列コンピューティングに使用できることを理解し、CUDAが登場しました。 当初、流体力学の科学分野では、グラフィックカードで多くのモデルを適切に計算できるため、CPUでのそのような計算は数倍高価になります。 数年後、ニューラルネットワークもグラフィックカードを使用して完全に並列化およびトレーニングされることが判明しました。 そして、科学コンピューティングの開発におけるこのブームにより、以前はアクセスできなかったサイズのニューラルネットワークの作成が可能になりました。



クラウドコンピューティングも役割を果たしました：現在、GPUを購入する必要さえなく、レンタルすることができます。 同様に、適切な量のCPUをレンタルできます。 これによりエントリのしきい値が低くなり、テクノロジーでは常に次のようになります。しきい値が低いと、結果はずっと速く表示されます。



絵画に関しては、ここでの主要な記事は、テュービンゲンの研究者によって書かれた神経芸術スタイルです。 実験の結果、ニューラルネットワークのレイヤーの1つで（描画されたように）スタイルの原因であるサインが収集され、もう1つでセマンティクス（つまり-コンテンツ）が収集されました。 この記事から、有名なPrismaアプリケーションが誕生しました。



そして文学と詩が大好きなので、音楽を作ることにしました。 Yegor Letovが選ばれたのは、私たちが彼を愛しており、彼のスタイルを真似しようとしたからです。 一般に、これらは専ら審美的な好みです。



一般に、音楽の操作はテキストよりもはるかに実用的です。辞書を操作するときは、ワンホットエンコードに基づいています（すべての単語に番号が付けられ、i番目の単語はi番目の位置にあるベクトルです） 1、しかし他のすべてではない-0）。 一連のドキュメントを処理した後、非常に大きなスペースが取得されます。 さらに、word2vec（ https://ru.wikipedia.org/wiki/Word2vec ; https://habrahabr.ru/post/249215/ ）などの多くの方法を使用して、次元を人為的に縮小します 。



いずれにせよ、私たちは三次元や四次元ではなく、数百の空間次元について話している。 通常、このような次元のスペースで作業することは困難です。一部の領域はデータ密度が高く、その他の領域は逆にあまりに疎です。構造は非常に複雑になります。 また、音楽について話してメモを取る場合、各音はオクターブと音の組み合わせです。 オクターブと4〜5オクターブの12のノート（シャープ/フラット付き）。 そしてこの観点から、この空間ははるかに低い次元を持っています。



また、メロディ全体に近づくと、パラメータ空間が密になるようにデータをスケーリングできます。ギャップはほとんどありません。 さまざまなタイプのデータのニューラルネットワークで実験したところ、音楽の示された特性により、一般的に訓練されたモデルが機能するかどうかをより速くより速く理解できることがわかりました。これは実用的な解決策でした。



-技術者が創造的なAIに精通するのに最適な場所は何ですか？このトピックに関する優れたリソース、コース、講義はありますか？



Ivan Yamshchikov：象を部分的に食べます。 まず、ニューラルネットワーク！=人工知能。 一方、国会は最も人気のあるトピックの1つであり、多くの資料が利用できます。 AIと機械学習に関するコースと資料もあります。 ロシア語の主なものをリストします：HSEとYandexの共同コース、機械学習のVorontsovコース、ベイジアンメソッドのVetrovコース、深層学習のLempitskyコース、英語：CourseraのUdacityのコース（TensorFlowを含む）。



創造的なAIに関するコースはありません-トピック自体は科学と芸術の交差点にあります。 ここジャンクションでの質問のほとんどは公開されています。



私が本当に見ることと時間を費やすことは、機械学習コース（上記を参照）と深いコースを含むことをお勧めします。



-多くの人は、機械学習の最新の方法は、すでに作成された作品から一部をコピーし、見つかった規範に従ってそれらを結合するだけだと言いますが、AIによって作成された作品に本当に驚いたことはありましたか？



Ivan Yamshchikov：一般に、これは当然のことながら、合理的で正当化された批判ですが、技術的および哲学的という2つの反論があります。



テクニカルから始めましょう。 以前は、これを行う方法がわかりませんでしたが、今では学びました。 そして今、私たちが技術的にそのようなものを作成できるという事実は、ブレークスルーです。 たぶん、美術史の観点からではなく、純粋に技術的なものからです-確かに。



哲学的観点から：ポストモダニストは同じことをします。 そして、ポストモダニズムの時代に生きているなら、ある意味で事実上すべての著者が経験をコピー、模倣、または触発されます。 そして、一般的に、学習の問題を考慮する場合（もちろん、すべてが完全に形式化された数学的装置があるわけではありません）、これは情報の流れの知識への変換です。 知識とは、特定の方法でフィルタリング、整理、およびランク付けされた情報です。 そして、もっと深く見れば、人間の学習を含むあらゆるトレーニングの基礎は、経験を組み合わせて変換することです。 そして、何か新しいことが判明したように見えますが、実際には、以前に得た経験の組み合わせから得られます。



驚いたことに関しては。 Neuronaのお気に入りのラインがあります。「イラクに常に歓迎されている神」（イラクに常に歓迎されている神）は、まったく予期しないラインです。



心理学にはそのような用語があります：アポフェニア-それらが存在しないパターンを見つける能力。 この意味で、現在の機械の創造性は、もちろん、アポフェニアに訴えます。この特性が人に強くなればなるほど、機械の創造性はより興味深いものになります。



-前の質問の続き：試合ではAlphaGo vs. Le Sedol AlphaGoは5行目でプレイしました-これは誰にもできなかった動きです（GOコミュニティで嵐を引き起こしました）-明らかに人間のスタイルに固有ではない何かの作成された作品の例は何ですか？



Ivan Yamshchikov：膨大な量のデータが人間に利用可能です：触覚や味覚、匂い、その他多数。 そして、これはある意味で意識を決定する、人間が利用できる巨大な経験です。 このボリュームのマシンはそうではなく、したがって、それらの存在は人間のそれよりもはるかに多様性がなく、興味深いものです。 その結果、機械によって書かれたテキストは、人間によって書かれたものとは根本的に異なります。



基本的な質問は次のとおりです。人がテキストを作成する原理を理解しましたか。 そして、ここ科学界では明確で明確な答えはありません。 テキストであろうと音楽であろうと、離散シーケンスを生成する問題は、科学的知識の最端部にある未解決の問題であり、世界中のさまざまな人々が今、それに取り組んでいます。



-多くの技術専門家は、仕事の質に関する客観的な基準がないことを創造的なAIの仕事を評価する際の問題の1つと呼んでいます。



Ivan Yamshchikov：この質問は本当に好きです。アイデアがあれば、一緒に記事を書いてください。 私は冗談ではありません。



現在、品質管理の作業基準は、人々による集合的な評価に基づいています。 最初の週に40万人が神経の防御に耳を傾け、評価とコメントの分布に基づいて、人々がそれを好んだかどうか、そしてそれがどれほど似ているかを評価できます。



より詳細に言えば、技術的には、教師を伴うトレーニングと伴わないトレーニングの2つのケースを考慮することができます。 最初のケースでは、回答があります-人々によってマークアップされるか、以前にテストされ、アルゴリズムはそれに焦点を合わせようとしますが、2番目のケースではそうではありません。 回答がある場合、特定のタスクごとに、回答との類似性のメトリックを入力し、何が起こったかを客観的に測定できます。 そうでない場合、そのようなメトリックを導入する方法は完全に不明確です。









「神経防御のテキストが正確にどのように生成されたかは非常に興味深いですか？」 マットについて直感的に話すことは可能ですか？ 発電機？



Ivan Yamshchikov： Yandexの従業員Yuri Zelenkovは、ロシア語でリズムと韻を評価する多くの詩的ヒューリスティックを開発しました。 これらのヒューリスティックとLSTMネットワーク（Long Short Term Memory： https ://habrahabr.ru/company/wunderfund/blog/331310/）の組み合わせを使用し、ロシアの詩の配列を読みました：彼女にはいくつかの<poems、author>およびデータセットはすべてロシアの詩であり、ロシアのロックやポップミュージックを含む、プーシキンから現代までの条件付きで見つけることができました。 しかし、このデータ量でも十分ではなく、各詩が10回読み取られるように各テキストをランダムに読み取るようにマシンを設定したため、データ量が大幅に増加し、品質が大幅に向上しました。



入り口にさらに著者を提出し、「この著者として来てください」と言います。 そして、イゴールレトフの入り口に応募しました。 これについては、 SmartData 2017カンファレンスで詳しくお話します。そこでは、多くの詳細を明らかにします。



Neuronaの英語テキストを生成したとき、詩的なヒューリスティックは使用されなくなりました。 Lesha Tikhonovは、ニューラルネットワーク内で形成される記号の潜在空間に単語の音声学を含めることを提案し、アルゴリズム自体が韻を踏むことができるものとその方法を「理解」しました。



-AIはすでにポーカーとGOをプレイし、写真とビデオを再描画し、音楽と詩を書きます。次は何ですか？ 創造的なAIの次の無敗のピークは何ですか？



Ivan Yamshchikov： RNNが作成したプロットに基づいた短編映画はすでにあります。 残念ながら、彼女はかなり平凡です。 人々は、プロットの概念をニューラルネットワークに「説明」する方法をまだ知りません。



しかし、美しいアプリケーションの点からすれば、すべては著者の想像力によって制限されています。 今では、ネットワークと対話する、つまり視聴者/リスナーと対話するオブジェクトを作成する最も有望な可能性があるように思えます。



ある意味では、コンピューターゲームは未来の芸術です。 ゲーム中は、さまざまな方法でストーリーを生きます。 経験は個人です。 芸術における同様の双方向性が次のステップです。



たとえば、音楽を聴くと、ライブコンサートのように聞こえ、歌手/バンド/音楽とやり取りすることができます。 簡単な例：Yandex.MusicまたはSpotifyは、リズムや音楽を気分に合わせて調整したり、スポーツなどのトラックを選択したりできます。



Appleのライブ写真を思い出せば、これらは実際にはいくつかのフレームオプションです。 したがって、ミュージシャンがアルバムを録音するとき、ある意味で、ある制限内で作曲のいくつかのバージョンまたはバリエーションを録音すると想定できます。 そして、トラックはリスナーのムードに適応し、外部データに焦点を当てることができます。 ここでの類推は非常に簡単です-友達と座ってギターで歌を歌うと、同じ歌はあなたの気分に応じて異なって出てきますが、それは同じ歌になります。 同様のことが、技術的にも音楽においてもすでに実現できると確信しています。



-現在、ディスカッションで最も人気のあるトピックの1つは、車と人のペアでの作業です。このようなゲームは、チェスとGOトーナメントで開催されます。 アートで人+機械として働く興味深い例はありますか？



Ivan Yamshchikov：一般に、これはすでに起こっています。ある人はすでにコンピューターで音楽を作成しています。 私は定期的にこのトピックについて、ロボットが人々に取って代わり、終末論的なシナリオを描くことを心配している懐疑論者と議論しています。 私は皆を安心させ、ここにそのような議論を持ち込もうとします。 通常、不十分なことを行うマシンを作成します。 地球をよく掘る機械を作る必要があるとき、シャベルで巨大な人間を作るのではなく、この巨大な人間よりもはるかに地球を掘る掘削機を作ります。



そのような認識のtrapがあります。人工知能について話すとき、それは人間のように見えると思います-つまり、私たちのように、それだけです！



たとえば、19世紀初頭にSF作家が未来を考え出そうとしたとき、飛行機ではなく巨大な飛行船がそこにありました。 一般に、人は量的な変化を容易に予測しますが、質的な変化はほとんど想像できません。 すべてがより速く、より安く、より多く（より少なく）なると想像するのは簡単です...しかし、技術の飛躍はほとんど予測されていません。 そして、人工知能でも同じことが今起こっているように思えます。



しかし、アプリケーションでは、定性的（定量的だけでなく）のブレークスルーが既に行われています。人が何を求めているのかを理解することに関連しています。 そして、テキストの生成に基づいて、人とのコミュニケーションの根本的に異なる方法を作ることができます。 人は、新しいツールが利用可能になったときに使用できるようになります。 たとえば、プログラマーはコードを書く際にスマートアシスタントを使用します。アーティストにとっては、これは色を選択するためのシステムであり、作曲家にとっては、インスピレーションを与え、作品の感情を正しく伝えるのに役立つシステムです。

---

機械学習のトピックが私たちだけでなくあなたにも近い場合、10月21日にサンクトペテルブルクで開催される次のSmartData 2017 カンファレンスでの主要なレポートに注目してください。

• 推奨システム：行列分解からラインモードでの深層学習まで （Mikhail Kamalov、Epam Systems）
  
  
• ディープラーニング、確率的プログラミング、メタ計算：交差点 （Alexey Potapov、ITMO）
  
  
• インターネット上の連絡先情報の自動検索 （Alexander Sibiryakov、Scrapinghub）
  
  
• 電子商取引における応用機械学習：パイロットおよび戦闘プロジェクトのシナリオとアーキテクチャ （Alexander Serbul、1C-Bitrix）
  
  
• ディープラーニング：画像内のシーンとランドマークを認識する （Andrey Boyarov、Mail.ru）