人々への力：AIを使用して人間の問題を解決する方法

近年行われた多くの研究の印象的な結果は、機械学習のトピックに世界のコミュニティの注目を集めています。 「 人工知能の冬 」以来、私たちはこの技術の能力にそれほど触発されたことはありません。 しかし、関心の高まりにもかかわらず、多くの科学者は、私たちの多くが間違った研究に注意を払いすぎていると信じています。 こうした誇大広告の背後には、人類の多くの問題を解決する機械学習をさらに活用するための基礎を静かに築いた研究者の小さなグループがほとんど見えませんでした。







AIに対する今日の熱意の高まりは、深い畳み込みニューラルネットワークを使用して画像を分類する問題の解決に成功したことから始まりました。 通常、この分野では、進捗はパーセント単位で計算され、この研究チームはこの伝統を完全に破壊しました。 前述の研究は他の研究に弾みを与え、その結果、音声認識や顔認識を含む多くの応用分野で大きな進歩が遂げられました。 機械学習開発者の世界コミュニティは、この新しいアプローチのセットをすぐに採用し、その後、それらに取りつかれました。







GoogleやFacebookを含む大企業がますます機械学習に従事するようになると、彼らは完全に理解可能な、そして非常に印象的な成果についてますます頻繁に話し始めました。 AlphaGoは、 囲 gameゲームで世界チャンピオンとの歴史的な戦いに勝利しました。 IBM WatsonがJeopardyクイズに勝ちました。 Neural Style TransferやDeep Dreamなど、あまり知名度の低い成果は、ソーシャルネットワーク全体に急速に広がる視覚的なミームのソースになっています。



これらの成功はすべて、fireを投機の炉に放り込み、報道機関の注目を集めました。 これは、幅広い事業セグメントのエグゼクティブ、テクノロジーの第一線の専門家、およびアーキテクチャ開発者の注目を集めています。 ベンチャー投資家はAI関連のイニシアチブへの投資を開始しました。 多くのスタートアップは、ユーザーと対話できるモバイルおよびWebアプリケーション用のインターフェイスを作成することにより、競争上の優位性を獲得することを夢見ています。 多くのスタートアップは、モノのインターネット向けのAI製品の助けを借りて改善したいと考えています。 マーケティングの問題を解決するために人工知能を持ち込もうとしています。



しかし、現在のすべての成果にもかかわらず、AIシステムは、人類の主要な問題のいずれかを独立して解決することはまだほとんど不可能です。 これまでのところ、これは非常に強力なツールであり、ニーズを満たすためにAIを使用する方法を学習すれば、1つの条件下でのみ前例のないテクノロジーを作成できます。



世界中の何万、何十万もの企業の日常業務でAIを使用できないのはなぜですか？ 新しい学習アルゴリズムがまったくありません。 確率的勾配降下法と逆方向伝播に精通したプログラマーの不足ではありません。 そして、利用可能なソフトウェアライブラリの不足さえありません。 AIが広く普及するためには、この技術の力をユーザーの手に委ねることができるインターフェースを作成する方法を理解する必要があります。 ハイブリッドデザインの新しい分野を開発する必要があります。これにより、人々の相互作用と理解のためのAIシステムの機能を明確に理解できます。 これらの機会を人々がどのように正しくまたは誤って使用できるか、どのようにそれらを悪用できるかを理解するため。



話を思い出しましょう。 1978年、 VisiCalcプログラムがリリースされました。 これは、プログラミング機能を使用して、一般の人々の作業ニーズに対応した結果でした。 そこで、世界初の「スプレッドシート」が誕生しました。







「 数字を書いたり消したりするための黒板があり、彼女は自分ですべてを数えると思った 」 -VisiCalcの著者、 ダン・ブリックリン 。



ディープラーニングの分野での成功をめぐる誇大広告の背後に、機械学習システムと人間の相互作用を設計する問題の解決に専念する研究分野全体が静かに形成されました。 この小さいながらも非常に印象的な領域は、「対話型機械学習」と呼ばれます。 ユーザーエクスペリエンスと機械学習の分野の研究などの分野の交差点にあります。 今日、多くの人々は、ビジネス、作業ツール、ソフトウェア製品、または開発手法でAIを実装する方法について困惑しています。 おそらく今日は、AIの分野で最も関連性の高いトピックです。



再帰的ニューラルネットワークは、畳み込みニューラルネットワークを上回っています。 それから馬に強化されたディープトレーニングのネットワークが登場しました（Deep Reinforcement Learning）。 すぐに彼らは別の技術台座に道を譲るでしょう。 AIの分野では、すべてが非常に急速に変化しており、すべての新しいアルゴリズムは、与えられたタスクで「最速」という過渡的なタイトルを互いに引き離しています。 しかし同時に、設計の原則は変更されないため、訓練されたシステムを使用して問題を解決できます。



インタラクティブな機械学習は、これらの原則の作成に専念しています。 また、AIの設計、管理、またはプログラミングに携わって、適用された問題を解決する場合、それらを完全にマスターする必要があります。







まず、この方向で何が行われたかを見てみましょう。 以下で説明する内容の多くは、Brad Knoxの研究「 Power to the People：The People of People in Interactive Machine Learning」 （複数の研究者が共同執筆）から派生しています。



注：ほとんどの機械学習作業とは異なり、IMOの分野の出版物は、非専門家向けのよりわかりやすいプレゼンテーションで区別されます。 多くの作品の原本を読むことをお勧めします。

人々から最大限の助けを得る方法としての能動学習

ほとんどの機械学習システムの主なタスクは、人々が作成したデータのサンプルから情報を収集することです。 プロセスは、人々がマークされたデータの配列を収集するという事実から始まります。描かれたオブジェクトの説明が写真に添付され、人々の名前が肖像画に、テキスト転写が音声録音に、など。 その後、トレーニングが開始されます。 アルゴリズムは、供給されたデータを処理します。 トレーニングの終わりに、アルゴリズムは実際には分類器を作成します。これは、トレーニングサンプルの一部ではない新しい入力データに正しい答えを与える小さな別個のプログラムです。 写真からユーザーの年齢を判別したり、顔を認識したり、人が電話で話しているときに音声を書き起こしたりする必要がある場合、実際のプロジェクトに統合する必要があるのは分類子です。 このスキームでは、トレーニングサンプルをマークするための人間の労力が最も不足しています。



ディープラーニングの分野では、膨大な量のラベル付きデータが利用できる、 ソーシャルネットワークの何十億人ものユーザーによって投稿され た、またはインターネットで収集された分野で多くの印象的な結果が達成されました 。 ただし、FacebookまたはGoogleでない場合、問題の解決に適したラベル付きデータを見つけることはそれほど簡単ではありません。 特に、専門用語、行動、または情報源を使用して、新しい分野で作業している場合。 したがって、ユーザーからデータを収集する必要があります。 また、これには、テキスト、画像、または分類して正確に説明するその他のデータの例を明確に示すインターフェースの作成が必要です。



人間の労働、特にユーザーの労働はほとんどありません。 そのため、ユーザーにデータのラベル付けを依頼する必要があります。これにより、システムのパフォーマンスを最大化できます。 アクティブラーニングは、説明されている問題を調査する機械学習の領域です。人とのラベル付けがシステムを最大化するのに役立つデータサンプルを見つける方法。 研究者はすでに多くのアルゴリズム的アプローチを開発しています。 これにはテクニックが含まれます：



•システムが最悪の事態を理解しているサンプルを検索する

•サンプルの識別。そのラベル付けは、システムによる認識の観点から最大の効果を発揮します。

•システムが最高レベルのエラーを予測するサンプルの選択など



以下は、この問題の素晴らしい紹介となる記事へのリンクです。



具体的な例を次に示します。システムが明確な予測を与えることができないジェスチャにラベルを付けるようにユーザーに求められたときに、アクティブな学習原理を使用して構築されたジェスチャ認識システム。 詳細はこちらとこちら 。

ユーザーから手綱を奪わないでください

能動学習の研究者は、より少ないラベル付きデータを使用して、より正確な分類器を作成することに成功しています。 しかし、インタラクションデザインの観点から見ると、アクティブラーニングには明らかな欠点があります。それは、ラーニングシステムをユーザーではなくインタラクション自体に依存させることです。 能動学習の分野の研究者は、サンプルの採点を行う人を「オラクル」と呼んでいます。 しかし、インタラクティブな機械学習の分野の同僚は、人々がこのアプローチを好まないことを証明しています。







人々はロボットが何をすべきかを指示するのが好きではありません。 彼らがやり取りすることははるかに快適であり、マシンとのやり取りがそれらに依存している場合、彼らはそのトレーニングにより多くの時間を費やす準備ができています。



2010年の研究「 アクティブロボット学習のためのインタラクションの設計 」 では、形状を認識するロボットを学習するための受動的および能動的なアプローチに対するユーザーの認識を調査しました。 オプションの1つでは、自動車にイニシアチブが与えられました。 ロボット自体は、人にラベルを付ける次のオブジェクトを選択しました。 彼はそれを指して、ユーザーの応答を待ちました。 別の実施形態では、男性自身がロボットを見せるものを選択した。



ロボットが主導権を握ったとき、人々はその質問の流れを「アンバランスで迷惑なもの」と表現しました。 また、ユーザーは、ロボットのトレーニングの程度を判断するのがより難しく、教師としての彼らの有効性が低下することに注意しました。



同様の感情は、プログラムがロボットの役割を果たした別の研究で被験者によって説明されました：Netflix映画評価システムは積極的に訓練されました。

分類結果を説明する能力のアルゴリズムを選択する

診断が必要な健康上の問題があるとします。 これには、2つのAIシステムのいずれかを選択できます。 最初のものの精度は90％以上です。 彼女はあなたの医療データを受け取り、診断を下します。 あなたは質問をしたり、彼女がこの結論に至った経緯を知ることはできません。 あなたはラテン語であなたの状態の説明とウィキペディアへのリンクを得るだけです。



2番目のシステムの精度は85％です。 彼女はまたあなたのデータを取り、診断を下します。 しかし同時に、彼女はこの決定に至った経緯を説明します。 あなたの血圧は正常を超えており、特定のリスクはあなたの年齢で増加し、5つの重要な要因のうち3つが家族歴に記録されます。 2つのシステムのうちどちらを選択しますか？







マーケティングには決まり文句があります。「 広告予算の半分が無駄になっていますが、誰が半分を知っているかはわかりません 。」 機械学習の分野でも、同様の決まり文句があります。「 80％の時間に適したシステムを作成するのは簡単です。 正確に80％を計算するのは困難です。」 ユーザーは、自分の決定に至る方法を理解すると、学習システムをより信頼します。 ユーザーは、作業の内部キッチンを見ると、これらのシステムをより良く調整および改善できます。



したがって、ユーザーが信頼し、迅速に改善できるシステムを作成する場合、正しい答えの頻度ではなく、「思考の流れ」を説明する能力によってアルゴリズムを選択する必要があります。



この観点から、一部の機械学習アルゴリズムは他のアルゴリズムよりも多くの機能を提供します。 たとえば、今日では多くのタスクの正確さで記録を更新しているニューラルネットワークでは、そのような説明はほとんど不可能です。 実際、これらは答えを与える単なるブラックボックスです。 一方、 Random Decision Forestsアルゴリズムには 、分類を実証し、学習システムのインタラクティブな管理を構築する優れた機能があります。 どの変数がより重要であるか、各予測でシステムがどれだけ自信があるか、2つのサンプルの類似度などを計算できます。



単にパフォーマンステストに基づいて、データベース、Webサーバー、またはJavaScriptフレームワークを選択することはありません。 APIを学習し、ユーザーに提供するインターフェースをどのようにサポートするかを評価します。 そのため、機械学習システムの開発者は、より機能的でインタラクティブなユーザーインターフェイスを作成するために、分類器の内部状態にアクセスする必要があります。



そのようなシステムの設計に加えて、ユーザー自身が結果を改善し、それらを管理する機会を提供する必要があります。 Microsoft ResearchのTodd Kuleszaは、この問題を解決するために多くの仕事をしてきました。 トッドは、データをそのように分類した理由を説明できる機械学習システムを作成しました。 これらの説明は、ユーザーがフィードバックを提供し、より重要なことに結果をパーソナライズするためのインターフェースとして使用されます。 このアイデアの優れた例は、トッドの論文「 エンドユーザーによる単純ベイズテキスト分類のデバッグ 」で説明されています 。

ユーザーが独自の分類子を作成できるようにします。

一般的に受け入れられている慣行に従って、エンジニアは分類子を作成し、システムアーキテクトはそれらをインターフェイスに統合し、ユーザーは何が起こったかと対話します。 このアプローチの欠点は、問題の知識とシステムの結果を評価する能力から機械学習の実践を分離することです。 エンジニアとデータ処理の専門家は、結果を評価するために使用されるアルゴリズムと統計テストを理解できますが、すべての入力データを完全に網羅し、ユーザーに明らかな結果の問題に気付くことはありません。



最良の場合、このアプローチでは結果の周期的な改善が非常に遅くなります。 反復ごとに、エンジニアはユーザーに目を向け、問題をゆっくりと研究し、段階的に改善します。 実際には、この面倒なサイクルは、機械学習システムがエンドユーザーにとって明らかな不利益を伴う動作を開始するという事実につながります。 または、多くの実際の問題を解決するためのそのようなシステムの作成は、費用がかかりすぎます。



この状況を回避するには、ユーザーに分類子を直接作成する機会を与える必要があります。 これを行うには、サンプルにラベルを付けたり、プロパティを選択したり、ユーザーの精神的な表現をワークフローと調整するために必要な他のすべての操作を実行できるインターフェイスを設計する必要があります。 これを行う方法を理解すると、信じられないほどの結果が得られます。



インタラクティブな機械学習の分野で最も印象的な実験の1つは、Facebookのグループへの招待に関連するものでした。 「 ReGroup：インタラクティブな機械学習により、オンデマンドでグループを作成します 。」



これで、Facebookのイベントへの招待が次のように実装されます。新しいイベントを作成してから友人を招待します。 システムは、各名前の横にチェックボックスが付いた数百人の友達のアルファベット順のリストを提供します。 このシートを絶望して、「全員を招待」をクリックします。 その結果、他の都市に住んでいるために取得できないイベントへの招待状がすべての友達に届きます。



実験では、招待システムを根本的に改善することが提案されました。 最初は、ユーザーには同じ名前のフラグ付きリストが提供されていました。 しかし、人が名前の前に旗を置いたとき、それは肯定的にマークされたパターンとしてマークされました。 そして、すべての欠落している名前は否定的にマークされています。 取得したデータは、プロファイルとソーシャルコネクションのデータを追加のプロパティとして使用する分類子のトレーニングに使用されました。 次に、システムは各連絡先について、イベントに招待される確率を計算し、リストをソートして、最も高い確率の連絡先を一番上に配置しました。 評価のために、人がどこに住んでいるか、彼の社会的つながりは何であるか、どのくらいあなたが彼と友達になっていたかなどの基準が使用されました。 そして、分類器の結果はすぐにソーシャルネットワークのユーザーにとって非常に有用になりました。 システムと分類器のトレーニングに必要なデータとのユーザー対話の現在のパターンの信じられないほどエレガントな組み合わせ。



別の素晴らしい例はCueFlikです。 その目標は、画像のWeb検索を改善し、ユーザーが視覚特性によって写真を自動的にグループ化するルールを作成できるようにすることです。 たとえば、ユーザーは「ステレオ」を検索し、「製品写真」（白い背景の画像のみ）を選択します。 CueFlikは例を使用し、分類器をトレーニングして、製品の写真を通常の写真と区別できるようにします。ユーザーは、「cars」や「phones」などの言葉で他の検索クエリに含めることができます。

おわりに

人工知能の未来について考えると、ターミネーター、2001オデッセイ、または彼女などのSF映画や本からステレオタイプの表現に簡単に滑り込むことができます。 しかし、これらすべての空想は、現代の機械学習システムを作成する現実よりも、テクノロジー、性別、人間の性質に対する私たちの懸念を反映しています。



深層学習における最近の革命的な進歩を恐ろしいSFシナリオへの段階的なステップと見なすのではなく、ReGroupやCueFlikなどの数千のプロジェクトの強力な新しいエンジンと考える方がよいでしょう。 私たちの世界の知識と管理において前例のない機会を与えるプロジェクト。 機械学習は、店舗に行くことから、診断を行ったり、他の人と交流する方法に至るまで、人生全体をより良く変えることができます。 しかし、そのためには、機械に学習を教えるだけでなく、トレーニングの結果を人々に奉仕する必要もあります。