理想的な学生、または機械学習で彼らが沈黙していること

以前のhabrahabr.ru/post/145309では 、ユニバーサル人工知能（AI）へのアプローチを検討しました。 しかし、ユニバーサルAIとは何ですか？ ユニバーサルと呼ばれる現代の実用的なAIシステムに正確に欠けているものは何ですか？ この問題のより具体的な説明については、機械学習をAIの必須コンポーネントとして使用して見てみましょう。



機械学習は、学術的な人工知能の分野の境界をはるかに超えて成長し、「普通のプログラマー」になりました。 適用されるタスクの多くは、データマイニング、パターン認識、統計的推論などの実用的な方法を使用します。 大企業は、自動データ分析に関するさまざまなコースや学校を編成し、基本的な部門を作成し、会議の開催に参加し、機械学習の分野で蓄積された知識の光を世界にもたらします。 科学者もそれほど遅れをとっていない：彼らは新しい方法を思いつき、今流行の転送トレーニングのような新しいサブドメインを考え出す。



しかし、この分野の広範な開発は、内陸部の開発には特に貢献していません。 それどころか、機械学習の基礎の単純化された解釈が広まっています（これらの解釈はしばしばかなり複雑な理論によって裏付けられているという事実にもかかわらず）、特定の実用的な解決策を得ることができます。 後者はもちろん悪いことではありませんが、機械学習の普遍的な方法の問題は未解決のままです（そして無視されます）。 同時に、一方では、実際にはそうではない機械学習の普遍的な方法（ニューラルネットワークなど）についての神話が「応募者」の間で広まりました。 一方、「理論家」の中には、機械学習の普遍的な方法を作成する可能性に対する信頼がありませんでした。つまり、新しい普遍的な方法を提案しようとする試みは、「Yet Another Classifier」または「No Free Lunch」定理。



最も顕著なことは、真に普遍的な機械学習の理論が半世紀にわたって存在しており、この理論の文脈における現代の研究者の議論の多くが非常に素朴に見えることです。 この理論は何ですか？ 機械学習の問題をどのように解決しますか？ なぜこれほど多くの配布を受けていないのですか？ そして、普遍的な機械学習システムを作ることは可能ですか？ これらの質問への回答に近づきますが、最初に強力なAIの普遍的なトレーニングの必要性を示します。



機械学習の主な問題は、関数近似や外挿などの「単純な」問題の例で実証できます。 最終的に、インテリジェントエージェントは、センサー入力とモーター出力の間の接続を確立するか、実行されたアクションに応じて環境から強化の大きさを推定することを学習する必要があるため、このタスクとAIの接続は否定できません。



図に示されているポイントのシーケンスを見てみましょう。 1.続行方法 最初は、この問題を解決するには、利用可能なポイントに最も近い関数を選択する必要があり、この関数が最適なソリューションになることは絶対に自然に思えます。





図 1.ポイントを継続するには？



数学には、形式が重要な制限（おそらく、連続性と微分可能性を除く）の影響を受けない任意の関数を、任意の精度で特定のタイプの関数で近似できるさまざまな定理があります。 特に、まさにそのような定理のために、人工ニューラルネットワーク（ANN）は普遍的な近似法で定評があります。 このような評判がANNによって正確に開発されたのは面白いことです。たとえば、多項式ではなく、類似の定理がはるかに早く証明されました。



しかし、これらの定理は機械学習に関して何を意味するのでしょうか？ 他の関数によるいくつかの関数の近似が原則として可能であるという事実は、それが実際に実行できることを意味するものではありません。 実際、実際には常に有限サイズのトレーニングサンプルがあり、さらに、ノイズが多い場合があります。 そのような条件下で近似がどのように機能するかを見てみましょう。 そのため、多項式の結果がより透過的に解釈されるため、多項式を使用します。



次数の異なる多項式のパラメーターを選択して、これらの多項式がトレーニングサンプルのポイントに最も近く通過するようにします。つまり、最小二乗法を使用します。この場合は非常に単純な実装です。 図 図2は、線形関数、放物線、および3次関数の解を示しています。 最後の（赤）ポイントはトレーニングセットに含まれておらず、真の依存関係に対応しています。





図 2. 1次、2次、および3次の多項式を構築した結果。



すべてが良いようです。多項式の次数を増やすことで、トレーニングサンプルのポイントからの偏差を減らし、予測の精度を向上させることができます。 しかし、学位をさらに上げ続けるようにしてください。 図 図3は、4、7、10度の多項式の解を示しています。





図 3. 4、7、および10次の多項式を構築した結果。



ご覧のとおり、トレーニングセットの精度は向上し、10次の多項式はすべてのポイントを理想的に通過しますが、予測の精度は壊滅的に低下します。 これは、過剰適合のよく知られた効果です。 一部の人にとって、この効果は完全に神秘的なように思えるかもしれません。「データがない場合を除き、既存のサンプルの近似値を改善しています！ 本当に悪化しているのはなぜですか？」 そして、誰かにとっては「当たり前のように思えます。「モデルをデータのノイズに適合させようとした場合、何を期待しましたか？」 ただし、この問題に対する態度に関係なく、どこにも消えることはありません。 ANNの場合、それは自然に現れます。 機械学習の分野におけるこの問題は遍在しています。近似と外挿だけでなく、パターン認識、セグメンテーション、クラスタリングなどにも特徴的です。 どうすれば対処できますか？



ここでは異なるアプローチが可能です。 ニューラルネットワークの一部のクラスの場合、ANNがデータにあまりにも多くの時間を調整するまでトレーニングは特に中断されます（学習を停止する最適な瞬間を決定する特別なヒューリスティック基準も開発されています）。 この点で、この現象には2番目の名前があります-過剰学習。 簡単に言えば、これは詰め込みであり、システムは特定の例に集中します。 この欠点は、生徒の学習の特性でもあり、同じテストに従ってトレーニングとその品質の評価が行われる場合です。



この効果に対抗する別の簡単な方法は、交差検証、または交差検証を使用することです。その考え方は、トレーニングサンプルからコントロールを選択することです。 さらに、トレーニングはサンプルの一部で実行され、トレーニングの品質は別の部分で評価されます。 つまり、ソリューションをトレーニングしたデータではなく、新しいデータでうまく機能させたいので、そのように確認しましょう。 このアプローチには欠点があります。 まず、トレーニングサンプルのサイズが小さくなり、したがって、構築中のモデルの品質が低下します。 第二に、このアプローチは弱くはありますが、再トレーニングする傾向があります：対照サンプルに関して間接的に過度に近い適合が発生します（トレーニングに特別な利益を与えずに学童がどのようにUSEでトレーニングされたかを思い出すだけで十分です）。 この効果を弱めるために、トレーニングサンプルは多くの部分（たとえば10）に分割され、ソリューションの品質はそれらの異なる部分で交互にテストされますが、計算時間が長くなり、最初の欠点が悪化します。 そして第三に、このアプローチは、教師なしで学習する場合に適用するのが容易ではありません。



いずれにせよ、トレーニングの早期中断もクロスバリデーションも再トレーニングの性質に関する質問に答えず、奇妙に見えます：長期間勉強することや利用可能なすべての情報を使用することが悪い場合、学習プロセス自体に何かが間違っているはずです。 それを理解してみましょう。 再訓練は、モデル空間が大きすぎる場合に発生します。たとえば、任意の次数の多項式または任意の数のニューロンを含むニューラルネットワークが使用されます（このため、実際にはそのような空間は無意味であることが示唆されます-それらはあまりにも「創造的な自由」を持ち、人々に教えるときは今流行ではありません）。 したがって、問題は、多数のモデルから最適なモデルを選択することです。 これを解決するには、少なくともモデルの品質に関する適切な基準が必要です。



確率論は、再訓練の性質に対する答えにヒントを与えます。 ベイズの規則によれば、データDの最適なモデルMは 、最大事後確率P（M | D）を持つモデルであり、このモデルのデータの尤度P（D | M）に、モデルPの事前確率P（M）を掛けたものに比例します：



P（M | D）〜P（D | M）P（M）。



ここで、モデルがデータを記述する精度は尤度に対応します。尤度は、エラーの正規分布（データからのモデルの偏差）の仮定の下で、標準偏差で明示的に表されます。 それだけを最大化する（つまり、最尤法を使用する）と、再トレーニングの効果が生じます。 したがって、ベイジアン規則に従って、より正確ではないが再学習の傾向がないモデルを選択する可能性は、事前確率P（M）でのみ提供できます。



統計的導出におけるアプリオリ確率の問題は基本です。 結局のところ、これらの確率はアプリオリです。つまり、データを受信する前に奇跡的に決定する必要があります。 多くのデータセットがある場合、モデルのアプリオリ確率は、特定のモデルが任意のセットに対して最適であることが判明する確率です。 しかし、これはタスクを複雑にするだけです。結局のところ、多くのデータセットからアプリオリ確率を決定するとき、再トレーニングが行われないように、アプリオリ確率を再び必要とします。 などなど。 再訓練の問題は先験的確率を設定する問題に関連していることがわかりましたが、これはまだ簡単ではありません。



ただし、ベイズ規則を前置し、事後確率自体を最大化する代わりに、その負の対数を最小化すると、興味深い観測を行うことができます。



–Log ₂ P（M | D）〜–log ₂ P（D | M）-log ₂ P（M）。



マイナスの確率の対数は、単に情報量です。 –log ₂ P（M）はモデル内の情報量（ビット単位の記述の長さ）、– log ₂ P（D | M）はデータ内の追加情報量です。既存のモデル（実際、その精度を特徴付ける、モデルからのデータの偏差の記述の長さ）。 確率を通じて情報量を計算する方法から注意をそらすと、次のことがわかります。 モデルの情報量はその複雑さです。 たとえば、ANNの多項式またはニューロンのメンバーとそれらの間の接続が多いほど、そのようなモデルのコーディングにより多くのビットが費やされます。



モデルの複雑さとその精度の間の妥協点を見つける必要性は、最小記述長の原則で表現されます。これは、最良のモデルは、モデルからのデータ（またはモデルを使用してエンコードされたデータ）の偏差の最小記述長が達成されるモデルであることを示しています。 この原則は、Occamのカミソリルールの形式化と呼ばれることもあります。これは、エンティティが必要以上に作成されるべきではないことを長い間示しています。



ここで重要なのは、モデルの複雑さを、事前の確率ではなく直接考慮できることです。 実際、情報量の概念を確率の概念に導入し（そして情報理論から確率理論を導き、逆もまた成り立ちません）、それによって確率理論とそれに基づく古典的（シャノン）理論の両方に固有の多くの基本的な問題を解決する正しい機会があります情報理論。 しかし、これは別の議論のトピックです。



したがって、モデルのアプリオリ確率が低いほど、複雑度が高くなります。 実際の複雑さのためのこのような細かいモデルは、再訓練の効果を排除する他の方法の良い代用品です。 複雑すぎるモデルを選択すると、再トレーニングが発生します。 モデルが単純であるほど、より一般的です。 明らかに、再訓練は不十分な一般化と関連しています。 一般化の欠如が、トレーニングをテストに詰め込んだり、フィッティングする際の指導の質の低さの理由です。 もちろん、別の極端な例があります。1つの単純なモデルを使用する場合、エラーや、モデルがデータを単純化しない（「圧縮しない」）にもかかわらず、記述しすぎます。 情報基準により、適切な妥協点を見つけることができます。



ただし、機械学習の一般的な問題はまだ解決されていません。 正しい一般化が不可能であることは、使用されたモデル空間に目的のモデルが単に存在しないという事実による可能性があります。

多項式近似を使用した例に戻りましょう。 多項式が私たちにとって真のモデルである場合、すべてがうまくいきます-記述の長さの基準により、最適な数のパラメーターを持つ多項式を選択し、最適な（利用可能なデータで）予測を提供できます。 しかし、他の関数を使用してデータが生成されるとどうなりますか？ この関数は、原則として、いくつかの多項式で近似できることを節約できますか？



たとえば、指数を考えてみましょう。 これは、 xn / n！という形式の多数の用語で記述されます。 しかし、このシリーズには無数のメンバーがいます。 また、ポイントの選択は有限であるため、再構築された多項式も有限次数になります。 これは、外挿中にエラーがとにかく非常に急速に蓄積し、基準がこれ以上役立たないことを意味します。 同様に、データに高調波依存性が含まれている場合、有限シリーズが周期的ではない多項式または指数関数によってデータが適切に外挿されません。 もちろん、いくつかのタイプの依存関係は、他のタイプによって良くも悪くも推定できますが、モデル空間にデータに含まれる依存関係のタイプが正確にない場合、最良の予測は得られないと言えます。



同じことは予測だけでなく、たとえば認識についても言えます。 認識の場合、この問題は不変量の問題で最も明確に現れます。 特定のクラスの一部の画像が特定の不変式を満たす場合、この不変式を正確に学習できない場合、認識システムの作業は十分ではありません。 特に、これが画像認識のニューラルネットワークが画像の幾何学的変換に不変な兆候を即座に提示することを要求するか、巨大なサイズのサンプルを必要とする理由です。 そのため、トレーニング中のパーセプトロンが画像の一部に認識可能なオブジェクトを提示した場合、画像の別の部分にそれらが提示された場合、彼はそれらを認識できません。



ミンスキーとペーパーの有名な本に含まれていたのは、まさにこの種のパーセプトロンの批判でした。彼らは非局所不変量を構築することができず（適切な一般化を実行します）、すべての形式の画像を認識することを学ぶために指数関数的に大きなサイズの訓練サンプルを必要とします。 パーセプトロンが同時に再訓練しなくても、効果的な訓練の主な目標である、これまでに見たことのない画像の予測または認識を可能にする基礎パターンを特定することはできません。



もちろん、任意の種の法則を表現できないことは、特定のANNアーキテクチャだけでなく、他の機械学習方法にも特徴的です。 それらはすべて、たとえば、分解が実行される基底関数の特定のファミリーの形式で、パターンを表すいくつかの限定された方法を使用します。 たとえば、決定木またはルールセットを使用する場合の記号学習についても同じことが言えます。 知識に基づく複雑なシステムでは、この問題は覆い隠されますが、まったく解決されません。



データ内のさまざまなパターンを考慮に入れたさまざまな方法を組み合わせようとするのは自然なことです。 そして、このアプローチは現在非常に人気があります。 ただし、非普遍的な方法の単純な組み合わせは、手動で開発者がパターンの比較的少数の異なるファミリのみを配置できるため、機能をわずかに向上させるだけです。

しかし、機械学習システムに可能な規則性を識別する機能を組み込むことは可能ですか？ 開発者によって前もって特別に提供されていない任意のパターンが建設的に記述されるようなスペースはありますか？ そのようなスペースはそこだけではありません。 それもよく知られています。 これがアルゴリズムの空間です。



指数依存性を再現したいですか？ そのようなアルゴリズムを構築することは難しくありません。 多項式、調和関数、フィボナッチ数列、階乗をお探しですか？ そのようなアルゴリズムがあります。 偶数と奇数のクラスを認識する必要がありますか？ 適切なアルゴリズムを使用するのは簡単です！ ここで、ANNの助けを借りて、これらすべての問題を同時に解決することがいかに簡単かを考えてください。当然、比較を正確にするために、対応するトレーニングサンプルの提示時にこれらのアルゴリズムをすべて構築する方法が必要です。しかし、ここで私たちにとって主なことは、アルゴリズムの分野では、少なくとも、すべてのそのような問題に対する適切な解決策があるということです。



, , , . , , . « » . , , (, , , habrahabr.ru/post/145929 ). , . « » , .



, . . , , ( , «» ), , , .



, ( ) . 1964- . , , . , . , , , , . , ( ) . , , , . – .