バイアスのないユニバーサルアルゴリズムインテリジェンス

問題の声明

前の記事「ユニバーサルインテリジェンスを構築するためのアプローチの基礎」パート1（ http://habrahabr.ru/post/145309/ ）およびパート2（ http://habrahabr.ru/post/145467/ ）で、概要を説明します。さまざまな既存のアプローチを説明し、ユニバーサルAIを開発する際に従うべきいくつかの方法論的原則を策定しました。 記事「理想的な学生、または機械学習で沈黙していること」（ http://habrahabr.ru/post/148002/ ）で、これらの原則に従う（特に普遍性を維持する）必要性が機械学習の例を使用して議論されました。 ここでは、一般的なユニバーサルインテリジェンスの1つの一般的なモデルを分析します。 このモデルは実際のユニバーサルAIとはかけ離れていますが、他のアプローチの重大な欠点を理解することができます。



理想的な最小知能（IMI）のモデルを合理的なエージェントとして考え、特定の世界で行動し、その目的関数（効用関数）を最大化しようとします。 ここでは、必要なコンピューティングリソースを完全に無視し、そのような状況でもユニバーサルAIを構築できるかどうかを確認します。 一般性を実質的に失うことなく、エージェントは、離散的な時点で、利用可能な基本アクションとセンサー読み取り値の有限セットを持っていると仮定できます。 センサーのセットには、ターゲット機能を含む外部と内部の両方が含まれます。 「センサー」、「エフェクタ」、「ターゲット機能」を適切に選択することにより、AI分野のプライベートタスクと一般タスクの両方をこの形式で表すことができます（ただし、この選択は常に明白で自然ではありません）。



したがって、生産の問題を解決するロボット、またはチェスをするプログラムは、この形式で非常に透過的に提示されます。 共通の知能を持つエージェント（人間など）の場合、同様の結論を出すことはより困難です。 それでも、人は感覚情報を「のみ」受け取り、いくつかのアクションを実行します。 これ以上彼にアクセスできないものはありません。 目的関数を最適化しますか？ 進化の観点からは、「はい」と言うことができます。それはフィットネスの関数です。 人に無意識にこれをさせてください（そして、機能自体は明示的に定義されていません）が、行動の選択がこの機能と一致しない生物は、単に生き残らないか、子孫を残しませんでした。



もちろん、体、その「物理的」特性を改善するなど、非知的な方法を含む多くの異なる方法で生存率を高めることができると言うこともできます。 一部の種は、発達した知能を使用せずに何百万年も生き延びています。つまり、適性機能の最適化を成功させるために知能はあまり必要ではありません。 これは、フィットネス関数だけでなく、他の目的関数にも適用されます：たとえば、特定のオブジェクトを認識するシステムを作成する場合、感覚情報を処理するための単純な非特殊センサーとインテリジェントアルゴリズムを使用したり、複雑な特殊センサーを使用して認識を実行したりできます基本アルゴリズム。 したがって、知性は、そのような定式化（目的関数の最適化）と矛盾しませんが、それに限定されません。 この観点がいかに公平であるかについての議論を掘り下げることなく、それでも、アクションを選択するには知的なエージェントが必要であり、選択の特定の方法については、何らかの目的関数を選択できることに注意してください。 この意味で、インテリジェンスは、適合性がコンポーネントまたは特殊なケースの1つである機能を最適化すると仮定できます。 ここでの質問は、そのような表現が原則としてどれだけ受け入れられるかではなく、それがどれほど便利かということです（そして、この質問は普遍的な知性に関しては怠idleではありません）。



もう1つの疑問は、ユニバーサルインテリジェンスのセンサーとエフェクターの限定リストを設定するのは不合理な制限のように見えることです。 人（それでも知性は十分に専門化されており、完全に普遍的ではない）にとっても、この制限はそれほど厳しくない。 男性はツールを非常に広く使用してセンサーとエフェクタのセットを拡張しますが、それらは部分的には身体の拡張と解釈されます。 さらに、脳のレベルでさえ、皮質領域の別のモダリティの情報の処理への方向転換が可能である。 しかし、脳の「入力」と「出力」の数はまったく変わりません。 すべての変更は、関連情報またはアクションの構造またはコンテキストによって引き起こされますが、ユニバーサルAIの問題の声明では禁止されていません。 もちろん、新しいモダリティのセンサーおよびエフェクタとしてツールを直接接続する機能をAIに提供することは有用ですが、少なくとも分析の現在の段階では、基本的なことはほとんどありません。



もう1つのポイントは、完全に具体化されたAIを検討する場合、世界との相互作用は、エージェントの身体の「標準インターフェイス」（センサー、ターゲット機能、およびエフェクター）のみに限定されない可能性があることです。 外部からは、知的エージェントプログラム自体にarbitrary意的な影響を与えることもできます。 これは、重要なポイントと見なされることがあります[Ring and Orseau、2011]。 ただし、人にとってこの状況は脳への直接的な介入を意味し、通常は情報ではなく物理的（または化学的）な性質を持ち、人間の心はそのような介入に対して非常に脆弱です。 もちろん、このような影響からより保護されるユニバーサルAIを作成するという問題を提起することもできますが、全体として、この問題は優先事項ではないようです。



したがって、最も一般的なものの1つは（おそらく最も成功しているわけではありませんが）、次のユニバーサルインテリジェンスの問題に関する声明です。 エージェントへの入力では、時刻tの各瞬間に、特定の構造を持つ可能性があるセットOに属するo _tの値がタッチ入力を介して送信されます。 媒体から「ボディ」を介して、所定の範囲R =（r _min 、r _max ）に属する強化r _tのスカラー値が受信されます。 簡潔にするために、ペア（o _t 、r _t ）x _t 、x t∈X = O×Rを示します。また、エージェントはアクションy _t （あるセットYに属する）を実行して、将来の目的関数の合計値を最大化します。



ここで、kは現在の時点です。 この論文で提示されているユニバーサルAIのモデルは最も広く知られており、真の強力なAIのゼロ近似と見なすことができるため、ここでは[Hutter、2005]から主に引用した表記を使用します。



この定式化（1）では、問題は明らかに正しく提起されていません。エージェントは、t> kに対してr _tの値を最大化する必要がありますが、これは問題の状態ではありません。 言い換えると、以前の値o _t 、r _t 、y _tとそれらの将来の値との関係を確立できるようにする世界について少なくともいくつかの仮定を導入する必要があります。

有名な計算可能な世界の場合

まず、よく知られているチューリングマシン（ユニバーサルチューリングマシンのアルゴリズムまたはプログラム）q 'で完全に記述された媒体の最も単純なケースを考えてみましょう。その時点での入力はエージェントの動作であり、その出力は値o _kおよびr _kです。 エージェント自体も、プログラムp 'によって制御されます。その入力はo ₁ r ₁ 、... o _{k – 1} r _{k – 1}です。 x ₁ 、... x _{k – 1} 、および出力はy _kの値です。



簡潔にするために、y _m ... y _nの形式のシーケンスはy _m：nで示され、m = 1の場合は_y≤nまたはy _{<n + 1}と記述します。 セットYのオブジェクトで構成されるシーケンスのセットを示すために、従来の表記Y *を使用します。 次に、プログラムq 'およびp'は、対応するマッピングq '：Y *→Xおよびp'：X *→Yを定義します（x _k = q '（ _y≤k ）およびy _k = p'（x _<k ））。 また、対応するコンポーネントx _{kに対して} o _k = q _o '（ _y≤k ）およびr _k = q _r '（ _y≤k ）を_記述します。 ここでは、各タイムステップでプログラムが順番に開始されると仮定します。p 'が最初に起動され、次にq'が起動され、最初の時点では、行x _<1は空です。 pとand qの開始は常に交互に行われ、1つのクロックサイクルに2つの開始を割り当てることは条件付きであるため、環境とエージェントの間には基本的な非対称性はありません（最初の瞬間を除く）。 ここでは、もちろん、計算時間p 'およびq'は考慮されませんが、それ以外の場合、この設定は非常に自然に見えます。 ここでは基本的に「リアルタイム」がないことを強調する必要があります。これらのプログラムは常に機能するわけではありませんが、各メジャーで再度呼び出されます。 次に、エージェントと世界との相互作用の現在の結果をループで計算できます。



tが0からkの場合：y _t = p '（x _<t ）、x _t = q'（ _y≤t ）。



非対称性（または、半サイクルから）を取り除くために、x _tをq '（y _<t ）と見なすことができます。 正式な観点から、これは別の問題の定式化につながります。 したがって、x _t = q '（ _y≤t ）の元の設定はチェスのゲームを記述するのに適していますが、ゲーム「じゃんけん」では適していませんが、x _t = q'（y _<t ）のバージョンは逆です。 ただし、これらのオプションは両方ともq 'をリアルタイムで計算する必要性を考慮していないため、導入時にそれらの間の差が解消されるため、この段階では、言及されているゲームなどの人工的なケースを除いて、どちらを使用するかはほとんど違いがありません。ルールはシーケンスの特定の組織を決定しますエージェントと環境の「移動」（バリアントy _t = p '（ _x≤t ）、x _t = q'（ _y≤t ）の不正確さに注意する価値もあります）。 当然、「じゃんけん」の実際のゲームでは、動きの絶対的な同時性はなく、基本的なアクションのレベルにあるかどうかは実際には重要ではありません（ここでは、選択を認識してこのゲームに勝つ実際に動作するロボットを思い出すことができます）自分の選択を示す人）。 また、チェスの実際のゲームでは、一連の動きが「物理的に」簡単に違反される可能性があります。



便宜上、x _1：k = q（ _y≤k ）およびy _1：k = p（x _<k ）のようなpおよびqプログラムも導入します。つまり、pは現在のアクションを選択するだけでなく、彼らの全体の物語。 同等のプログラムpおよびp '（q and q'）は簡単に相互に取得できるため、ここで紹介するのは便宜上のことです。 xとyの生成された行は、呼び出しq（ _y≤k ）= q（p（x _<k ））= q（p（q（y _<k ）））の再帰性により、pプログラムとqプログラムの両方に依存するため、具体的な要素pとqによって形成される履歴は、たとえばr _t ^pq 、y _1：k ^pqなどで示されます。



pとqは決定的であるため、エージェントが受け取る将来の（現在の瞬間kからある瞬間mまで）合計ゲインを計算できます。



これで、最適なp *ポリシーと現在の最適なアクションを決定するタスクを正しく設定できます。



特定の環境qの最適な戦略p *を見つける問題の解決策は、式（2）により演prior的に実行できますが、計算の複雑さの理由で実際にこの式を直接適用することは通常不可能であるため、このような最適なインテリジェントエージェントの構築は非常に重要です。



異なる環境のp *プログラムは根本的に異なるように思われます。 この点で、環境qのモデルに従って最適なアクションを選択するための普遍的なプログラムがあることは注目に値します。 実際、式（2）はそのようなプログラムを定義しています。 ただし、プライベートな最適なプログラムを検索するのではなく、最適なアクションを直接選択する別のユニバーサルプログラムを提供できます。 このようなプログラムは、次の式で定義されます。



実際、有名な環境プログラムが入力としてエージェントの一連のアクションを受け取る場合、最適なチェーンを生成するプログラムpではなく、チェーン自体を検索することができ、そのような検索は普遍的なプログラムになります。 エージェントプログラム自体はqプログラムに依存せず、入力として使用するため、普遍的であり、無制限のリソースでの直接列挙は明らかにqの最大化につながるはずです。 ただし、少なくともよく知られている環境では、普遍的な知能のモデルを持ち、問題自体の声明の妥当性について議論しましょう。

目的関数を最大化する問題の定式化の妥当性

ここで生じる明らかな疑問の1つは、合計する時間間隔（または上限）の選択です。 方程式（1）〜（3）を書くときに回避されるこの質問には、明確な答えがなく、分析が必要です。 チェスの位置の伝統的な例を見てみましょう。



ここでの考えは、黒人の白いルークを食べると損失につながるということです。 引き分けは制限内でのみ行われます。 列挙の最終的な深さでは、列挙アルゴリズムは、ルークを食べることの永続的な拒否が引き分けに相当することを「理解」できません。 ただし、これはエージェントがこの状況で適切に動作することを妨げません：結局、十分な列挙の深さで、有限数の動きで食い尽くすことは損失につながります、したがって、ルークを食べる推定は他のものより低くなります（エージェントは同等性を勝手に「理解」しません）長い非食べると描画）。 さらに、実際的な意味では、エージェントは永遠に存在することはできないため、無限に長いゲームは抽象化にすぎません。 宇宙の存在の時間そのものは有限であり、具体化されたエージェントが無限の探索深さを必要とする現実的な状況を想像することは困難です。



同時に、象徴的な表現の要素としての無限という概念により、そのようなエージェントも機能することができます。 そして、人の象徴的な表現は感覚と運動能力に意味的基盤を持っているため、つまり、それらは単にxとyの何らかの組み合わせであるため、これは原則として（明示的ではないが）問題のエージェントが利用できるはずです。 それにもかかわらず、無限の概念にはいくつかの顕著なセマンティック基盤がある可能性が非常に高く、それにより人は無限（特に周期的）なプロセスについてブルートフォースアルゴリズムよりもはるかに自然になります。 さらに、ノンストッププロセスは、計算可能性の古典的な概念（いわゆる限界の計算可能性）の拡張に関連しているため、たとえば[Schmidhuber、2003]に記載されているユニバーサルインテリジェンスの理論の重要なコンポーネントになる可能性があります。 ただし、エージェントが適切に行動するかどうかにのみ関心があり、明らかに不適切な行動の選択の例はありません。



合計時間範囲の問題に戻ると、この範囲を制限する可能性を採用しても、それを制限する方法の問題に対する答えが得られないことは注目に値します。 特に、この範囲をエージェントの予想寿命に制限すると、不適切な（または、むしろ人々にとって望ましくない）動作につながります。 例えば、そのようなエージェントは、彼の命を犠牲にしてだれも救わず、一般に「少なくとも私たちの後の洪水」の原則に基づいて必然的に行動します。 当然、強力なAIを作成する際には、エージェントの個人的な利益だけでなく、適切な合計範囲、より広くは目的の目的関数を選択する問題を解決する必要があります。 そうでない場合、エージェントの死後の時点へのこの関数の外挿は常に最小値を与えます。 しかし、エージェント自体が存在しない場合でも、目的関数は「存在」し続ける必要があります。



最小限の知的エージェントの例では、目的関数を設定することの難しさが特にはっきりと見えます。 このようなエージェント自身は、「生データ」によってのみ導かれ、基本アクションのチェーンを選択します。 同時に、彼は明示的にいかなる概念も使用していませんが、徹底的な徹底的な検索のために適切に行動することを妨げません。 しかし、目的関数を設定する必要があります。実際には、単純なセンサーの測定値では表現されていません。 そのような関数を計算するには、別の知性が必要であり、普遍的ではなく専門的です。 実際、チェスのような単純な世界の場合、ゲームのルールによって定義された真の目的関数を設定することは非常に可能です。 しかし、将来のいつでも世界の状態を決定できる正確な物理モデルを持っている現実の世界を想像すると、この状態に関する情報を、少なくとも単純にエージェント自体の生存によって決定される目的関数の値に変換することは非常に困難です。



目的関数が単純なセンサーの読み取り値、特に痛みや喜びだけによって制限されている場合、利己的な行動が予想されます。 もちろん、補強して罰することで、このエージェントを「教育」することができます。 エージェントは、人々または他の知的エージェントによって課せられた罰を排除する手段を持つまで、望ましい方法で行動します。 しかし、そのようなエージェントが自分自身に否定的な結果がないことを予測できるとすぐに、彼は非倫理的に行動します。 AI全体を「教育する」という考え方は正しいのですが、それが機能するためには、この教育が既存の個人的な「身体的」目的関数に基づいて構築するだけでなく、それを変えることも必要です。



AIの「親しみやすさ」を確保するという問題を無視し、それを単に私たち自身の生存のタスクに設定したとしても、アプリオリの「身体的」目的関数を最大化しても、このタスクは完全に満たされません。 確かに、痛みと喜びは、フィットネスの進化関数の発見的近似にすぎません。 彼らは駒の強さに基づいてチェスのポジションの質を評価することに似ています。 さらに、人生ではチェスとは異なり、生存の真の目標機能が与えられていません-私たちがどの特定の状況で生きるか死ぬかを先験的に決定することはできません。 チェスでは、粗雑な「身体的」評価によってのみ導かれる場合、ゲームのレベルは最適とはほど遠いものになります。 また、動物（ところで、ある程度までは人々）は、生存を損なう「身体的」な標的機能を最大化できます。 これは、電極がセンターのラットに埋め込まれた実験で最も明確に見られます

動物が独立してそれらを活性化できるように喜び。 目的関数は身体の状態の現在の品質のみを決定するため、その外挿は死に関する予測を明示的に与えることはできません。 電極の作用により、真の状態とは無関係の目的関数の値が増加するため、動物の行動は最適とはほど遠いものになります。 特定の条件下では、これは「普遍的な」人工知能の振る舞いであることが判明する場合があり、これには生得的な目的関数を最大化するタスクがあります。



退化した行動につながらない先天性の目的関数を提案する試みが行われました[Ring and Orseau、2011]。 さまざまなジレンマに対して異なる目的関数を持つエージェントの仮説的な反応を考慮することができます。 たとえば、このエージェントまたはそのエージェントは、仮想現実を無制限に楽しむことに同意し、そこから残りの人生を離れることはできませんか？ 最も単純な定式化では考慮されていなかったエージェント自体の知能を変更する可能性を思い出すと、さらに難しいジレンマを引き起こす可能性があります：エージェントの知能を最大化することを犠牲にして無限の楽しみを。 純粋に「身体的な」目的関数を最大化するインテリジェントエージェントが、すべての人が同意するわけではない選択をすることは明らかです。 同時に、目的関数は、たとえば、受け取ったさまざまな情報を考慮に入れることで、知性自体の仕事に基づいて構築できます。 知識の実行に必要な条件として生存に努めるという事実にもかかわらず、同様の動機を持つエージェントは、このようなジレンマの場合、「間違った」選択の対象にならないという意見があります[Orseau and Ring、2011]。 しかし、伝統的な進化の観点からは、むしろ逆に、知識の追求は生存の客観的機能における発見的手法です。 ご覧のとおり、これらの問題の分析には、ユニバーサルインテリジェンスのより詳細なモデルが必要です。



したがって、特定の目的関数を最大化するモデルは完全に普遍的ではありません。 むしろ、それはユニバーサルインテリジェンスのモデルと考えることができ、そのタスクは、固定された時間間隔でこの最大化を実行することのみに制限されます。 しかし、知的エージェント全体のモデルとは考えられません。その目的関数自体は一部であり、そのタスクは次のとおりです。

最小生存。 最後に、もちろん、インテリジェントエージェントの作成に興味があります（サバイバルだけでなく）。 ただし、当面は、純粋な知性のモデルのみを考慮することに制限します。

未定義の環境

所定の目的関数を持つよく知られた決定論的媒体の場合は一般的です。 実際、AIの分野全体は、思考の迷宮仮説が表明されたこの事例を考慮して始まりました。 そして、もちろん、研究者たちは問題の一般的な声明から、限られたコンピューティングリソースの状況で実際にどのようにそれを解決するかという問題に非常に迅速に移行しました。 同時に、特定の環境とは、対応するインテリジェントプログラムの非自律性と非普遍性を意味します。 したがって、これらの限られた世界のそれぞれで、人間よりも効果的なプログラムを作成することは可能ですが、これではコンピューターが新しい問題を単独で解決することはできません。 当然のことながら、arbitrary意的で不明確な環境を含む一般的なケースをすぐに検討したいという願望。 もちろん、決定的な環境（リソースが限られている）の単純な問題に対する完全な解決策がない場合、より複雑な問題に取り組む価値はありますか？ しかし、科学の歴史には、より一般的な問題が解決されるまで、より単純で特定の問題の解決策が得られなかった多くの例があります。 ここで、より普遍的な知的エージェントの問題ステートメントを考慮することで、完全な解決につながらない場合、AI問題全体をよりよく理解でき、わずかに具体的なタスクの解決を促進します。



環境に関する完全な情報がないとはどういう意味ですか？ これは、qメディアの正確なアルゴリズムがわからないことを意味します。 しかし、エージェントは環境について何を知っていますか？ アルゴリズムの特定のセットがあり、それぞれが真であることが判明する場合があります（このセットはアルゴリズム的に完全な場合があります）。 そして、エージェントにアプリオリ確率μ（q）の分布を与えます。



そのような配布の導入は奇妙に思えるかもしれません。 確かに、考慮されるアルゴリズムモデルは決定論的であり、環境に対応するかどうかに関係します。 ただし、最も議論の余地のあるのは統計ではなく、確率の情報解釈です。イベント、モデルなどの確率です。 予測または選択に関する完全な情報がないという範囲に起因します。 ここでは、環境のモデルに関する不完全な情報を想定しているだけであり、この不完全さは確率分布によって柔軟に記述されています。 ただし、分布μ（q）を「真」と見なすことはできないことを強調してください。 利用可能なアプリオリ情報を使用して、可能な限り最良のものと考える方がより正しいでしょう。 状況によっては、この確率分布に完全に統計的な意味を与えることができます。 たとえば、「環境」がチェスの特定のゲームの敵である場合、アプリオリ確率は、たとえば、ミニマックスの原理で理想的にプレイしている対戦相手、プロ、初心者などの発生頻度を示すことができます。 この場合、いくつかの慣例が残っていますが、特定の一般的な反対者の集団、つまり「真の」分布μ（q）で記述される「メディア」が存在すると想定できます。



確率分布μ（q）を使用すると、予想される強化の数学的期待値を最大化するように、エージェントの問題の定式化を簡単に変更できます。



繰り返しますが、この表現はオリジナルではなく、たとえば[Hutter、2005]に従ってここで与えられています。 最適なエージェントモデルは次のように決定されます。



この式は正しく入力されたようです。 しかし、興味深いことに、p *プログラムをそれに応じてアプリオリに選択することはできず、そのままにしておくことはできません。上記で強調したように、現在、決定論的なメディアを検討しています;したがって、分布μ（q）はメディアの真の確率モデルを意味しません。代わりに、μ（q）はアプリオリに決定論的媒体の最良の不定モデルです。



, ( , ), – P(0)=P(1)=0.5. , . , . , : , , .



q, , μ(q)≠0? , . μ(q) . k:



C _k – ( k), μ _k (q). , , , , . p q - ? , . , , , . , , .



k:



, p*, (2) k=1. , : , μ(q) () , , p ₁ ^* , (4), k >1. , , (4), , p ₁ ^* , k >1. , . . , μ(q) , . argmax (4) . . , , (4).



, , , :



, , ( ) k.



(4), (5). , , , , , .



(4) (5) [Hutter, 2005]. , . , (4) p _k ^* , p ₁ ^* . μ(q) . μ(q) . , , . , , (4) (5). [Hutter, 2005].



. , . , . , , . , , . , ( « »). , , , , ( , , , ). () , .



(5) (3) , , . , .

, μ(q)? , μ(q) , ( ) . . ?



ξ. , q ξ(q)≠0, . , ξ(q)=const, , , ξ(q) – () . ξ(q) , , (), .



, , , , .. , . , ξ(q)=2 ^–l(q) , l(q) – q. 2 ^–l(q) () 1.



: , . , , ; , , , , . ξ(q) μ(q), , ξ(q) (4) (5).



, . , , . - , . , - , . , . , , (), .



: () . , , , .



( ). , . , , , – , . , , , () , ξ(q) . , , () . , :



Λ – .



, [Hutter, 2005] [Hutter, 2007] ξ(q)=2 ^–l(q) P _ALP (x) . , , .



, «» : - , , . [Solomonoff, 1986] . , x x',



, P _ALP (x) , x, , x . P _ALP (xx') – , xx'.



, , , . , , .



, . , [Hutter, 2005] , . . , x _1:k , q, , . , «» , , . «» , , , «» , , q . , q* , ( , q* ), .



, (., ., [Solomonoff, 1997], [Li and Vitanyi, 1997], [, 2007] ). , .



, (6) , ( ) U ( ), . U(q) q(Λ). ξ(q).



, U V u, q, V(uq)=U(q). ,



P _v (x) ≤ 2 ^l(v) P _U (x), P _V , P _U – , . , . , . V, q, P _V (q)=0, . , , , : ( ), ( ) ( ). , , . , , , , ( ξ(q)=const, ξ(q) ).



, « » , . . , , , , , «». , . , , - , .

AIξ

AIξ [Hutter, 2005] (4) (5) ξ(q) μ(q).





ξ _k (q) , μ _k (q).



. p , x _>k , q, x (7). AIξ , . ( ).



, . , AIξ , (4) (5): ξ _k (q). . , , . , , , , , , . .



, ? , «» . , « » , . . , , .



, AIξ . , ( ) .

IMIモデル（AIξ型モデル）は、本当にユニバーサルインテリジェンスを説明していますか？ 目的関数の最大化としてのAIの問題の記述は不完全であることが既にわかりました。目的関数自体を設定する問題は非常に困難です（ここでは、予測範囲を設定するより具体的な問題を含めることができます）。 しかし、この問題を解決するという点でのみ、それらは普遍的ですか？



さまざまな微妙な側面があります。 たとえば、アルゴリズムの確率は、ブレークの問題のために計算できません。 ノンストップモデルによって生成された結果は、制限の計算可能性の意味で解釈できることを既に説明しました。 使用される計算可能性の概念に応じて、アルゴリズムの確率を計算する際に、ノンストップモデル（および実際的な観点からは、長時間実行モデルのみ）を考慮または無視できます。 この側面は、将来的に明確化する必要があります。



前述のIMIモデルのもう1つの議論の余地がある側面は、決定論です。 小学校の試合-じゃんけん紙（CBN）を考えてみてください。 各プレイヤーには一定のアクションがあり、勝つための明確なルールがあります。 ラウンドの有限シーケンスの場合に考慮します。



o _k = q '（y _<k ）、y _k = p'（x _<k ）;の場合、特定の深さのバリアント（アクション/応答）のツリーを構築できます。 r _kは o _kおよびy _kによって定義されます。 k = 1の場合、ツリーは対称になります。つまり、アクション間に優先順位はありません。 ただし、この場合の決定論的アルゴリズムはアクションを一意に選択し、その後対称性が破られます。 ラウンドの履歴によると、各対戦相手は別の対戦相手のプログラムを復元しようとします。 簡単にするために、互いのプログラムが一致し、相手によってアプリオリに知られていると仮定します。 これらは、たとえば（2）の形式のプログラムです。 しかし、プログラムが決定的である場合、それらは明確な一連のアクションを決定します。つまり、各敵は簡単に他のアクションを計算し、勝ち抜くことができます。 ここには明確な矛盾があります。 結局のところ、両方の対戦相手が勝つことはできません！



実際、矛盾があります。 それは非常にシンプルですが、非常に深いです。 事実は、y _kを計算する際に_、プログラムpがプログラムqを開始するということです。これは、プログラムpが式（3）で記述される場合は明らかです。 しかし、この場合、qプログラムは同じ形式を持ち、pプログラムを起動し、次に、pプログラムを起動します。 プログラム（3）にはqの有限数の呼び出しが含まれているように見えます。 メディアから、エージェントのアクションに対して直接計算された反応が得られることを暗黙的に期待しています。 ただし、別のエージェントが環境と見なされるとすぐに、そのプログラムには最初のエージェントのプログラムの開始が含まれ、無限の再帰が得られ、原則として選択はできません。 そして、無限のコンピューティングリソースでさえここでは節約できません。 これは、他の知的エージェントとの対話が根本的に説明されていない側面であることを意味します。



もちろん、AIの「理想」の要件を減らすと、つまり、リソースが限られたより詳細なモデルを検討すれば、このパラドックスを解消できると考えるかもしれません。 リソースが限られている場合、何らかの選択が必然的に行われますが、リソースが少ない決定論的エージェントは、KNBの優れたリソースを持つエージェントに失われます。 同時に、KNBには平凡な戦略があり、任意の大きなリソースを持つ対戦相手に対して計算コストなしで平均的な引き分けを提供します：これは、AIξに完全に存在しない真にランダムな（擬似ランダムではない）アクションの選択です。



前述のように、世界に真のランダム性が存在するかどうかは議論の余地がありますが、実際には、エージェントがアルゴリズムの複雑さを増す一連の数を生成できるセンサーを実装することは難しくありません。 また、KNBの例が大げさではないことにも注意してください。 捕食者や獲物などのエージェントの相互作用では、軌跡の選択のランダム性を追跡するプロセスにおいても同様に重要です。



そのため、エージェントはランダムな選択を行うことができると想定できますが、原則として決定論的なアルゴリズムに置き換えることはできません（特に考慮されるKNBゲームから、および一般的に他のエージェントとやり取りする場合）。 AIが配置されているマルチエージェント環境が確率的アルゴリズムによって特徴付けられている場合、これは、そのモデルを構築するときに考慮することを傷つけません。必然的に抽象化（基本的に不完全/不正確なモデルの構築）が含まれます。 このような抽象化は、リソースが限られているだけでなく、pとqが互いに正確なモデルを使用するときに発生するこの矛盾を解消するために無制限のリソースでも必要です（建設的な理由により、エージェントがエージェント自体を含む世界を正確にモデル化できないことは明らかです、エージェントは自分より複雑にできないため）



ここでも自然な疑問が生じます：それらは反射、自己認識を持っているでしょうか？ より客観主義的な質問をすることができます：IMIは「考える」、「知る」などの概念を正しく使用できますか？ 一方では、IMRの問題の声明には明示的な形式での反映の必要性がなく、リソースの制限を考慮する場合に必要に応じて導入する必要があると想定できます。 一方、IMIには無制限のリソースがあると仮定すると、特定の社会環境で彼自身の思考に関連する概念を適用する必要性からIMIが救われることはありません。 IMRは任意のアルゴリズムを構築し、目的関数を増加させる任意のアクションを選択できるため、これらの概念を間接的に使用できると想定できます（相互作用の十分に長い履歴がある場合）が、彼にはそれらの直接的なセマンティック基盤がありません。



世界全体のアルゴリズムモデルの妥当性に疑問を投げかけることができます。 理解や自己認識などの認知機能は、計算不可能な物理プロセスに関連していることはよく知られています。 ただし、強力なAIを作成する（この場合でも、誰かが自己認識や理解を彼に帰することに同意しない）ことを除いて、この意見に反論することは可能ですが、彼の好意的な議論は非常に物議を醸しています。 この問題は広く議論されているため、ここでは注意を払いませんが、この意見が正しいとしても、「アルゴリズム的に普遍的な」AIの作成は重要な前進であり、さらに、今では技術的な手段がないことに注意してくださいインテリジェンスに役立つ数え切れないほどのプロセスを具体化できます。

結論

理想的な最小インテリジェンスのモデルは、先験的な不明確な環境でのアルゴリズムの確率に基づく普遍的な予測を使用して、環境との相互作用の履歴に従って目的関数を最大化するアクションを選択するための理論的に最適な（特定の予約を伴う）オプションを表します。 目的関数の割り当て、アルゴリズムの古典的な計算可能性、マルチエージェント相互作用の過小評価、アクションの選択における決定論、正確な環境モデルの使用、アクションを選択する際の世界モデルの不確実性を減らす可能性の過小評価、反射の欠如は、その普遍性に疑問を投げかける考慮されたIMIモデルの特徴です。 ただし、これらの側面は、このモデルの非効率性（または計算不可能性）の問題ほど深刻ではありません。 さらに、リソースの制約を入力した後、それらをより詳細に分析することができます。

文学

（Hutter、2005）Hutter M. ユニバーサル人工知能。 アルゴリズムの確率 /スプリンガーに基づく順次決定 。 2005.278 p。



（Hutter、2007）Hutter M. Universal Algorithmic Intelligence：A Mathematical Top→Down Approach // in Artificial General Intelligence。 Cognitive Technologies、B。GoertzelおよびC. Pennachin（編）。 スプリンガー 2007. P. 227–290。



（Li and Vitanyi、1997）Li M.、Vitanyi P. コルモゴロフ複雑性とその応用の紹介。 第2版​​：NY、Springer-Verlag。 1997。



（Orseau and Ring、2011）Orseau L、Ring M. 人工エージェントの自己修正と死亡 //コンピュータサイエンス6830講演ノート（proc。Artificial General Intelligence-4th International Conference）。 スプリンガー、2011。P。1-10。



（Ring and Orseau、2011）Ring M.、Orseau L. Delusion、Survival、およびIntelligent Agents //コンピューターサイエンス6830講演ノート（proc。Artificial General Intelligence-4th International Conference）。 スプリンガー、2011。P。11–20。



（2003年、Schmidhuber）Schmidhuber J. 新しいAI：物理学に関連する一般的なサウンド。 テクニカルレポートTR IDSIA-04-03、バージョン1.0、cs.AI / 0302012 v1、IDSIA。 2003年。



（Solomonoff、1986）Solomonoff R. 人工知能の問題へのアルゴリズム確率の適用 // In：LN Kanal and JF Lemmer（Eds。）。 人工知能の不確実性：Elsevier Science Publishers。 1986. P. 473-491。



（Solomonoff、1997）Solomonoff R. アルゴリズムの確率は帰納の問題を解決しますか？ // Oxbridge Research、POB 391887、ケンブリッジ、マサチューセッツ州。 02139. 1997。



（Potapov、2007）Potapov A.S. パターン認識と機械認識：最小記述長の原則に基づく一般的なアプローチ。 サンクトペテルブルク：ポリテクニック、2007.548 s。