ユニバーサルインテリジェンスを構築するためのアプローチの基礎。 パート2

パート1

強力なAIへの既存のアプローチの簡単な分析。

認知アーキテクチャ。

強力なAIを作成する場合、人間の脳の仕事の詳細ではなくても、少なくともそれが実行する機能を再現するのは自然です。 そうでなければ、創造された知性であることを確認することは非常に困難です。 学習、記憶、計画などの機能、つまり自然知能のすべて（またはほとんどすべて）を組み合わせた認知アーキテクチャによって追求されるのは、まさにこの目標です。 これにより、認知アーキテクチャは非常に魅力的で人気があります。

ただし、コンピューターにすべての認知機能を付与したいという願望自体は、これを正しく行う方法を示していません。 その結果、これまでに多くの認知アーキテクチャが開発されてきましたが、その一部は、強力なAIを構築するためのパスとして位置付けられることがよくあります。 これらには、特に、SoarやACT-Rなどの強力なAIの一般的なアーキテクチャが含まれます。

多くのアーキテクチャは、多くの場合、人間の心のより高い認知機能の現象学に基づいています。 ただし、これらの機能の性質とそれらの要件を完全に理解していないため、それらの実装はほとんど任意です。

多くの場合、そのようなアーキテクチャの構築でさえ、人間の思考の「氷山の一角」のみをモデル化する従来のシンボリックアプローチのフレームワーク内で実行されます。 それでも、高レベルの機能だけでなく、低レベルの機能（いわゆる創発的アーキテクチャ）も再現する機能を構築しようとすることがよくあります。 さらに、AIの研究者は、シンボリックレベルとサブシンボリックレベルを組み合わせてハイブリッドアーキテクチャを開発する必要性と、純粋にシンボリックアーキテクチャに実装するのに非常に問題のある具体的なシステムを構築する必要性（特に、概念のセマンティック基盤を取得するため） Duch et al。、2008]レビューとして）。

しかし、[Duch et al。、2008]は、現実の問題を解決するために使用されることは非常にまれであり、実世界の自律的な行動のレベルに合わせてスケーリングされることは言うまでもありません。 では、なぜ認知アーキテクチャは強力なAIの分野で大きな進歩をもたらさなかったのでしょうか？ この質問に対する答えはすでに上に与えられています。

これらのシステムは、弱いコンポーネントから組み立てられているため、非普遍性に陥る可能性が高いです。 これは明らかに、最初はNovamenteなどの一般的な知能システムとして位置付けられていたシステムに適用されます（その説明は[Goertzel and Pennachin、2007]にあります）。 もちろん、普遍性の特性を1つまたは別のアーキテクチャの拡張として導入する可能性は排除されません（最終的に、知性の普遍性はほとんどの動物に起因することはほとんどできないため、より特定の知性の形態に対する進化的上部構造として現れました）。 それにもかかわらず、この方法は私たちにとってより面倒で最適ではないようです。

リソースベースのアプローチ。

このアプローチは、P。Wang [Wang、2007]による次の定義に基づいています。

インテリジェンスは、不十分な知識とリソースで動作しながら環境に適応するシステムの能力であり、適応（経験から学習する能力として）はかなり一般的な要件ですが、アプローチの主な機能はリソースと知識の不足（リソース十分な情報があり、非常にインテリジェントな方法は使用できません）。 その結果、このアプローチのフレームワーク内で、知識の曖昧さを説明するためにカテゴリロジックのバリアントが構築され、限られたコンピューティングリソースを考慮した分散知識操作システムが提案されます。

さらに、著者は「知的」と「効果的に知的」の概念を分離することを提案しています。 このような区分はかなり公平に思え、たとえば「ブルートフォース」方式で動作するチェスプログラムは、インテリジェントチェスプレーヤーと同じ意味で知的ではないという直感的な印象を反映しています。

効果的なインテリジェンスの原則に同意することはできますが、この特定のアプローチはSRIを構築するための基礎になることはほとんどありません。ユニバーサルアルゴリズムモデルおよび認知アーキテクチャで特定されるインテリジェンスの側面を逃します。 言い換えれば、リソース制限の必要性に関する論文は、それらを正しく導入する方法を示していません。

特に、これは、P。Wangが基本原則としてエージェントの知識の欠如を導入したという事実から見ることができます。 もちろん、知識の欠如は重要ですが、行動の空間での検索だけでなく、ファジー知識の説明が基本的な原理ではなく、ヒューリスティックなだけである普遍的な帰納的結論も含む、普遍的なアルゴリズムインテリジェンスのモデル（Wangによって批判された）で完全に考慮されますモデルの列挙を簡素化する（これについては後で説明します）。

結果として、このアプローチの枠組み内では、他の人と比較して基本的な利点を持たないプライベートな認知アーキテクチャのみが開発されていますが、限られたリソースの原則を体系的に順守することには大きな発見的力があります。

ユニバーサルアルゴリズムインテリジェンス。

このアプローチのアイデア自体は長い間知られていますが、主に[Hutter、2001]、[Schmidhuber、2003]およびこれらの著者の他の作品を通じて比較的最近認識されています。 その枠組みの中で、主な重点は、いくつかの評価機能を最大化するために環境行動選択システムに含まれるソロモノ​​フの普遍的な誘導モデルです。

ここでは、分析はリソースの制約を課さないシンプルなユニバーサルモデルから始まります。 リソース制約を導入することで実装されるモデルの開発中に、ユニバーサルプロパティをユニバーサルAIモデルにすぐに導入し、このプロパティを維持することが非常に望ましいと考えているため、アプローチの最初のステップは同様です。

検討中のアプローチの最新バージョンでは、リソース制約も導入されていますが、ユニバーサルAIの最大の公平性により、自己最適化の一般的なモデルを構築できます。

ただし、リソースの制約をこのように考慮するだけでは十分ではありません。 進化全体を再現する必要があり、それは先験的な情報なしに普遍的な自己最適化検索として始まったと言えます。 そのような普遍的な知性の形成は予見可能な時間で実行できることは明らかであり、外部世界の構造に関する十分な量の先験的な情報、およびモデルとアクションのバリアントの列挙を減らすための発見的方法をそこに置くことが必要です。 これらのヒューリスティックは、自然知能の認知機能の現象学から収集できます。 一方、強力なAIでは、（たとえばCyc sinなどのプロジェクトよりも）自分で得ることができる特定の知識の多くを手動で配置することは非合理的です。 明らかに、これらの両極端の間で最適な妥協点を達成する必要があります。

さらに、議論のための別の問題は、提示されたモデルが本当に普遍的であるかどうかです。 このためには、これらのモデルの仮想的な可能性を人間の能力と注意深く比較する必要があります。 一部では、このような比較が行われます（たとえば、[Hutter、2005]）。 それにもかかわらず、これらのモデルの真の普遍性に関する疑問を提起することができます。これは、普遍的なアルゴリズム知能の私たち自身のモデルの分析で示されます。

ここで、そのような疑問の1つだけに注目します。これは、ゼロ次近似でのみ知能を削減して、アプリオリに指定された目的関数を最大化できるということです。 結局のところ、たとえば知性の仕事が生存を確保することである場合、（たとえば感情的な推定に基づいて）先験的に指定された目的関数は、生存の目標の大まかなヒューリスティック近似にしかなれません。 これは、個体発生における標的機能を何らかの形で明らかにするための特別なメカニズムの存在の必要性を意味します。 ここで、チェスと次の類似性を与えることができます。 1人の知的エージェントが1つのゲームしかプレイできないようにします。 限られたコンピューティングリソースでは、彼は勝利または敗北を予測するオプションを完全に列挙することはできません。 世界についての先験的な知識を最小限に抑えて生まれているため、ゲームツリーの見込みのないオプションを効果的に遮断できるような複雑な目的関数を持つことはできません。 最初の目的関数は、いくつかの直接知覚された刺激のみに頼ることができます。たとえば、フィギュアの全体の強さ（フィギュアを失ったり、相手のフィギュアを食べたりするときに痛みと喜びを感じます）に依存します。 成長（プレイ）の過程で、エージェントはより複雑なコンセプトを構築できますが、自分で（生涯をかけずに）原則として、これらのコンセプトに基づいて目的関数を改善する方法を決定することはできません。 ただし、他のエージェントはこの情報を彼に与えることができますが、それはターゲット機能を変更するための何らかの優れたメカニズムがあるという条件でのみです。 この側面は、フレンドリーなAIの問題にも関連しています...

ターゲット関数アプローチによる学習。

目的関数を学習する問題は、強力なAI（より正確には、友好的なAI [Yudkowsky、2011]）を構築する際の基本と見なされる場合があります。 このアプローチの枠組みの中で、先験的な目的関数を最大化することは、特に物理環境と同じ客観的現実の要素である社会環境との効果的な（そして望ましい）相互作用の観点から、人工知能が普遍的であるために十分ではないことに非常に注意してください。

AIに自身の目的関数を変更する能力を与える問題は、別の目的関数（または他の先験的なメカニズム）の制御下にない場合に、目的関数を最適化する方法が明確ではないという事実のために重要です。 目的関数を変更する可能性の重要性は、エージェントが完全に普遍的である必要があるという事実だけでなく、先験的な目的関数を最大化しようとするAIが、この関数の観点から非常に望ましくないアクションを見つける可能性が高いという事実とも関連しています人々のために[Yudkowsky、2011]。 これらの側面の重要性は否定できませんが、ユニバーサルインテリジェンスの特定のモデル外での考慮は、強力なAIを作成するためのパスを概説することを許可しません（むしろ、その作成へのパスにいくつかの制限を設定します）。したがって、このアプローチは他のアプローチを補完するものと見なされる必要があります。 目的関数を変更する機能は、普遍的な知的エージェントのアーキテクチャで提供する必要がありますが、一般に、他の認知機能と同じレベル、つまり「幼児」AIの開発効率を「大人」AIのレベルまで高める特定のヒューリスティックと見なすことができます。

適応行動、自己組織化およびバイオニクス一般。

バイオニックアプローチに関連する強力なAIの分野には、多くの研究分野があります。 ここでは、さまざまな詳細レベルで脳をモデル化し、最も単純なものからより複雑な形に始まり、進化をモデリングし、全体として自己組織化する適応行動を再現する試みが行われています（たとえば[Garis、2007] [Red'ko、2007]を参照）。 多くの場合、このアプローチは本質的に模倣的であり、アルゴリズムによるアプローチとは非常に対立しています。そのため、十分な深さではありません。 特に、進化と自己組織化の異なるシミュレーションモデルは、著者が解決すべき最適化問題の計算の複雑さや、原則としてこれから生じる可能性のあるアルゴリズムの完全性に関連する問題を考慮しようとしないという単純な理由で、無限の開発につながりません。モデリング。 このため、バイオニックアプローチだけで強力なAIを作成できることは非常に疑わしいです。 しかし、同時に、それは生産的なアイデアの重要なソースとして機能する可能性があり、それは無視するには余りにも無駄です。

結論

ご覧のように、強力なAIに対するさまざまな既存のアプローチは、普遍的なAIの問題のさまざまな側面を考慮しているため、互いに矛盾することはないため、それらを組み合わせる必要があります。 当然、利用可能なさまざまなシステムや方法を統合しようとする多くの統合アプローチがあります。そのため、全体としての統合という考え方は新しいものではありません。 ただし、多くの場合、この統合は弱いメソッドの組み合わせ、または汎用アルゴリズムAIモデルの部分的な拡張に限定されます。 統合の不十分な「深さ」は、これらのアプローチの支持者が互いに反対することを好むという事実から明らかであり、競争的アプローチの欠点を批判している。 ここでは、以前に得られた主な結果とアイデアをより深い概念レベルで考慮する新しいアプローチの開発について詳しく説明しています（ただし、異なるアプローチ間の接続を確立することは常に容易ではありません）。

リソースが無制限の場合は、最も単純なモデルから始める必要があります。 それらの普遍性を確認するか、それを達成するのに十分でないものを確立します。これは後で考慮することができます。 次に、コンピューティングリソースに制限のあるユニバーサルモデルを検討する必要があります。 このようなモデルは比較的単純な場合もありますが、自己最適化を含める必要があります。 次に、AIが自律的になるのにかかる時間を短縮するために、世界の特性（最も一般的なものが認知アーキテクチャの機能を決定します）に関するアプリオリ情報を導入する必要があります。

文学

（McCarthy、2005）McCarthy J. The Future of AI — A Manifesto // AI Magazine。 2005.V. 26.いいえ4.P. 39。

（Nilsson、2005a）Nilsson NJ Reconsiderations // AI Magazine。 2005. V. 26. No 4. P. 36–38。

（Nilsson、2005b）Nilsson NJ人間レベルの人工知能？ まじめに！ // AIマガジン。 2005. V. 26. No. 4. P. 68–75。

（Brachman、2005）Brachman R.「The Very Idea」に戻る// AI Magazine。 2005. V. 26. No 4. P. 48-50。

（Bobrow、2005）Bobrow DG AAAI：大規模システムの時間です// AI Magazine。 2005. V. 26. No 4. P. 40–41。

（Cassimatis et al。、2006）Cassimatis N.、Mueller ET、Winston PH Acheving Human-Level Intelligence through Integrated Systems and Research // AI Magazine。 2006. V. 27. No. 2. P. 12-14。

（Langley、2006）Langley P. Cognitive Architectures and General Intelligent Systems // AI Magazine。 2006. V. 27. No. 2. P. 33–44。

（カシマティス、2006）Cassimatis NL人間レベルの知性を達成するための認知基質// AI Magazine。 2006. V. 27. No. 2. P. 45–56。

（Jones and Wray、2006）Jones RM、Wray RE知識集約型インテリジェントエージェントのフレームワークの比較分析// AI Magazine。 2006. V. 27.No 2. P. 57-70。

（Cohen 2005）Cohen PRチューリングのテストではない場合、それでは何？ // AIマガジン。 2005. V. 26. No 4. P. 61–67。

（ホール、2008）Jストーズホール。 Engineering Utopia //人工知能とアプリケーションの最前線（Proc。1st AGI Conference）。 2008. V. 171. P. 460-467。

（Pankov、2008）Pankov S. AIXIモデルの計算近似//人工知能とアプリケーションの最前線（Proc。1st AGI Conference）。 2008. V. 171. P. 256–267。

（Duch et al。、2008）Duch W.、Oentaryo RJ、Pasquier M. Cognitive Architectures：Where Do Go Go Here Here // Frontiers in Artificial Intelligence and Applications（Proc。1st AGI Conference）。 2008. V. 171. P. 122–136。

（Yudkowsky、2011）Yudkowsky E. Complex Value Systems n Friendly AI // Proc。 人工知能-第4回国際会議、AGI 2011、米国カリフォルニア州マウンテンビュー、2011年8月3〜6日。コンピューターサイエンス6830講演ノート。Springer 2011. P. 388–393。

（Kurzweil、2005）Kurzweil R.特異点は近い。 バイキング、2005年。

（Solomonoff、1964）Solomonoff RJ帰納的推論の形式理論：パート1および2。情報と制御。 1964. V. 7. P. 1–22、224–254。

（2003年、Schmidhuber）Schmidhuber J.新しいAI：物理学に関連する一般的なサウンド。 テクニカルレポートTR IDSIA-04-03、バージョン1.0、cs.AI / 0302012 v1、IDSIA。 2003年。

（Hutter、2001）Hutter M.アルゴリズムの確率と逐次決定に基づく人工知能の普遍的な理論に向けて。 Procで 第12回欧州会議 on Machine Learning（ECML-2001）、volume 2167 of LNAI、Springer、Berlin 2001年。

（Hutter、2005）Hutter M.ユニバーサル人工知能。 アルゴリズムの確率/スプリンガーに基づく順次決定。 2005.278 p。

（Wang、2007）Wang P. The Intelligence of Intelligence // in Artificial General Intelligence。 Cognitive Technologies、B。GoertzelおよびC. Pennachin（編）。 スプリンガー 2007. P. 31–62。

（Schmidhuber、2007）Schmidhuber J.GödelMachines：完全自己参照型の最適なユニバーサル自己改良型//人工知能。 Cognitive Technologies、B。GoertzelおよびC. Pennachin（編）。 スプリンガー 2007. P. 199–226。

（Hutter、2007）Hutter M. Universal Algorithmic Intelligence：A Mathematical Top→Down Approach // in Artificial General Intelligence。 Cognitive Technologies、B。GoertzelおよびC. Pennachin（編）。 スプリンガー 2007. P. 227–290。

（Goertzel and Pennachin、2007）Goertzel B.、Pennachin C. The Novamente Artificial Intelligence Engine // in Artificial General Intelligence。 Cognitive Technologies、B。GoertzelおよびC. Pennachin（編）。 スプリンガー 2007. P. 63–130。

（Garis、2007）Hugo de Garis。 人工知能における人工脳//。 Cognitive Technologies、B。GoertzelおよびC. Pennachin（編）。 スプリンガー 2007. P. 159–174

（Red'ko、2007）Red'ko VG人工知能への自然な方法//人工一般知能。 Cognitive Technologies、B。GoertzelおよびC. Pennachin（編）。 スプリンガー 2007. P. 327–352。