ユニバーサルインテリジェンスの認知バイアス

はじめに

以前の記事（ http://habrahabr.ru/post/150056/およびhttp://habrahabr.ru/post/150902/ ）では、理想的な最小知能（IMI）の最も単純なモデル、特にAIξモデルを調べました。 重要な予約があまりない場合、「AIXIモデルは可能な限り最もインテリジェントな不偏エージェント」であることにほぼ同意することができます[Hutter、2007]。その行動におけるIMIは人よりも制限されないが、十分なコンピューティングリソースと情報。 最後の免責事項では、これらのモデルが実際のAIの作成に至らなかった主な理由と、それらがモデルへの最初の小さなステップとしか考えられない理由を明確にします。 次に進むべき場所を決定することが重要です。



前の記事で述べたように、関心はIMIモデルによって記述される「偏りのない」（計算可能な環境のクラス全体に最適なパレート）インテリジェンスではなく、「実用的」（つまり、世界に最適化）です。 実用的なAIは、任意の環境で最適なアクションを選択する問題の純粋に分析的な考察だけに基づいて構築することはできません。 最も効果的な自己最適化でも不十分です。進化に匹敵する膨大な量の計算だけでなく、エージェントと環境との適切な物理的相互作用も必要になるからです。 ユニバーサルAIのプラグマティズムは、「認知バイアス」の導入によって保証されるべきです。「認知バイアス」の要素は、AIと人間の思考の古典的な研究で何らかの形で明らかにされ、それらはすべて経験的に有用です。 ここに蓄積された情報を拒否することはできませんが、それらの特別な解釈は普遍的な知性の理論の枠組みで必要です。 認知機能の導入は、IMRの基本的な能力を拡大するものではなく、IMRの有効性/実用性を高めるはずです。

知覚。

知覚が入力として感覚データを受け取るだけでなく、自然システムの特徴である特定の認知プロセスを正確に受け取ると理解されている場合、IMRモデルには知覚などの顕著な認知機能は含まれません。 さらに、自然な知覚システムは、実世界で遭遇する規則性と一致する大きな誘導バイアスを設定する顕著な構造を持っています。 このバイアスは、情報の表現という形で実装されており、徹底的な検索を行うことなく、感覚データの非常に効果的な解釈を可能にします。



知覚の例を使用すると、アルゴリズムモデルの直接検索を必要とするIMRモデル、たとえば長さが数百万ビット（つまり、検討中のモデルの数>> 10 ¹⁰⁰⁰⁰⁰ ）を超える画像の場合、絶対に非現実的であることが完全に明確になるはずです。 同時に、人間の感覚知覚システムは普遍性を保持していることを強調する必要があります。 彼女は、ほぼ任意の規則性によって与えられた刺激を検出できます。 同時に、どのコンピュータービジョンシステムでも、識別できない刺激のクラスを見つけるのは非常に簡単です。 これは、自明でない刺激による条件反射の形成をモデル化しようとする試みで明らかに見られます（たとえば、[Potapov and Rozhkov、2012]およびその参考文献を参照）。 これに関連して、ロボット工学、人工知能、機械知覚および学習の分野における著しい進歩にもかかわらず、非構造化環境で機能するのに十分な共通性を備えた真の認知システムが不足しているという意見が表明されています[Pavel et al。、2007]これは明らかに、知覚システムの非普遍性（モデル空間のアルゴリズムの完全性という意味で）と関連しています。



IMIでは、モデルを構築するプロセスには暗黙の知覚が含まれます。その中で、特定の認知機能として、世界のより複雑なシンボリックモデルから分離されません。 このような分離自体（ただし、分割は「ソフト」です！）ヒューリスティックと見なすことができますが、それだけでは十分ではなく、IMRでモデルを構築するプロセスをより効率的にする一般的な問題が発生します。

モデル。

IMRは、環境モデルの選択と固定を意味するものではありません。 最適な予測のために、予測で考慮される異なる重みを持つすべての可能なモデルが、利用可能なすべてのデータに対してソートされます。 当然、私たちにとっては絶対に無駄です。 人は、世界の1つの真のモデルを検索する傾向があるように見えることさえあります。 特に、すべての科学は、明確な法則に対応する世界の単一の統一モデルを構築する試みです。 もちろん、科学研究の過程で、さまざまな競合する理論が整理されますが、最終的にはそれらの間で選択が行われます。 さらに、理論の多様性は、単一の知性の中でではなく、社会のマルチエージェントの性質のために主にサポートされています。



知覚の場合、単一のモデルまたは解釈を選択する顕著な傾向もあります。 これは、人間の視覚が2つの等価物から1つの解釈を選択する二重幻想で特に顕著です。 同時に、人は意識的にビジョンを別の解釈に切り替えることができますが、両方のオプションを同時に見ることはできません。 これは、構造的な記述など、かなり低いレベルとセマンティックレベルの両方で発生します。 多くの二元的幻想があることはよく知られていますが、これもまた意味がありません。



ただし、ここで強調する必要があるのは、アクションを選択するときに予測するための単一の一貫したモデルの選択は、不要であるだけでなく、有害でさえあることです。 したがって、実際のAIは、一般的に言えば、環境の1つの（および単一の）モデルを、明示的な形式でさえ構築しようとする義務はありません。 グローバルな真のモデル（一貫した公理の大規模な基盤）をサポートするAIを作成する試みは、重大な困難に直面しました。 ここで、新しい情報を取得するときに真実を維持するためのシステムで問題が発生し、帰納的な動作などを実装することが問題になります。



人は当然、データだけでなくモデルの競合によって導かれる場合があります。場合によっては、あるモデルを使用して、他のモデルを使用します。 「本質的に」競合するデータはないと言うこともできます（少なくとも、そうではありません）。 これらは、普遍的な予測モデルを単純化するときに、ヒューリスティックな特性として表示されます。 また、人は完全に何かを見たり、聞いたり、そこに何があったかについてさまざまな仮定を立てたりすることはできません。 つまり、理論的には、考えられるすべてのモデルの理想的な考慮事項が、モデルの列挙結果の「スマート」分析に置き換えられます。



当然、実際のAIでのモデルの選択と漸進的な改良が必要になります。 毎回、利用可能なすべてのデータに対して帰納を実行し、すべての可能なモデルをソートすることは、限られたリソースの状況では非常に無駄です。 しかし、同時に、リソース制約の導入は、唯一の「真の」モデルが残るほど厳しくないはずです。



特に、モデルおよび予測の検索における軽率な単純化は、重要な行動形態（たとえば、情報を見つけることを目的とした帰納的行動）の損失につながります。 また、科学では、理論間の選択は現在のデータに基づいているだけでなく、既存の不確実性を減らすためにどの実験が新しい情報を提供するかを決定するために、異なる理論が同時に調べられます。 そのような帰納的振る舞い（多くのモデルを検討する場合に可能）により、情報が蓄積され、モデルの品質の差が大きくなり、選択がほとんど明確になります。 内容（および品質）が近いモデルは、独立した異なるモデルとしてではなく、1つの「ファジー」モデルとして処理されます。 このような不定/ファジーモデルの導入により、単一のモデルを選択した場合でも帰納的動作の効果を得ることができます。実際、一部のアクションは不確実性の大幅な減少につながり、次のアクションを実行するときに何らかの強化を確実に受けることができます。 当然のことながら、モデルセットを最も効率的な方法で「ファジー」モデルに置き換える方法を理論的に検討する必要があるという疑問が残ります。



そのため、モデルは、以前に得られた帰納法の結果の「キャッシング」として、また、普遍帰納法でモデルの無限セット全体を列挙する際の制限として現れますが、これらのモデルは普遍性が失われないように「ソフトに」導入する必要があります。

提出。

検討中のモデルの数を制限する必要がありますが、十分ではありません。 最適なモデルを1つ使用する（つまり、アルゴリズムの確率ではなくコルモゴロフの複雑さを使用する）ことは非現実的です。長さLのモデルの検索時間は2 ^Lに比例します^。 モデルの複雑さは、参照マシン（プログラミング方法）の選択に依存します。 しかし、サポートマシンの選択に成功しても、一部のモデル（実際の法則を記述）の長さは、これらのモデルを直接検索して構築するには大きすぎることがわかります。 ここで追加のメタヒューリスティックが必要です。



視覚の問題の一部として、我々はすでに、画像解析の実際の方法に普遍的な帰納法を近づける試みを行っています[Potapov、2012]。 エージェントと環境との相互作用の完全な履歴のモデルを構築するタスクを、ほとんど独立して解決されるサブタスクに分解する必要性から生じる、代表的な最小記述長の原則について話します。 感覚データの長い列が部分文字列に分割される場合、部分文字列の複雑さの評価は、全体としての履歴のアルゴリズムの複雑さよりもはるかに大きくなります。 この点で、このような直接分解は受け入れられません。 ただし、これらの部分文字列から相互情報が抽出され、各部分文字列を個別に説明する際にアプリオリとして使用される場合、部分文字列の条件付きアルゴリズムの複雑さは、ストーリーの複雑さに非常に近くなります。 この相互情報は、表現（説明方法）として解釈（またはフォームで表現）できます。 表現の導入は、参照マシンの選択に似ていますが、2つの側面が異なります：表現の概念には、追加の分解メタヒューリスティックが含まれ、異なるデータフラグメントに対して異なる表現を使用できます。これは、必ずしもアルゴリズム的に完全なモデル空間に対応しない場合がありますモデル空間で）。



確かに、たとえばビジョンを取り上げる場合、画像の記述（自然システムと適用された自動方法の両方）は、常に何らかの先験的表現の枠組み内で実行されます。その目的は、環境モデルの空間における確率分布をシフトすることだけではありません、しかしそれらの分解を有効にします。 特に、画像のアプリオリ表現の使用により、コンピュータービジョン方法は、各画像に発生する複雑なパターンの全体を導き出すために、多数のさまざまな画像を入力する必要がなく、各画像に個別に適用できることが判明しました。



プレゼンテーションの概念は非常に生産的です。 表現の概念は、感覚データの表現、知識の表現、および精神的表現に適用されます（つまり、表現は、自然な知能の一般的な認知機能と呼ぶことができます）。 独立した価値を持つ階層的記述の一般的なアイデアでさえ、重要ではあるが特定の表現形式のアイデアと見なされるべきです。 もちろん、階層的な分解は潜在的に効率的です。 このタイプの表現は、機械の認識では非常に一般的です。 ただし、集中的な階層分解により、対応する表現のフレームワーク内で構築されたモデルの品質が低下します。 この負の効果の補償は、適応共振を導入することで実現できます。 繰り返しますが、強力なAIに対するいくつかのアプローチでは、適応共鳴の価値は絶対化されます（SRIの鍵であると考えられています）。 適応共鳴機構の価値は確かに大きいですが、普遍的な帰納法の理論の枠組みで形式化できるのはメタヒューリスティックの1つにすぎないことを理解する必要があります。



感覚的知覚の場合でさえ、生来のアイデアの欠如に注目する価値があります。 人間と他の多くの動物の両方で、表現（非常に低いレベルの知覚でさえ）が特定の環境に適応するという事実を支持する多くの証拠があります。 また、AIには、表現の自動構築が必要です。これは、普遍帰納法の理論でも研究でき[Potapov et al。、2010]、おそらく、表現のトレーニングはより具体的で「実用的な」方法であるため、効果的なユニバーサルAIの自己最適化の要素である必要があります参照マシンのインクリメンタルな改良。これにより、モデル空間の事前確率分布が設定されます。 しかし同時に、多くの表現の普遍性（アルゴリズムの完全性）を維持する必要性を再び強調する価値があります。

計画中。

上記では、列挙を減らしながら徐々にストーリーを長くする方法として、インクリメンタルモデルの構築について説明しました。 ただし、最適なアクションを選択するタスクは計算の複雑さも高く、このタスクでは増分決定スキームを導入することは非常に自然です。 このようなスキームは、計画の概念につながります。これは、人の認知特性の1つでもあります。



IMRだけでなく、「ブルートフォース」に基づく弱いAIの方法も計画を使用しないことに注意してください。 特に、これは成功したチェスプログラムを指し、それは「悪い計画はどれよりも優れていない」という原則に従って、ほとんど常に計画に依存している人間のプレーヤーとは大きく異なります[Bushinsky、2009]。 前のタイムステップで実行された検索結果の再利用を含む計画により、リソースを節約できます。 実際、計画は事前に構築され（状況が許す場合、つまり無料のコンピューティングリソースがある場合）、実行中にのみ洗練されます。これは、検索ツリー全体をいつでもゼロから再構築する必要がないことを意味します。 もちろん、このような戦略はIMRに含めることができますが、その優れた実装は簡単ではない場合があります。 この意味で、チェスプログラムは、人間とは異なり、非効率的で知的です。 ただし、チェスのゲームなどの狭いクラスの環境では、無効なAIを使用する方が簡単であることが判明したという事実は、この可能性がユニバーサルインテリジェンスに存在することを意味するものではありません。



計画は、検索を最適化する他の方法と密接に関連しています。 したがって、人々はいくつかの一般化されたアクションに関して計画を立て、検索を実行します。 計画が遠ければ遠いほど、アクションの観点から説明が抽象化されます。 汎用アクションの使用は明らかにヒューリスティックです。 これらのアクションは、いくつかのアイデアの枠組みでも説明されていますが、普遍帰納の理論では直接導出されていません。 実際には、弱いAIの方法では、そのような表現はアプリオリに与えられ、それらのために特定の計画アルゴリズムが開発されます。 これは、ユニバーサルAIには明らかに十分ではありません。



増分検索および検索スペースの表現としての計画に加えて、それを減らすための多くの発見的手法があります。 同時に、一方では、ヒューリスティックプログラミング、シミュレーテッドアニーリング、遺伝的アルゴリズムなどの検索および最適化方法。 古典的なAIで高度に開発されました。 一方、現在、検索の問題に対する一般的な解決策はありません。 さまざまな発見的手法や特定の検索方法がさまざまなタスクにより適しているため、先験的に効果的な検索方法は1つだけではなく、何らかの自己最適化戦略の必要性は避けられません。



現在、任意の検索ヒューリスティックを発明できる効果的な実用的な一般的な自己最適化の理論はありません。 ただし、そのような自己最適化の方法が存在したとしても、その加速には一般的なメタヒューリスティックが必要になります（そうでなければ実用的ではありません）。



一般に、計画や列挙を減らす他の方法は、コンピューティングリソースの最適化の「唯一」の要素であることは明らかです。 また、IMRとの正確な対応を維持しながら、ヒューリスティックとしてではなく導入することもできますが、この形式ではあまり効果的ではありません。 計画を実装するためのよりヒューリスティックな方法は、考えられるすべての環境で機能するわけではありませんが、特定の、しかし非常に幅広いクラスの環境では非常に効果的です。 これは、計画の中断や再開など、そのような概念（特定のクラスの環境では意味がないという意味で本質的にヒューリスティックです）がどのように生じるかです。 同時に、どの特定の計画メカニズム（およびさまざまな検索メタヒューリスティック）を生得にし、どの知的エージェントが予見可能な時間に学習する機会を持つかという疑問が残ります。

知識。

知識は人間の知能において特別な役割を果たします。 同時に、IMRの知識は明示的に使用されません。 代わりに、明示的に知識を抽出することなく、環境との相互作用の履歴の全体的なモデルを構築します。 原則として、知識は、単に知覚と制御の階層モデルの上位レベル（たとえば、視覚システムの上位レベル）と見なされます。 これに関連して、知覚、計画、および知覚のセクションですでに説明した内容にはほとんど追加できません。 ただし、ナレッジシステムには独自の特性があります。 特に、知識の表現（下位レベルの表現ではない）のみがモーダル非特異的であり、「意味」を説明し、知識は環境の内部モデルを説明するためだけでなく、異なるエージェント間の移動にも使用されます（社会的相互作用は認知バイアスの別個のブロックを構成します）以下で説明します）。



一般に、知識の表現はおそらくIMRの自己最適化プロセスで検出できますが、このプロセスには環境との非常に長い相互作用が必要です。 特定のモダリティから抽象化された環境の有用な表現は、IMRの実用的な効果的なFIRへの拡張をさらに加速させることができます。 しかし、繰り返しますが、これらのアイデアはIMRの普遍性を制限するものではありません。IMRはほとんどすべての既存の認知アーキテクチャと、よりプライベートな知識ベースのシステムにあります。

メモリ。

メモリはあるが、最も原始的であると言えます。 IMRは、他の機能を実行せずにすべての生データを単に保存します。 同時に、メモリはほとんどの認知アーキテクチャの中心的な要素の1つです。 また、人の記憶ははるかに複雑であり、その機能は保管に限られたものではありません。 ご存知のように、人間の記憶の主な機能は、コンピューターでの再現の主な問題であり、コンテンツに関する情報の抽出です。 口頭での説明、画像の断片、鉛筆スケッチなどに基づいて、イベント、場所、オブジェクト、人物を思い出すことができます。



IMIにはそれらのようなものはありません。 これは、私たちの記憶のおかげで、普遍的なエージェントが私たちに可能な行動を示すことができないことを意味しますか？ まったくありません。 まず、予測のためにメモリが必要です。 私たちは未来を予測するために過去を思い出します（または、少なくとも将来、より良い選択をします）。 記憶の他の生物学的意味を考え出すことは困難です。 実際、自然記憶は、誘導と予測の機能と非常に密接に統合されているため、その最も純粋な形では事実上不可分です。 特別なメモリデバイスは、これが計算的に最も効率的に行われるという事実によるものです（私たちの世界の特徴を考慮に入れて）。 2番目の論文を最初の論文とは別に実証します。 メモリが単純に生データ（たとえば、1つの長いフィルム）を保存する場合、特定の検索条件を満たすこの「フィルム」のシーンを見つけるために、各シーンを処理してフィルム全体を再視聴する必要があります。 「映画」がすでに視聴され、解釈されている場合、これを行う意味は何ですか？ 当然のことながら、すでに作成された彼の説明を覚えて、それらの間ですぐに検索を実行する方が経済的です。



リソースが無制限の場合、このような効率は必要ありません。また、各瞬間に、IMIは相互作用の履歴全体を単純に再処理します。 IMRの認知構造としてのメモリ不足は、無制限のリソースの仮定に関連していることはすでに注目されています[Goertzel、2010]。 しかし、限られたリソースを考慮して、普遍的なエージェントのリアリズムを高めたいとすぐに、メモリ構造を複雑にし、モデルを構築し、アクションを予測して選択するための手順と統合する必要があります。



自然記憶の特別な機能に加えて、特定の組織（エピソード/セマンティック、短期/長期など）があります。 部分的に、この組織は、検討されている他の側面に従っています。 たとえば、IMRモデルでは、相互作用の全履歴が再現されます。 エピソードおよびセマンティックコンテンツを同時に記述します。 特定のデータを再現せずに、このデータの記述が行われる「用語」を定義する表現が導入されるとすぐに、メモリタイプの適切な分離が表示されます。 メモリデバイスの多くの機能を理解するには、表現の展開のダイナミクスを適時に検討する必要があります。



記憶の構成には、認知バイアスの追加要素またはモデルとアクションの検索のヒューリスティックを提供できるその他の機能があります。 たとえば、明らかなヒューリスティックは、モーダル固有のメモリの存在です。 これは、帰納法（モデルの構築プロセス）を簡素化するために、異なるモダリティのデータが比較的独立して解釈されるという平凡な（ただし、IMRのコンテキストでは重要な）結論につながります。 このような分離はあまりにも自然で、当たり前のように思われますが、繰り返しますが、本質的にはヒューリスティックであり、完全ではありません。



ここに、人間の記憶装置のもう1つの非常に明らかな機能があります。 これらはチャンクであり、いくつかの認知アーキテクチャの基礎とさえ見なされています[Gobet and Lane、2010]。 それらはおそらく、メモリ内のモデルの最終的な分解（つまり、オブジェクトの記憶セット全体を個々のモデルによって結合された最小グループに分離すること）に関連しています。 チャンクは、誘導問題の分解プロセスの単なる現象である可能性がありますが、実際のインテリジェンスがそれを解決するためのコストを最小化しようとする量を明確に示しています。



したがって、人間の記憶の特性は「認知バイアス」の要素の重要なソースですが、これらの機能を正しく理解するには、ユニバーサルインテリジェンスのフレームワーク内で詳細な分析も必要です。

キャラクターとサブキャラクターのレベル。

古典的なAIの方法論では、サブシンボリック（ニューラルネットワークなど）メソッドとシンボリック（論理など）メソッドにかなり厳密に分割されています。 また、認知アーキテクチャを創発的で象徴的なものに分割することでも現れます。 現在、特にハイブリッドアーキテクチャの開発という形で、両方のアプローチを組み合わせる傾向があります。 しかし、そのような分割の存在の事実は注目に値します。 実際、IMIではそうではありません。 人はそれを持っていますか？つまり、象徴的レベルと準象徴的レベルへの明示的な分割は、自然な認知アーキテクチャの特徴ですか？



このような2つの異なるレベルの分離は、意識を通じて上位レベルにアクセスでき、神経生理学的研究を通じて下位レベルにアクセスできるという事実に起因することは明らかです（その結果は、感覚運動表現の下位レベルに最も直接的に関連する可能性があります）。 中間レベルは、直接観察することができず、したがって、さらに悪い研究がされています。 この点で、AIは「中間層の問題」（または「セマンティックアビス」の問題）を最も困難なものの1つとして時々区別します。 ただし、中間レベルの組織の存在は、シンボリック/サブシンボリックな二分法の重症度を多少緩和しますが、自然の知性には分離可能なレベルの組織があるという事実をキャンセルしません。



このような明確な分割は、アーキテクチャ的に配置されていない場合、単独で発生することはほとんどありません。 特に、IMIによって形成されたモデルではほとんど区別できません（これらのモデルでは、たとえ異なるレベルの概念が存在しても、それらは絶望的に混合されます）。 自然知能では、建設中の環境のモデルが十分に明確なマルチレベル構造を持っているだけでなく、著しく異なるさまざまなレベルでの作業方法もあります（少なくとも意識が主に高レベルのモデルに関連付けられているという事実は注目に値します）。 , , , . . , ( ) ( ) . ( ), , ( , , () ). , , .



これはすべて、表現の一般的な先験的構造およびフレームワーク内のモデル構築のヒューリスティックとして解釈でき、（表現の概念に加えて）コンピューティングリソースを大幅に節約できます（ただし、普遍性の致命的な違反はありません）。

協会。

, . , , , . .



, , . , , , , , , .



. , , ( ) ( , ). .



, . , , , . , - (, , ), . , -, , , , , -, .



, , , , , , . ( ) , , /. , , : ( ) . , .



繰り返しますが、IMIには転送トレーニングが別途ありませんが、そこでは必要ありません（ただし、非現実的な無制限のリソースのおかげです）：データ間の相互情報はそこで考慮され、検索ヒューリスティックのレベルでの転送はその不足のために必要ありません。転送は表現のレベルで実行されるため、理論的にはそれらとともに表示され、ユニバーサルAIから実際のAIでの表現の使用へのスムーズな移行を可能にする必要があります。



[Senator, 2011] – . ( ) . ( ). , , ( , .. – , ). .



( – ) , ( , - , ). , , (, , , , ; , , ). , ( ) .



, . , . , , . , , ( , , , ..). , . , ( , ). (, , ). , , .

.

– , . AIξ ? , . , ( AIξ). , , , , , , . , . , . ( ) . . . . AIξ ^tlまたはGödelのマシンでは、アルゴリズムに関するステートメントを正当化するロジックが導入されていますが、これは通常の推論とはほとんど関係がありません。これは、IMRに何かが根本的に欠けていることを示していませんか？



, , . , . , . , , . , , . , , (, , , ). ( ) , , , ( ). , ( ) (, ), , , .



, . . , ( , ) . , , . , , , ( ) , - , . ( , ). «» , ( « » ), .



, (, ). , . , , : (, ) ; – . , , , , , , . , . , , , , .

.

. , . , theory of mind ( , , ) . , , .



( ) . , , , – . , . , ( , , ..), . ( - ) , ( ). , [Dowe et al., 2011] « » [Goertzel, 2009]. , , , «» , , , .



( ) – . . , ( ), , [Dowe et al., 2011]. . , , ( , ) , , , , , , .



, , . , .

.

, . , , ( ) , .



. «» (, ) . «» «» . , – , , , . . . .



, , () . , , , . , , . , ( [Schmidhuber, 2010]). , , (, ). , « » . , , , - . , .



人間の知能は効果的で実用的であるため、基本的な目的関数を明示的に参照することなく、主に将来の強化全体が予測されます。このため、目的関数自体の学習は、将来の価値を予測するための学習ヒューリスティックと密接に関連しています。さらに、対応する学習メカニズムには、いくつかのアプリオリ表現の形式を含む、独自の誘導バイアスがあります。たとえば、感情によっては、その値を「計算」する固有のメカニズムがない場合がありますが、選択した種類の感情は表現のレベルで設定できます。人間の感情、感情などに関するこれらすべてに関連してそれらのどの程度が基本的な目的関数の用語にどの程度関係しているか、どの程度まで、その将来の値を予測するヒューリスティックに決定するのは困難です。このため、心理学では、感情のメカニズム、その役割、起源についてコンセンサスを得ることができません。それにもかかわらず、自然知能の認知システムのこの部分はすべて、その有効性を高めることを含めて、普遍的な知能のモデルの枠組み内で非常に解釈可能です。

.

, , . , . , ( ) , , . , .



. , , . , ( ), «», . , «» . , , , - . , , .



: - . «» «» , . «» «»: , , , (, , ). , , , .



(, [Ikle' et al., 2009], [Harati Zadeh et al., 2008]). , (, [Hutter, 2002]), . , . . , - .

.

多くの場合、コンピューターを人から分離する主なものは、自己認識、理解などの最初の機能の欠如であると考えられています。 この意見は、AIから遠く離れた人々だけでなく、AIに対処する人々にも特徴的です（少なくとも哲学的に）。 強力なAI Serlでさえ、これらすべての機能を備えたAIとして定義されました。 そして、真の理解の不可能性は、強力なAIの不可能性に関する見解のペンローズと他の支持者によるコンピューターに起因するものです。



AIに関する一般的な議論に限らず、この分野の特定のソリューションの開発に携わる多くの専門家は、たとえば、検索、トレーニング、知識の提示などの問題において、より深刻な問題を抱えていますが、これらの「人間」の機能は考慮されませんとても複雑です。 したがって、自己認識は、認知アーキテクチャの他のブロックの作業に関する情報を受け取って処理するトップレベルの制御モジュールとして単に解釈されます。 このようなメタ認知機能は、知性そのものがなければ完全に実現できないことは明らかです。 そうなると、コンピューターは自己認識に恵まれません。それは、それが神秘的で人間だけに固有のものだからではなく、より基本的な機能が実装されていないからです。 このため、技術専門家は思考のこれらの側面を敬遠し、それらを「人道的」であると見なし、哲学者とは対照的に、それらをあまりにも単純に解釈します。 それにもかかわらず、メタ認知機能はより注目を集め始めており[Anderson and Oates、2007]、いくつかの認知アーキテクチャに何らかの形で実装されています[Shapiro et al。、2007]（ただし、これらの実装は非常に興味深く有益です。 、それらは「弱い」）。 彼らの議論は、普遍的な知性に関する会話の文脈で完全に回避することはできません。



実際、IMIモデルでは、自己認識も理解も明示的な形式では実現されず、これらのモデルに重要な何かが欠けているかどうかという自然な疑問が生じます。 多くのメタ認知機能（メタ学習、メタ推論）の分析から、基本的な認知機能の非最適機能を補うことが目的であることは明らかです[Anderson and Oates、2007]。 同時に、エージェント自身が修正できるこのようなエラー、たとえばトレーニングの理由は、対応するトレーニングの問題を解決するために十分なリソースが割り当てられなかったという事実のみに起因する可能性があります。 実際、無制限のリソースで普遍的な帰納法を使用する場合、原則として、同じデータで結果を改善することはできず、メタトレーニングは無意味です。 もちろん、メタ認知機能は単純にリソースの再配分に限定されるわけではありません（これはプライベートなトリックであり、注意を払う特権です）。 そのため、トレーニングの場合、リソースの節約は、データの一部のみの使用、コンテキストの無視、簡略化された表現の使用などで明らかになります。 また、メタトレーニングは、より多くのリソースを普遍的な学習方法にかけることではなく、トレーニングユニットの成功を評価し、たとえば、より単純な方法が失敗した場合により一般的な方法を含むことを考慮する必要があります。 いわゆるの概念 「何が間違っていたのか」を定義するメタ認知サイクル[Shapiro andGöker、2008]。



メタ認知機能のこの解釈は一般的すぎます。 特定の機能に関して、疑問が生じます。 したがって、理解（ただし、必ずしもメタ認知機能として解釈されるわけではありませんが、私たちの意見では、そのような機能の疑いのない属性を持っています）は、「認知バイアス」と関連付けるのはそれほど容易ではありません。 （弱い）AIの特定のシステムは理解を実現しないことを示す多くの例があります。 ただし、これらの例は、機械の理解が根本的に不可能であることを示しているのではなく、リソースの節約における理解の役割を判断するためのものです。 チェスの位置の古典的な例（ http://habrahabr.ru/post/150056/ ）を既に検討しました。この例では、この位置を理解していないために、グランドマスターを倒せるコンピュータープログラムが正しく再生されません。 深い列挙の結果として、無制限のコンピューティングリソースを使用すると、プログラムは誤った移動を回避できます。 さらに、与えられた状況のそのような（アルゴリズムの）記述は（たとえば、評価関数の形式で）可能です。これにより、対応する動きのエラーを判別できます。 つまり、状況の理解は、コンピューティングリソースのコストをかけずに効果的なアクションを選択できるような表現の使用に関連しています。



他の例を使用して、同様の結論を出すことができます。 したがって、次の古典的な問題は示唆的です。 8x8セルのボードがあり、そこから2つのコーナーセルが同じ対角線上にあります。 ボードをドミノタイル1x2セルでタイル化する必要があります。 効果のない知性（理解はないが、無制限のリソースを持っている）は、タイリングのすべてのオプションを通過する可能性があります。 このボードに市松模様の色が付いていると想像すると、人は理解の効果を経験します。そのため、各ナックルには必ず異なる色のセルが1つ必要ですが、1つの色の32個のセルと異なる色の30個のセルが表示されます。 適切なプレゼンテーションを選択すると、タスクが基本になります。 さらに明らかになるのは、6つの一致を使用して4つの正三角形を構築するタスクなど、「創造的思考」のタスクです。 ここでは、状況の表示の選択も基本的に重要です。



また、画像の理解は、特定の表現のフレームワークでの説明の構築に関連付けられています（原則として、適切なアクションの実装を促進する必要があります）。 明らかに、自然言語の理解についても同じことが言えますが、追加の問題も含まれています。



おそらく理解は効果的な表現の使用そのものではなく、表現の有効性の評価を（意識にアクセス可能に）与えるメタ認知機能です。 人が何かを理解できないか、十分に理解していない場合、彼はしばしば（常にではありませんが）これを認識しています。 人だけでなく、明確な理解に達する感覚も利用できます。これはおそらく、自己最適化の問題に関連しているはずです。



思考プロセスの内部コンテンツへのアクセスは、すべてのメタ認知機能の特徴であり、それは自己意識の現象で統合的に表現されます。 IMIには明確に似たものはありません（自分の考えを不必要に制御するため-彼らはすでに理想的です）が、これは彼が自己認識エージェントとして行動できないことを意味しません。 ただし、選択方法があれば、「考える」、「思う」、「知っている」、「できる」、「欲しい」、「覚えている」などの表現を正しく使用できるようになります。アクションは、自身の作業に関する情報を受け取りません（そして、そのような表現の使用は、既存のマルチエージェント環境で生き残るために重要かもしれません）？ この質問に明確に答えることは容易ではありません。 おそらく、IMIはその意味を理解せずにこれらの表現を正しく（実用的に）使用できるようになりますが、これには社会環境との対話で非常に広範な経験が必要であり、もちろん無制限の計算リソースが必要です。 実際、単語の発音はモーター出力と基本的に異ならないため、入力アクションと必要な出力アクションの間に計算可能なマッピングがある場合、IMRは適切な相互作用履歴に従ってそれを再構築できます。 それにもかかわらず、内省的な情報の欠落を必要とする行動の「無意識の」使用の可能性は疑念を提起し続けています。 幸いなことに、これらの疑問を払拭する必要はありません。効果的な実用的なAIを作成するには、この情報へのアクセスが他のエージェントとの通信だけでなく、自己最適化にも役立つためです。



この情報を使用するのは簡単ではありません。 他のIMRを含む環境にIMRを配置すると、矛盾が発生します（1つのエージェントが別のエージェントをモデル化し、その結果、最初のエージェントが無限にモデル化されます）。 完全な内観は、同様の矛盾を引き起こします。 この矛盾はリソース制限の導入とともに削除されますが、これはIMIの抽象的な理想的な知性に違反します。 これは、内省の問題（および、一般に「心の理論」の問題）がIMRの枠組み内で解決されず、追加の原則の開発が必要であることを意味します。 心の問題の理論（および一般的なメタ認知機能）は認知バイアス（特に自己最適化ヒューリスティックに関する）に関連していますが、基本的なIMRモデルの普遍性の欠如にも関連している可能性があります。

結論

人間の思考のいくつかの認知機能を調査しましたが、これはヒューリスティックおよび帰納的バイアスとして自然に解釈でき、自然な知性の効果的なプラグマティズム、つまり限られたリソースとトレーニング時間の条件下での特定のクラスの環境での許容可能な作業を保証します



一般に、限られたリソース要件は新しいものではありません。 そして、多くの認知特性がここから来ていることはかなり明白です。 しかし、これまでのところ、普遍的なAIの数学的理論と複雑な認知アーキテクチャとの関係についての自明な検討は行われていません[Goertzel andIklé、2011]。 このような接続を確立するには、認知機能を表面的に記述するだけでなく、これらのモデルが持つ普遍性を維持しながら、IMRモデルの拡張として厳密に導入する必要があります。 将来的に議論するのはこのタスクです。

文学

（Anderson and Oates、2007）Anderson ML、Oates T. メタ推論とメタラーニングの最近の研究のレビュー // AI Magazine。 2007. V. 28.いいえ。 1. P. 7–16。



（ブシンスキー、2009）ブシンスキーSh。 Deus Ex Machina-チェスのゲームにおけるより創造的な種 // AI Magazine。 2009. V. 30. No. 3. P. 63–70。



（Dowe et al。、2011）Dowe D.、Hernández-OralloJ.、Das P. Compression and Intelligence：Social Environments and Communication // Lecture Notes in Computer Science 6830（proc。Artificial General Intelligence-4th Int'l Conference） 。 2011. P. 204–211。



（Gobet and Lane、2010）Gobet F.、レーンPCR The CHREST Architecture of Cognition。 General Intelligenceにおける知覚の役割 // E. Baum、M。Hutter、E。Kitzelmann（Eds）、Advances in Intelligent Systems Research。 2010. V. 10（Proc。Proc。3rd Conf。on Artificial General Intelligence、スイス、ルガノ、2010年3月5日〜8日）。 P. 7-12。



（ゲルツェル、2009）ゲルツェルB.身体化されたコミュニケーションの前例// In：Yingxu WangおよびGeorge Baciu（編）。 手続き ICCI-09、香港の。 2009年。



（ゲルツェル、2010）ゲルツェルB. 現実世界の一般的な知能の正式な特性評価に向けて // E.バウム、M。ハッター、E。キッツェルマン（Eds）、インテリジェントシステム研究の進歩。 2010. V. 10（Proc。Proc。3rd Conf。on Artificial General Intelligence、スイス、ルガノ、2010年3月5日〜8日）。 P. 19-24。



（Goertzel andIklé、2011）Goertzel B.、IkléM. 心の幾何学に関する3つの仮説 //コンピューターサイエンス6830講義ノート（proc。Artificial General Intelligence-4th Int'l Conference）。 2011. P. 340-345。



（Harati Zadeh et al。、2008）Harati Zadeh、S.、Bagheri Shouraki、S.、Halavati、R .: 意思決定ツリーを使用した感情的注意メカニズムのモデル化 //人工知能と応用の最前線（Proc。 。 2008. V. 171. P. 374–385。



（Hutter、2002）Hutter M. すべての明確に定義された問題に対する最速かつ最短のアルゴリズム // International Journal of Foundations of Computer Science。 2002. V. 13.いいえ。 3. P. 431–443。



（Hutter、2007）Hutter M. Universal Algorithmic Intelligence：A Mathematical Top→Down Approach // In：Artificial General Intelligence。 Cognitive Technologies、B。GoertzelおよびC. Pennachin（編）。 スプリンガー 2007. P. 227–290。



（Ikle 'et al。、2009）Ikle' M.、Pitt J.、Goertzel B.、Sellman G. Economic Attention Networks：Association Memory and Resource Allocation for General Intelligence // In：B.Goertzel、P.Hitzler、M Hutter（Eds）、Intelligent Systems Researchの進歩。 2009. V. 8（Proc。Prof. 2nd Conf。On Artificial General Intelligence、アーリントン、アメリカ、2009年3月6-9日）。 P. 73–78。



（Pavel et al。、2007）Pavel A.、Vasile C.、Buiu C. 生態学的移動ロボットの認知ビジョンシステム // Proc。 13国際記号 システム理論、自動化、ロボティクス、コンピューター、情報学、電子工学および計装に関する。 2007. V. 1. P. 267–272。



（Potapov and Rozhkov、2012）Potapov AS、Rozhkov AS 複雑な視覚刺激の学習のための認知ロボットシステム。 2012.（印刷中）



（Potapov et al。、2010）Potapov AS、Malyshev IA、Puysha AE、Averkin AN 代表的なMDL原理に基づく学習可能なコンピュータービジョンアルゴリズムの新しいパラダイム // Proc。 SPIE。 2010. V.7696。P.769606。



（Potapov、2012） 画像分析およびパターン認識における表現の最小記述長の原則としての Potapov //パターン認識および画像分析。 2012. V. 22.いいえ。 1. P. 82–91。



（Schmidhuber、2010）Schmidhuber J. 人工科学者および形式的創造理論に基づくアーティスト // In：E. Baum、M。Hutter、E。Kitzelmann（Eds）、Advances in Intelligent Systems Research。 2010. V. 10（Proc。Proc。3rd Conf。on Artificial General Intelligence、スイス、ルガノ、2010年3月5〜8日）。 P. 145-150。



（上院議員、2011年）上院議員TE 転送学習の進歩と可能性 // AIマガジン。 2011. Vol。 32.いいえ。 1. P. 84–86。



（Shapiro et al。、2007）Shapiro SC、Rapaport WJ、Kandefer M.、Johnson FL、Goldfain A. Metacognition in SNePS // AI Magazine。 2007. Vol。 28.いいえ。 1. P. 17–31。



（Shapiro andGöker、2008）Shapiro D.とGökerMHは、「何が間違っていたのか」 /「AIマガジン」 から学ぶことでAIの研究とアプリケーションを推進しています。 2008. V. 29. No. 2. P. 9–10。