マーヴィンミンスキーの「エモーションマシン」：第5章「反射的思考、内省、反射」

「人間」をテクノロジーに導入する方法と、テクノロジーが「人間」を理解し、改善し、拡大縮小するのにどのように役立つか。



船尾のマーヴィン・ミンスキーは、冷酷な心で感情、感情、痛み、愛、意識を分析します。

§5-4。 反射思考

私は自分の知っている詩編を繰り返すつもりでした。 始める前は、全体像に注目していましたが、会話を始めて会話の開始から離れるとすぐに、私は記憶の中で広がり始めました。 私の行動は、私が言った部分を含む記憶と、次に言うことを含む期待に分けられました。 それにもかかわらず、私の注意は常に現在にあり、それを通して私は未来を移しました。それはすぐに過去になりました。

-告白XXVIIIのアウグスティヌス（告白XXVIII）

ジョーンが接近する車を最初に見たとき、この状況は彼女の注意を完全につかみましたが、その後、彼女が考える時間があるとき、彼女は最近やったことを覚えて、最近の決定と行動について考えることができました。



ジョーンは、彼の性急な決定を反射的に反映します。



彼女がこれを行うために、ジョーンは時間内に動くようなトリックを使用して、彼女の過去の考えのいくつかの側面を覚えて、彼女がその時に考えていたことを覚えておく必要があります。 しかし、彼女はどのようにこれを行うことができますか？ 常識の観点からは、このアクションに問題はありません。単にこれらの考えを思い出し、それからもう一度「考え直す」価値があります。 しかし、これがどのように正確に機能するかを尋ねると、各レベルのリソースが特定の時点で何をしたかを記録する、§4-8で説明したような特定の種類のメカニズムが必要であることを理解しています。











いずれにせよ、私たちの脳内で発生するイベントを検出するのは奇妙なことではありません。 脳の多くの部分がこれを絶えず行っており、目や皮膚からの信号を受信したり、手足に信号を送信したりする外部接続を備えているのは一部だけです。 さらに、私たちの周りの世界の出来事を記録する新しいリソースを作成するよりも、脳の新しい部分の出来事を明らかにするリソースを開発する方がはるかに簡単です（例えば、思慮深さはそれらに属します）。感覚システムはより複雑です（数億年もの間続いてきた進化のおかげです）。



行動を反射的に評価できるマシンをどのように設計できますか？ 追加の「認知レベル」を追加しても同様の改善が得られますか？ 実際、これはあなたの最近の考えを議論するシステムがあなたの周りの世界の最近の出来事を議論するのに使用するのと同じプロセスを使用できるからです。 たとえば、Joanは自分がどのような選択をしたかを記憶し、どのように選択したかを確認できます。



私は、この結果が非常にありそうにないので、遅れることは車に衝突するリスクよりもはるかに悪いだろうと決めました。 しかし、膝の損傷のために器用さが低下したため、この選択は間違っていたため、優先順位を変更する必要がありました。



反射システムはどのような脳活動を考慮する必要がありますか？ これらのアクティビティには、間違った予測、障害に遭遇した計画、または必要な知識を獲得できなかった計画が含まれます。 これにどのように対応する必要がありますか？ この問題については、第7章で詳しく説明します。



学生：なぜこのような機械を「意識的」と呼びたいのですか？ これには、4-1章でリストしたほとんどの項目、つまり短期記憶、順次処理、高レベルの説明が含まれます。 この車には、それ自体のモデルが欠けているだけです。



食べやすく、脳のいくつかの部分は、脳の残りの部分で起こっていることを反映することができ、脳内で起こっていることの「反映」の度合いが大きくなります。 ただし、そのようなイベントを大規模に表現できるモデルが脳にあるまで、マシンは自己意識の実体としての自己イメージを持ちません。 ただし、システムがそれ自体を単一のエンティティとして詳細に表示することは非常に実用的ではありません。 第9章では、人間の脳に似たものを作成する場合、単一の「統一」モデルを作成する必要はなく、不完全なモデルのセットを作成する必要があります。システム全体を作成します。

§5-5。 内省

「人間を他の動物と根本的に区別するもう1つの人間の最大の能力は、思考者としての自己認識または反射的知識の存在です...（動物は）特定の行為で区別できないため、思考者としての自分に気付かない思考は思考の要素であり、彼らが考える操作です。」

-ウィリアム・ジェームス。

すでに説明した反射システムは、最近の出来事について話すことができます。 イントロスペクションはもう少し機能します。過去の思考だけでなく、これらの思考の本質も考慮します。 たとえば、ジョアンが自分について考えたとき、「膝が落ちたら死んでしまう」と彼女は本質的に評価します。「少しの時間を節約するために、そのような怪我で危険を冒すのは無謀でした！」 彼女がそのような結論を引き出すために、ジョアンは彼女のモデルの彼女自身の表現のいくつかを使わなければなりません。



キャロルは、ブロックからアーチを構築する際にも同様のモデルを使用する必要があります。「アーチを構築する方法をいくつか試しましたが、限られたスペースでこれを試みたため、すべて失敗しました。 そのような間違いをするのは愚かだった。 次回は、より詳細に計画してみます。」この例では、子供は特定の知識を使用して、特定の目標と能力を持つオブジェクトとして自分自身を提示します。



学生：何かがそれ自体を説明するという考えに矛盾はありませんか？



もちろん、システムは「リアルタイム」でそれ自体を説明しようとすると失敗しますが、プレゼンテーションが一連の値を使用して形成されると成功します。各値はこのシ​​ステムの1つの本質を反映します。



ミスティック：私たちの中には、すべての詳細をすぐに理解できるように訓練されている人もいます。 何らかの方法で、これを行うことができる人はごくわずかです。



私はそれが可能であることを非常に疑います。 代わりに、この完全な認識の感覚は、その人が自分の状態について絶えず質問しないという能力に起因するのではないかと疑っています。これは、質問に対するすべての答えを知っているような錯覚を与えます。



いずれにせよ、私たち自身の考えに対する私たちの反省は、メモやその他の痕跡、つまり以前の精神状態の部分的な説明に基づいているべきです。 たとえば、§5-3のように、キャロルが次のように言ったとき、「おそらく他の出来事を覚えて、もう一度繰り返しただけかもしれません。」しかし、これらのメモがどのように、いつ作成されたかプロセスはこれらのプロセスを整理できますか？ キャロルは、自分が愚かな間違いを犯したことをどのように認識できますか。ジョアンは、彼女が通りを渡るかどうかわからなかったことをどのように思い出すことができますか？ 人が混乱、恥ずかしさ、または混乱していると言うとき、それはどういう意味ですか？



あなたが混乱していることを知るために（またはあなたが混乱していないことを知るために）あなたがどれほど賢くなければならないかを考えてください。 これは、あなたが差し迫った問題から自分自身、動機、目標のより大きな表現に切り替えていることを示唆しています。与えられた時間にあなたが追いかけている間違った目標を選んだこと。 これはすべて、より良い計画を作成することにつながる可能性があります。また、たとえば、大規模なカスケードにつながる可能性もあります。 おそらく辞める時が来たのでしょう。」



これは私たちがより高いレベルの思考を行うときの問題の鍵であるように思えます。通常のシステムがそれらに割り当てられたタスクに対処せず、反射思考が前面に出てきたときにこれを行います。 たとえば、普通の人は通常、歩くのがどれほど難しいかを考えずに歩きます。 しかし、ジョアンの膝が機能しなくなったとき、彼女は自分がどのように動くかを研究します。



しかし、§4-1で述べたように、内観には限界とリスクがあります。 自分自身を評価しようとすると、このシステムを完全に破壊しなければ、変更する恐れがあります。 目の前で形が変化し続けるものを説明するのは難しく、もちろん、考えたときに形が変化するものを説明するのはさらに困難です。 したがって、あなたが今考えていることについて考え始めると、あなたはほぼ確実に混乱するでしょう。そして、これがおそらく私たちが意識と呼ぶものにとても困惑している理由です。

§5-6。 自己意識の反射

「人類は、人間のような周囲のすべての生き物を評価し、人が精通していて深く理解されている資質を各オブジェクトに反映するという世界的な傾向があります。 私たちは月面に人間の顔、雲の中に軍隊を見つけ、私たちの自然な傾向のために、経験と反射を調整しない限り、私たちは私たちを傷つけるか、幸せにするすべてに悪意や優しさを帰します

-デビッド・ヒューム

この章は最初に§1-4で議論され、本能的な反応を説明しました。 それらには、摂食、呼吸、および私たちの脳と体を生き続ける他の機能を担うシステムが含まれます。 また、原始的感情と呼ばれることもあるいくつかのメカニズム、すなわち、栄養、保護などの身体的ニーズのさまざまな状態を反映するシステムも含まれます。 研究される反応のレベルには、出生後に研究される拡張が含まれます。 認識と反射のレベルは、より複雑な問題を解決するように設計されています。 自己反省は、これらの問題が、私たちが作成したモデル、または可能性のある将来の私たちの見解を使用することを要求するときに起こります。



しかし、これに加えて、人々は、私たちの「より高い」理想と目標について考えることができる自己意識のレベルを持っているという意味でユニークであるようです。 たとえば、ジョアンが「私の友人は私をどう思うだろうか」と質問したとき、彼女は自分の目標が彼女の特定の行動に関連しているかどうか疑問に思います。 その後、ジョーンは結論を出すことができます。「友達は私が完全に不注意だと言うことができ、自分自身や彼らについて心配する必要はありません。」彼女がそのような考えを考えるために、ジョーンは友人がどのように反応するか、友人が同じような状況になったときに反応したときに過去の否定的な経験を思い出すことができます。 いずれにせよ、彼女は自分の行動と自分が愛着している人々の価値との間に矛盾を見つけ、それが§2-2で議論された「自己意識の感情」として特徴付けることができる一連の反応につながります。 それでは、もう1つのレベルを追加し、結果のシステムを「モデル6」と考えてみましょう。











心理学者：このモデルのさまざまなレベルの間に明確な違いはありません。 たとえば、最近の考えを振り返るとき、議論について話し合うだけではありませんか？ 同様に、自己反射は通常の反射の形ではありませんか？ 最初のレベル以上のすべてのレベルは同じ思考システムを使用しているようです。



これらの境界があいまいであることに同意します。 あなたの最も単純な議論でさえ、あなたの時間とリソースをどのように割り当てるかについての独特の自己反射的な考えを含むかもしれません。



哲学者：しかし、これらのレベルが明確に区別できない場合、それらを区別するポイントは何ですか？ 理論的には、必要以上のものを含めるべきではありません。



あなたが尋ねる特定の質問に答える最も単純な理論を見つけるこの方針は、物理学で非常にうまく機能しました。 しかし、このアプローチは心理学の発展を遅らせたと思います。 理論が不完全であることを知っている場合、不完全な理論を拡張するために特定の場所を離れる必要があります。 心理学の最も古い理論は、特定の動物が信じられないほど単純な環境でどのように振る舞うかを説明しただけです。 それにもかかわらず、これらの理論は後で改良されて良好な予測を行うが、行動主義の古い理論のどれも、人々が外部行動なしでどのように反映できるかを説明できなかった。



脳には何百もの特殊な部位があり、各脳の発達は、レベルごとに並べられた小さな細胞の塊から始まることを知っています。 ただし、これらの細胞の一部が移動し始めると（数千の異なる遺伝子による緊張）、これらの細胞クラスター間に数千および数千の結合が作成され、以前に発現したレベルが「ぼやけ」ます。



これは、脳のすべての機能を明確で個別の心のレベルに明確に分割できないことを意味します。 7つの海の境界線を明確に描くのと同じくらい役に立たないでしょう。 代わりに、私たちの各部門は、地球物理学、環境、政治などのさまざまな対立する目的に基づいて海上空間を共有しています。 同様に、心の現象のいくつかを説明するいくつかの脳モデルが必要です。 たとえば、この現象と宗教的、法的、および倫理的問題との関係だけが理由であれば、自意識の内省がどのように機能するかについて、より複雑な理論が必要になるかもしれません。



異端者：あなたの図は、他のすべてを制御する部分を示していません。 すべての決定を下す私はどこですか？ 私が追求する目標は何によって決まりますか？ 遵守する計画をどのように選択し、その実装をどのように制御しますか？



これらの質問は本当のジレンマを示しています。上記のような複雑なシステムは、組織化された制御なしでは機能できません。 そうでなければ、彼女は方向を見ていなかっただろう-そして、思わずさまざまな必要なものを見逃していたでしょう。 一方、制御を1か所で作成することは意味がありません。制御が失敗すると、システム全体が混乱に陥るからです。 したがって、この本の次の章では、脳が自己制御に使用するいくつかの方法について説明します。 これらについては、§9で詳しく検討します。



当時、中央管理の問題に関して、「モデル6」は、心を3つの部分に分割したSigmund Freudの「心のサンドイッチ」モデルにも見られることに注意する必要があります。











フロイトの「それ」は本能的な衝動から成り、「スーパーエレゴ」は私たちの理想を具現化しています（その多くは禁止事項です）。 この場合の「自我」は、意識と反射レベルの中間にあるこれらの部分です。 フロイトによると、「自我」の原則は、「それ」と「超自我」との対立を解決することです。 この場合、人は自分のエゴをさまざまな制御されたもののセットとして見ることができますが、心理療法家にとっては「エゴ」は戦場になります。



学生：先ほど尋ねた質問を繰り返したいと思います。 このマシンに関して「意識」という言葉を使用できますか？ 「モデル6」には、4-1章で説明したすべての基本機能、つまり短期記憶、順次処理、高度な説明、および一連のモデルが含まれているように思えます。



必要な知識を受け取ったそのような機械が、私たちと同じ意識を持つ存在であると宣言したことは驚くことではありません。 これは、§9で想定しているように、彼女のより高いレベルが彼女の「私」を単一の自己意識的な存在として提示する場合に起こります。 そして、もちろん、他のレベルはこのより高いレベルに同意しないかもしれません。



この章は、これまでに遭遇したことのないものやアイデアについて、どのように考えることができるかについての質問から始まりました。 この章の残りの部分では、周囲の情報のさまざまなレベルの処理に基づいて、どのように想像力が生まれたのかについて詳しく説明します。

---

翻訳をありがとう、スタニスラフ・スハニツキー。 誰が翻訳を手伝いたいのか-個人のメールまたはメールに記入してくださいmagisterludi2016@yandex.ru

著者について

マービンリーミンスキー（マービンリーミンスキー生まれ、1927年8月9日-2016年1月24日）は、人工知能の分野でアメリカの科学者であり、マサチューセッツ工科大学の人工知能研究所の共同設立者です。 [ ウィキペディア ]



興味深い事実：

• ミンスキーは、イェール大学の批評家ハロルド・ブルームと友達で、彼は彼を「ミンスキーの邪悪なマービン」にすぎないと言っていた。
• アイザック・アシモフは、ミンスキーを自分よりも賢い二人の一人と説明しました。 彼の意見では、2番目はカール・セーガンでした。
• マーヴィンは、銀河のヒッチハイカーのダグラスアダムスサイクルからの人工知能と、銀河への映画ヒッチハイクガイド（フィルム）を備えたロボットです。
• ミンスキーは、将来「復活する」ために、死後に脳を凍結する契約を結んでいます。
• ミンスキーに敬意を表して、犬は映画「トロン：レガシー」の主人公に指名されました。 [ ウィキペディア ]

---