ニューラルネットワークの記憶の複雑さ

「21世紀:物理学の観点から見ると生命とは何か」という記事を読んでいると、生きているものと生きていないものの両方の記憶の記述に出会いました。 生き物の記憶によって誰もが意味を理解しますが、非生物の記憶によって、コンピューターに情報を保存するすべての手段が意味され、他の多くの方法があります。 したがって、この記事の著者であるG. Ivanitskyの観点から見ると、人生の特徴は、予測のためにメモリを使用することです すべてがうまくいきますが、すでに多くの予測プログラムとそのようなプログラムによって導かれる自動機械をすでに作成しています。 生きているものと生きていないものの境界はどこにあるのか、ロボットは生きているのか、少なくとも複雑な複合オートマトンなど、哲学的な質問を少なくともいくつか挙げたいとは思いません。 そして、記事の素材を使用して、私にもっと興味のある問題に推論の行を持ち込んでください。



ダーウィンは、遺伝、選択、変動性が進化の原動力であることを示唆しました。 ただし、選択は推進力となることはできません;それはすでに存在するものから来ており、多様性を減らします。 選択は縮小操作です。 「変動性」という用語の代わりに、「自己合併症」という用語を使用する必要があります。 しかし、自己複雑化メカニズムはどのように実装されますか?



他のプロセスと同様に、複雑にするためにはエネルギーとこのエネルギーの使用に関するガイドラインが必要です。 著者は、ここで何が起こるべきかについて直接的な回答をしていません。 彼は、このプロセスに彼の意見で可能な限り近い類似性を描きます。 ランダム対称カオスプロセスから誘導プロセスとエネルギー貯蔵がどのように発生するか。 なぜ生命の出現は熱力学的平衡によって特徴付けられる液体の分子レベルで考慮されるため、対称的なカオスプロセスがあるのですか。 また、説明を簡潔かつ明確にするために、対称カオスプロセスは確率的バイナリゲームに縮小されます。



確率的バイナリゲームは、単純なコイントスです。 このようなゲームは対称的です;無限の数のスローに対して、勝ち負けの平均確率は等しくなります。 問題は、プレーヤーが何らかの方法で対称性を破ることができるかどうかです。

ゲームの条件は非常に厳しく、コインが裏返されるたびにゲームが再開され、以前のゲーム結果はすべて忘れられます。 各新しいゲームの確率は、前のゲームに依存しません。 これは勝つための戦略がないことを意味し、最適な戦略は、コインの片側が完全にランダムなサイド推測戦略と落ちる可能性を対比させ、引き分けを保証します。



それでも、プレーヤーに少なくとも1ラウンドのメモリとベットを変更する能力がある場合、プレーヤーに非対称性をもたらすベットを変更するための戦略を選択できます。 時間内にゲームの結果を検討する場合、それらはさまざまな長さの勝ち負けの交互クラスターのシーケンスとして表すことができます。 戦略は、勝つとすぐに、算術進行の速度を1から上げることです。 合計すると、この戦略を適用した後、勝ったクラスターは負けたクラスターよりも多くのものをもたらします。



このような戦略は、可変フィードバック係数を持つ制御システムの最も単純な例です。 私たちの場合、プレイヤーは戦略を思いつきました;これが自然界でどのように起こったかは不明です。 しかし、すべての生き物の中心的な考え方が、制御システムを必要とする生存戦略であることは明らかです。 生体では、そのようなシステムは、単細胞の分子レベルと細胞レベルの両方で実装されます-より高い生命形態の神経系のニューロンで。



上記の制御システムには、最後のコイントスゲームの結果を保存するために使用されるメモリがあります。 新しいゲームごとに、メモリセルはその値を更新します。 このようなメモリは単純な構造に基づいており、ニューラルネットワークに簡単に実装できますが、それでも正確に1クロックサイクルを保持します。 そしておそらくこれは、生命管理システムの進化における自然の最初のステップだったのでしょう。



現在、進化の最も難しい産物は、多くのニューロンで構成される人間の脳です。 ニューロンとニューロン間の接続は非常に複雑な構造です。 脳の構造的部分とその原因を説明する脳マップは、まだ洗練され改善されています。 そして、私たちは人間の脳の「つながり」をコンパイルすることすらできません。体の神経系におけるつながりの構造の完全な記述です。



しかし、人間の脳の重要な特性の1つは「永久記憶」です。これにより、生まれたときから所有せずに、上記のような戦略を学習して実装できます。 私たちの脳の構造は、私たちがそのようなトリックをすることを可能にしていると仮定することは論理的でしょう。 そして、すべての複雑なプロパティを最大限に破棄し、制御システムモデルを作成するタスクを設定すると、その構造により、最も単純な戦略を念頭に置いて、同時にそれによって導かれるようになります。 (「システムはそれが何をしているのかを認識している」という表現との厳密な類推に打たれます。)ニューロンでこのような問題を解決できますか? そのため、解決策はすでに存在しますが、エキスパートシステム、新しい定理などを導出するプログラムの形式であり、ニューロンではありません。 そして、私は誰かがニューラルネットワークでそのような構造の構築に真剣に取り組むとは聞いていませんでした。 ニューロンの複雑な構造を扱う最後の重大な試みは、 接続で最も単純な回虫の神経系の実装です。 しかし、ワームには「永続的な」メモリの構造はありません;この特性を持つのは、より高い形態の生命だけです。 または、私の観点から、ニューロンの同時動作の意識の低いシミュレーションは、 普通の猫よりも少し多くなります。



ニューラルネットワークで、目標に向かって進むシンプルなアメーバ制御システムをどのようにモデル化したかについての記事があります。 次に、次の要件を満たすニューロンに制御構造を構築します。



私の以前の経験から、「永続的な」メモリを実現するという中心的な考え方を維持しながら、タスクはおそらく最も原始的なレベルまでさらに簡素化されると言えます。 さて、結果は別の形で機能しません。



材料:

記事「 21世紀:物理学の観点から見た生命とは 」G.R. ジャーナルUspekhi Fizicheskikh NaukのIvanitsky。

ビデオプログラム「 ポピュラーサイエンス 」と記事のディスカッション。



All Articles