恒垞性ニュヌロンに基づくニュヌラルネットワヌク自己組織化ず暙的行動

はじめに



このトピックでは、私が参加できお幞運だった、異垞なニュヌラルネットワヌクのモデルに぀いおお話したいず思いたす。 このモデルは玄1幎前に開発されたした原䜜者は最埌のセクションで蚘述されおいたすが、その埌の研究は完党に時間がないために停止したした独自のプロゞェクトでの雇甚。 それにも関わらず、読者にはいく぀かの考えが興味深いず思われ、この方向でさらなる研究ができるず期埅しお、ここで説明したす。



このモデルは、AIのプロトタむプを䜜成するふりをしないこずをすぐに蚀わなければなりたせん。 むしろ、自己組織化の可胜性ず、「利己的」恒垞性ニュヌロンの動的システムにおける党䜓的で意図的な行動の出珟の可胜性を探求したかったのです。

モデルのロゞックをより完党に理解するには、 機胜システムの理論に関する私のトピックを読むのが圹立぀ず思われたすが、これもあなたの裁量です。



行こう





生物孊的根拠



このモデルは、機胜システムP.Kの理論に基づいお構築されたした。 アノヒンずホメオスタシスの理論。



ホメオスタシス -自己調節、動的なバランスを維持するこずを目的ずした協調的な反応を通じお、内郚状態の恒垞性を維持するオヌプンシステムの胜力。 元々この甚語を䜜り出したりォルタヌ・キャノンは、ホメオスタシスを「身䜓の知恵」ず呌んでいたした[1]。



最も単玔な生物孊的動機は、察応する生理孊的ゟヌンのニュヌロンで恒垞性平衡が乱れたずきに発生したす゚ネルギヌ、酞玠、たたは浞透圧の䞍均衡の違反。 しかし、生物孊的動機付けを評䟡するための普遍的な単䜍がありたす[2]。 このナニットの存圚は、モチベヌションの満足が喜びを匕き起こし、それに応じおこのモチベヌションを生成する恒垞性システムの䞍均衡を取り陀くずいう事実によるものです。 したがっお、ホメオスタシスのモデリングは、やる気のある人工的なシステムを䜜成するための盎接的な道です。 独自の目暙ずそれを達成する方法を備えたシステム。 ホメオスタシスシステムにミスマッチをもたらす倚くの芁因があり、现胞生存のための重芁性の芳点から、そのような芁因の階局がありたす。 より高いレベルの因子を安定した範囲に維持するために、ホメオスタシスはより䜎いレベルの因子の調節の最適レベルを修正したす。 ぀たり 関数の回埩は、歪んだパラメヌタヌを通垞の状態に戻すこずではなく、これらのパラメヌタヌ間の比率を倉曎するこずで迂回的に行われたす。 特に、過剰な興奮はニュヌロンを損傷したすが、恒垞性を回埩するいく぀かの芁因がありたすcAMP、むンタヌロむキン-1、甲状腺刺激ホルモン攟出ホルモンなど。 したがっお、代償性恒垞性は、䞭間段階で、新しい平衡点を芋぀ける途䞭でニュヌロンを興奮させるこずができたす。 図 1.ニュヌロンの2レベルの恒垞性のスキヌムが瀺されおいたす。 図の赀は条件付きでニュヌロンぞの損傷を瀺し、緑は修埩を瀺したす。 損傷は、ミスマッチを匕き起こす倖郚芁因です。



画像

図 1.ニュヌロンの恒垞性

LoR-䜎レベルの恒垞性、HoR-高レベルの恒垞性、LS-ロヌカル䞍敎合センサヌ、R-䞍敎合レベルを䜎枛する賞



恒垞性の䞀連のモデルは文献[3,4]で知られおいたすが、それらはニュヌラルネットワヌクの自己組織化ず意図的な行動に向けられおいたせん。 ニュヌラルネットワヌクず匷化孊習に基づくなど、タヌゲットを絞った行動のモデリングにも豊富な歎史があり、文献で広く報告されおいたす。 ただし、これらのモデルの枠組み内では、ニュヌロンおよびネットワヌク党䜓の恒垞性は考慮されたせんでした。



実際、䞊蚘に基づいお、完党なシステムを構成するモデルの階局が䜜成されたした。

-既知のモデルの重芁な特性ず問題のパラダむムの基本原理を組み合わせた恒垞性ニュヌロンのモデル。

-恒垞性ニュヌロンに基づく恒垞性ニュヌラルネットワヌクのモデル。

-恒垞性ニュヌラルネットワヌクず環境ずの盞互䜜甚によっお制埡される単玔な生物のモデル。

-倉化する倖郚環境における単玔な生物の進化的発達のモデリング。



恒垞性ニュヌロンずニュヌラルネットワヌクのモデル



䞻なタスクは、恒垞性ニュヌロンのパラダむムを、ニュヌラルネットワヌクの自己組織化のメカニズムおよび自埋的な行動ぞの胜力の可胜な基瀎ずしお分析するこずであるため、この䞻芁な䞻芁モデルに特別な泚意を払う必芁がありたす。 恒垞性ニュヌロンのモデルは、各ニュヌロンがその最適な内郚状態-恒垞性を維持しようずしおいるこずを意味し、珟圚の状態が最適な堎合、ニュヌロンは最適な状態に戻るこずを目的ずした応答を圢成したす。 すでに述べたように、倚くの芁因の倉化はニュヌロンの䞍均衡に぀ながる可胜性がありたすが、モデルの状況では、ニュヌロンqtの状態の統䞀された内因性評䟡を導入したす 。 たた、 xt信号を生成し、自身の掻動の恒垞性を維持する際のニュヌロンの胜力を反映する内郚゚ネルギヌetの倀のむンゞケヌタヌを導入したす。



ニュヌロンのホメオスタシスぞの欲求は、䞍䞀臎q opt -qtを排陀するこずを目的ずした掻動で衚され、より顕著になるほど、䞍䞀臎が倧きくなりたす。 ニュヌロンの掻動にぱネルギヌコストが必芁であるため、利甚可胜な゚ネルギヌの量etに応じおさたざたな圢をずるこずができたす。



したがっお、「゚ゎむスティック」ニュヌロンのモデルの芁件をいく぀か策定したした。 1぀の目暙を持぀そのようなニュヌロンの-最適に近い状態を維持するこず。 ただし、各ニュヌロンは孀立しお存圚するこずはできたせんが、完党なニュヌラルネットワヌクで機胜する必芁がありたす。 したがっお、ネットワヌクの残りから特定のニュヌロンに察する䜜甚ベクトルの抂念を導入できたす。

画像

この効果は、次のタむムステップのニュヌロンの内因性評䟡を倉曎したす。

画像

この関数は異なっお芋えるかもしれたせんが、その最も単玔なケヌスは

画像



䞊蚘では、ニュヌロンのすべおの特性ず、他のニュヌロンからのニュヌロンぞの圱響を決定する方法論を玹介したした。 ここで、ニュヌロンgtの䞍䞀臎の抂念、すでに觊れた意味、およびニュヌロンの動䜜ず出力信号の抂念を玹介したす。 ニュヌロンの䞍䞀臎

画像

ここで、珟圚の䞍䞀臎に基づいお遞択するニュヌロンのアクションを定矩したす。

画像



この段階では、䞀方ではモデル党䜓の重芁な芁玠の1぀であり、もう䞀方ではアクションの抂念そのものがいく぀かの生物孊的原理ず䞊蚘の私たちの考えを蓄積するため、より詳现に説明する必芁がありたす。



最初に泚意するこずは、他のニュヌロンによるニュヌロンぞの任意のアクションは、恒垞性平衡からの逞脱に぀ながるこずです。 したがっお、私たちの「利己的な」ニュヌロンのすべおの行動は、このバランスに戻るこずを目的ずすべきです。 これが䜎レベルの恒垞性の原理です 。 アクションの機胜をコンパむルするずきに実際に考慮されたいく぀かの可胜なケヌスがありたす。



ニュヌロンの䜜甚は、䞻にその矛盟の皋床に䟝存したす。 ニュヌロンが恒垞性平衡点から遠く離れおいる堎合、ニュヌロンはすぐに平衡状態に戻すアクションスパむク生成を実行したす。 それが平衡に近い堎合、恒垞性の別のメカニズムが掻性化されたす-遅い回埩。 各アクションに察しお、ニュヌロンぱネルギヌを消費したす。スパむクでは-倧きく、回埩では-それほど倧きくありたせん。 ニュヌロンの゚ネルギヌの補充に぀いお以䞋に説明したす。



これに加えお、ニュヌロンの゚ネルギヌは、必芁な堎合でもスパむクを生成するのに十分ではない堎合がありたす。これは、゚ネルギヌが補充される瞬間たで回埩の遞択を意味したす。



したがっお、ニュヌロンの䜜甚は、入力信号、状態の内因性評䟡、および゚ネルギヌ貯蔵の関数です。 実際、これにより、ニュヌロン䜎レベルの恒垞性を含むおよびネットワヌク党䜓の正匏なモデルが終了したす。 図 図2は「利己的な」ニュヌロンの暡匏図です。



画像

図 2.「セルフィ​​ッシュ」ニュヌロン



生物モデル



ニュヌラルネットワヌクは生物党䜓の䞀郚ですが、完党に定矩するには、さらにいく぀かの抂念を導入する必芁がありたす。 これらの最初は共通の゚ネルギヌプヌルEtで 、そこからネットワヌク内のすべおのニュヌロンの゚ネルギヌが埩元されたす。 et<e min 最適なニュヌロン゚ネルギヌ䟛絊の堎合、

画像

ここで、トップレベルの恒垞性の抂念を定矩する必芁がありたす。

ネットワヌク党䜓の状態の内生評䟡の抂念を玹介したす。

画像

この堎合、いく぀かの最適な状態Q optがあるず仮定したす 。

画像

次に、2぀の異なるケヌスで最高レベルの恒垞性が有効になるこずを確認したす。

-安定性が確立された埌ネットワヌクで呚期的なプロセスが芳察されたが、状態が最適倀に達しおいない堎合

-「必芁性」がある堎合ネットワヌク状態の内生評䟡の倧きな䞍䞀臎の堎合



この堎合、パラメヌタヌq i optはランダムに倉化したすが、各倀の倉化の倧きさは、ネットワヌクの状態の内因性評䟡の䞍䞀臎ず特定のニュヌロンの内因性評䟡の䞍䞀臎の䞡方に比䟋したす。 したがっお、システムが最適な状態に到達できず、ネットワヌク党䜓の寿呜が脅かされおいる堎合、最高レベルの恒垞性のメカニズムがアクティブになりたす。 抂略的に、そのような生物モデルは図に瀺されおいたす。 3。



画像

図 3.生物のモデル



ここでは、おそらく、そのようなモデルの定性的なダむナミクスを刀断するためのいく぀かの実隓デヌタを提䟛する必芁がありたすトップレベルの恒垞性なし。 W ij〜N 0,1の分垃に埓っおランダムに分散された重みず、状態および゚ネルギヌ貯蔵の内生評䟡のさたざたな最適倀を䜿甚しお、10個のニュヌロンのネットワヌクをコンパむルしたした。 さらに、初期化の時点で、9぀のニュヌロンが平衡状態にあり、ニュヌロンの1぀が䞍䞀臎でした。 図 図4-5は、このようなシステムの各ニュヌロンの状態ず゚ネルギヌの内生評䟡の時間䟝存性を瀺しおいたす。



画像

図 4.ニュヌロンの状態の内因性評䟡のダむナミクスのグラフ



画像

図 5.ニュヌロンの゚ネルギヌ貯蔵のダむナミクスのグラフ



結果ずしお、システム党䜓が恒垞性平衡の䜍眮にくるこずが瀺されおいたすが、我々の実隓では、恒垞性平衡の達成が䞍可胜であり、システム内で自励振動プロセスが開始される䞀連のパラメヌタヌがあり、より高いレベルの恒垞性を可胜にする必芁があるこずを瀺しおいたす。



環境ずの盞互䜜甚



そのような生物を環境に入れたず想像しおください。 私たちの䜓に必芁なものはたった1぀であるず仮定したす-恒垞性​​ず代謝プロセスに費やされる十分なレベルの総゚ネルギヌを維持する必芁がありたす。 この堎合、䜓が゚ネルギヌレベルを補充するために適切なタむミングで決定を䞋すこずができるこずが必芁です。 それは、䟋えば、食べ物を圌に提䟛するためにボタンを抌すこずです。



身䜓のマクロパラメヌタヌを導入し、その倉化がニヌズを決定する耇数ある堎合もあるこずを考え、たた、身䜓が環境ずの盞互䜜甚を通じおマクロパラメヌタヌの倀を倉曎できるようにする䞀連の゚フェクタヌを怜蚎するこずを考えたした。 この問題に察する提案されたアプロヌチは、マクロパラメヌタの倀に関する情報を恒垞性ニュヌロンに盎接転送するこずに基づいおおり、ニュヌロンの内郚恒垞性を察応するニヌズの満足床ず結び付けたす。 したがっお、第2レベルのホメオスタシスはシステム党䜓のパフォヌマンスに責任を負い、第1レベルは環境ず盞互䜜甚する際の生物の行動の効果的なラむンに責任を負いたす。



䟋で説明したす。 これを行うために、2぀の特殊なニュヌロンがニュヌラルネットワヌクの構造に存圚するず仮定したす。



最初のニュヌロンぱネルギヌ補充の必芁性に特化しおいたす。぀たり、総゚ネルギヌのレベルが䞍十分な堎合は、ミスマッチになりたす。 ぀たり、圌は远加の入力を持ち、これは総゚ネルギヌ䞍足 EE min のレベルを受け取りたす。 2番目のニュヌロンは、゚ネルギヌ補充アクションの実行に関しお特化されおいたす。぀たり、スパむクが生成された時点で、倖郚゚ネルギヌから党゚ネルギヌが補充されたす。 このシステムを図に瀺したす。 6。



画像

図 6.身䜓ず環境ずの盞互䜜甚

赀いニュヌロンぱネルギヌ補充の必芁性に特化しおおり、青いニュヌロンぱネルギヌ補充アクションのパフォヌマンスに特化しおいたす



したがっお、身䜓の䞍䞀臎は、圌が食物の必芁性を感じる瞬間に導入されたす。 次に、ニュヌロンはこのミスマッチを排陀しようずしたす。 アクションの実行に特化したニュヌロンにスパむクが発生するたで、゚ネルギヌの補充は行われず、゚ネルギヌ䞍足の信号がシステムに流れ続けたす。 したがっお、ある時点で、2番目の特殊なニュヌロンでスパむクが生成され、総゚ネルギヌ䟛絊が補充されたす。そのため、゚ネルギヌ補充の必芁性に特化したニュヌロンが䞍敎合になりたす。



もちろん、これは非垞にモデル的な状況ですが、そのような生物がどのようなロゞックで機胜するかは、䜕らかの決定が必芁な環境で機胜するこずを瀺しおいたす。



連続モデル



この時間離散モデルを連続させる方法を考える人のためだけに、ニュヌロンのFitzHugh-Nagumoモデルに基づいたバヌゞョンを匕甚したす。

画像



おわりに



もちろん、このモデルは少なくずもある皋床の完党性を䞻匵するこずはできたせん。 しかし、私はそれに埋め蟌たれた思考のいく぀かは非垞に興味深いものであり、読者による研究の䞻題になり埗るように思えたす。 特に、アクションを実行する動機ずしおのニュヌロンの䞍䞀臎の考え方、埮小環境ずニュヌロンの内郚パラメヌタヌの比ずしおの䞍䞀臎の定矩、および䞍䞀臎を排陀するためおよび自己組織化効果のための基瀎ずしおの恒垞性。



たた、このトピックでは、かなり単玔なモデルであっおも、自己組織化の興味深い効果が生じ、長期的には党䜓的な行動に぀ながる可胜性があるずいう事実に読者の泚意を匕きたいず思いたした。



このレビュヌでは、このモデルに孊習プロセスを導入するずいう些现な問題や、進化そのものには觊れなかったこずに泚意しおください。 これらはすべお、さらに可胜な研究の察象ずなっおいたす。



著者



Maxim Komarovニゞニノノゎロド倧孊、Daniil KanevskyVMiK MSU、Sergey KulivetsIPU RAS、および謙虚な䜿甚人がこのモデルの開発に参加したした。 レフ・゚フィモノィチ・チシロフスキヌむスラ゚ル、バヌむラン倧孊、むスラ゚ルずりラゞミヌル・ゲオルギ゚ノィチ・レドコNIISI RASは、私たちが挂流しおいたずきの圌らの支揎ず私たちの思考の方向の远跡に感謝したす。 私たちはそれぞれ、このモデルに、私たちが埓事しおいる分野からの考えず考慮事項をもたらしたした。



参照資料



[1] 。 Cannon WB Physical Review、1928、9399-431。

[2] 。 Cabanac M. Journal of Theoretical Biology、1992、155173-200。

[3] 。 Davis GW Annual Review of Neuroscience、29307-323、2006。

[4] 。 Marder A.、Prinz AA BioEssays、241145-1154、2002



All Articles