カオスの境界における複雑さ、または性別、ニューラルネットワーク、マイクロサービス、企業組織の間で一般的なこと

私たちは非常に頻繁に複雑さの概念を使用し、それと戦います。同時に、ますます規則正しい構造を作成し、エントロピーを減らし、これによって自分自身を肯定します。 同時に、私たちは変化に備える必要があり、適応する必要があります。 平衡点はどこですか？ これらすべての概念と概念の背後にあるもの。 たぶん、これらすべてを結びつけ、私たちの目から隠れ、同時に私たちの目の前にいる何かがあるのでしょうか？









小さなステップから始めて、複雑なシステムの根底にある深い構造を発見してみましょう。まず、驚くほど美しい、そしてある程度、NKオートマトンS.カウフマンの革新的な理論に目を向けます。

NKアサルトライフルまたは「カオスの端の生活」

NKオートマトン（図を参照）は、N個のブール論理要素のネットワークです。 各要素には、K個の入力と1つの出力があります。 要素の入力および出力の信号はバイナリ、つまり 0または1のいずれかの値を取ります。一部の要素の出力は他の要素の入力に送られ、これらの接続はランダムですが、各要素の入力数Kは固定されています。 ゲート自体もランダムに選択されます。 システムは完全に自律的です。 外部入力なし。 マシンに含まれる要素の数は、N >> 1であると想定されます。







オートマトンは離散時間t = 1、2、3、...で動作します。各時間におけるオートマトンの状態は、ベクトルX（t）-すべての論理要素のすべての出力信号のセットによって決定されます。 機能する過程で、状態のシーケンスは特定のアトラクター 、つまりリミットサイクルに収束します。 このアトラクタの状態X（t）のシーケンスは、オートマトンの機能のプログラムと見なすことができます。 アトラクターの数Mとアトラクターの典型的な長さLは、NKオートマトンの重要な特性です。



オートマトンの動作は、Kに大きく依存します。

大きなK（K = N）の場合、つまり 結合の数は、オートマトンの要素の数<< life >>と等しいか、ほぼ等しい。それ以降のアトラクタの状態は、互いに根本的に異なる。 プログラムは、最小限の妨害（オートマトンの動作中の出力ベクトルX（t）のコンポーネントの1つのランダムな変化）と最小限の変異（要素のタイプまたは要素間の接続の変化）の両方に関して非常に敏感です（大幅に変化します）。 アトラクターの長さは、N / 2の程度で非常に大きいL〜2です。

アトラクタの数Mは次数Nです。接続数Kが減少する場合、つまり各ブール要素への入力数が減少する場合、接続性の測定値がK〜2になるまで確率的挙動が観察されます



K〜2では、オートマトンの動作が根本的に変わります。 最小限の妨害に対する感度は弱いです。 原則として、入力での変化は、オートマトンのダイナミクスのわずかな変動のみを引き起こします。 オートマトンの「プログラム」に根本的で連鎖的な変化を引き起こすまれな突然変異はごく一部です。 アトラクタの長さLとアトラクタの数Mは、Nの平方根のオーダーです。



この振る舞いはカオスの端にあります。 秩序とカオスの境界線。



NKオートマトンは、生細胞の制御および制御遺伝子システムのモデルと考えることができます。 たとえば、タンパク質合成（遺伝子発現）を他のタンパク質によって規制されていると考える場合、この遺伝子発現の規制パターンをブール要素で近似できるため、分子遺伝的制御と細胞制御の完全なネットワークをNKマシンのネットワークで表すことができます。



S.A. Kaufmanは、K〜2の場合は、特に進化の文脈において、生物学的細胞メカニズムの調節システムのモデリングに適していると主張しています。 この引数の主なポイントは次のとおりです。

• カオスの端に存在する制御遺伝子システムは、必要な安定性と進歩的な進化的改善の可能性の両方を提供します。 つまり あなたが安定していれば、外部条件が変わると死にます。 反対に、頻繁に変化する場合、遺伝子の最適なセットを保存しないため、死にます。
• 遺伝子の細胞調節の典型的なスキームには、Kの値に応じて、他の遺伝子からの少数の入力（影響）が含まれます。
• K = 2でのオートマトンMのアトラクターの数（N個の遺伝子の特定の数に対して計算）を、進化のレベルが異なる生物のさまざまな種類の細胞（神経、筋肉など）の数と比較すると、同様の値が見つかります。 たとえば、人（N〜100,000）の場合：M = 370、セルタイプの数= 254
  
  
  
  

「カオスの端にある」規制構造（K〜2）は安定性と進化の両方の改善を提供するため、これらの構造には「進化能力」があるため、遺伝的サイバーシステムの進化に必要な条件を提供できます。 このタイプの規制および制御システムが人生の初期段階で選択されたことがもっともらしいようであり、これにより、さらに進歩的な進化が可能になりました。



→ 宇宙の在宅：自己組織化と複雑性の法則の探求

進化的アルゴリズムとしてのセックス

少し先に進むと、なぜ自然には男女が2つあるのかという疑問に直面します。 実際、理論的には、ランダムな突然変異を作成し、ある基準に従って最良のものを選択する単純な進化的アルゴリズムを採用すると、遅かれ早かれ最適な適合性が達成されます。 ここに私たちの前に生じる非常に自然な質問があります：

• 進化における性の役割は何ですか？ 組換えによる繁殖は生活のほぼどこにでもありますが（細菌でさえ遺伝物質を交換します）、無性種は明らかにまれな進化の行き止まりです。 フロアにこのような利点があるのはなぜですか？ セックス自体の利点は何ですか、私たちは知っています:)
• 進化を具体的に最適化するものは何ですか？
• バリエーションの逆説。 人間や他の種の遺伝的多様性は、進化の予測理論（自然選択）よりもはるかに高いです。 そして、この変化がある程度中立であるという事実を考慮に入れると、再び問題が発生します。

適応性と安定性の適切なバランスを見つける方法









セックスは生活の中でほとんど普遍的です：それは動物や植物、菌類、バクテリアの至る所にあります。 はい、多くの種が無性生殖または出芽に関与していることがありますが、他の時点でも有性生殖を行うため、遺伝子のシャッフルが保証されます。



セックスはどこにでもあるだけでなく、それ自体が人生の非常に重要なポイントであるように思われます。 バクテリアの組み合わせから減数分裂の集中的な分子工学（遺伝子装置の組み換えのプロセス）まで、花の無数の色合いから、ダンスや妖艶な鳥のさえずりまで、戦いから人間関係のドラマまで、性を中心に多くの人生と関係がある、さまざまな行動と構造を見るだけで十分です。 なぜですか？ 進化においてセックスはどのような役割を果たすことができますか？



一般的な十分な答えの1つは、性別が十分な多様性を生み出すため、進化の助けになるはずだということです。 しかし、有性生殖が遺伝的組み合わせを収集するように、それもそれらを破壊します。 子孫は遺伝子の半分しか獲得していないため、非常に成功した遺伝子型は次世代で破壊され失われる可能性があります。 したがって、性の役割は非常に適応した遺伝子の組み合わせを作成することであると主張することは、漁師が魚を捕まえて海に戻すだけで、これから食卓に食べ物を持ちたいと結論付けるのと同じあなたの家族に。



有性生殖とは、一方の親の半分の遺伝子ともう一方の半分の遺伝子を含めることで、非常に小さな突然変異値を追加し、これらすべてを組み合わせて子孫を生成します。 無性の代替は、親の遺伝子型の小さな変異コピーから子孫を作成することです。 無性生殖が個々の適応度を最適化する最良の方法であると考えられます。なぜなら、彼らの優れた仕事を示した遺伝子の良いセットは子孫に直接渡されるからです。 一方、有性生殖は、良好な共順応によりこの遺伝子セットを破壊する可能性があります。 特にこの遺伝子セットが大きい場合は！ 直観的に、これはすでに進化の過程で複雑な共適応を開発した生物の適応度を低下させるはずであることは明らかです。



可能性の1つであり、一般的な文脈では、有性生殖の優位性の最も可能性の高い説明は、長期的には、自然選択の基準は個々の適応度ではなく、遺伝子の独立した共同作業の可能性であるということです。 遺伝子のセットが別のランダムな遺伝子のセットと連携する能力により、遺伝子はより堅牢になります。 遺伝子は常に近くに存在する多数のパートナーに依存することはできないため、それ自体で、または少数の他の遺伝子と協力して、何か有用なことを学ばなければなりません。 この理論によると、有性生殖の役割は、遺伝子の成功した組み合わせが集団全体に広がることを可能にするだけでなく、新しい遺伝子が個人のフィットネスを改善する可能性を減らすことができる複雑な共適応を減らすことにより、このプロセスを促進することでもあります



リチャード・ドーキンスは、彼のスキャンダラスな本「The Selfish Gene 」でも、進化の単位は種ではなく集団ではなく、遺伝子の路地であり、これらの進化の単位の寿命は数億年ではなく数千万年であると説得力をもって主張しています。 私たちは目標を達成するために遺伝子によって成長した機械にすぎませんが、これは衝撃的なことのように聞こえます。



進化における性の役割のこの理論は、2010年のA. LivnatとK. Papadimitrowの作品に登場しました。 性、混合性、モジュール性 。



優れたレビューは、「 アルゴリズムとしてのセックス：計算のレンズの下での進化の理論」という記事にもあります。

ニューラルネットワークとドロップアウト

上記の理論は、ニューラルネットワークのトレーニング方法に影響を与えています。 ニューラルネットワークは普遍的な近似器であり、必要な近似レベルで任意の関数を正確に表すことができます。 しかし、収集されたデータはノイズが多いため、理想的な近似は過剰適合につながります。つまり、ニューラルネットワークはデータだけでなく、このデータが測定されたノイズも学習します。 さらに、曲率の高い多様体上​​の高次元の空間では、ガウスカーネルを使用して多様体の近傍を近似することはできません。データが存在する多様体の過剰近似と正しい近似の間のスイートスポットを見つける必要があります。 つまり、ここでは、Vapnik-Chervoneskis次元が最小のデータを説明するためのルールの形式で、古き良きオッカムの剃刀に直面しています。



機械学習の理論では、データの構造を説明する一般的なルールを見つけるのに役立つアプローチをレギュライザーと呼びます。 たとえば、ニューラルネットワークでは、これはL2バランスの減衰、希薄化レギュレータL1、早期停止などです。



DropOutは、遺伝子型の共適応の内訳によって動機付けられました。 これは何ですか



DropOutという用語自体は、ユニット（ニューロン）の破棄を意味します。 要素をドロップするということは、入力接続と出力接続の両方で、ネットワークからその要素を一時的に除外することを意味します（下図を参照）。









左側は標準のニューラルネットワークです。 右側はネットワークの例です。ニューロンの一部を破棄した後、それらは消されたものとしてマークされています。



破棄する要素の選択はランダムです。 最も単純な場合、各要素は、他の要素に関係なく、特定の固定確率でネットワークに残ります。 大まかに言うと、ネットワークを通過する前に、トレーニングプロセス中にコインを投げて、このニューロンがこの通過のためにネットワークに残っているかどうかを判断します。 各パスの後、プロセスが繰り返されます。

トレーニング後、すべてのニューロンの重みに学習プロセスでの存在の確率が乗算され、その結果、モデルの重み付きアンサンブルが得られます。









したがって、遺伝子のセットのように、 ドロップアウトを使用してトレーニングされたニューラルネットワークの各要素は、ランダムに選択された他の要素のセット（ニューロン）と連携することを学習する必要があります。 これにより、各ニューロンをより安定させ、重みを移動して、エラーを修正する他のニューロンからの調整とサポートの希望なしに、独自に機能する有用な兆候を作成する必要があります。 このようにして、要素の可能な共適応が破られ、一般に安定性と一般化につながります。



複雑な協調適応は訓練することができ、訓練データで良好な結果を示すことができますが、新しいデータでは、同じ目標を目指して努力する小さな単純な適応よりも失敗する可能性が高くなります。



→ ドロップアウト：ニューラルネットワークの過剰適合を防ぐ簡単な方法

陰謀論とテロ

セックスの役割とドロップアウトの使用の両方で、この同じ概念、共同適応の内訳は、成功した陰謀について考えることによって推測できます。 それぞれが5人の10のグループは、役割を正確に果たさなければならない50人を必要とする1つの大きな陰謀よりも混乱とパニックを引き起こすのに適した方法です。 条件が変わらず、準備時間が長い場合、大きな陰謀がうまくいくかもしれませんが、不安定な条件と急速に変化する環境では、陰謀者のグループが小さいほど、成功の可能性が高くなります。 だからこそ、私たちが全員を強制収容所に入れない限り、通常の軍隊はパルチザンを打ち負かす機会がありません。そうでなければ、軍隊を使ったテロとの戦いは決して成功しません。 そしてここで、不安定な状況で自分自身を見つける他の場所、状況が急速に変化している場所を考えると、これは一般にビジネスの世界であり、特にソフトウェア開発であることがわかります。

情報システムとビジネス開発

ビジネスの歴史は、栄光に身を任せた巨人が状況の変化に適切に対応できず、変化にすばやく反応した競合他社によって押しつぶされた例に満ちています。 最も顕著な例は、ノキアの物語です。 しかし、ソフトウェア開発業界のパラダイムシフト、およびその結果としての組織のパラダイムシフトに焦点を当てたいと思います。 以前のビジネスがITを移行した場合、ITはビジネスを移行します。



プログラミングのd明期でさえ、コードが成長するにつれて、管理がますます難しくなることが明らかになりました。 変更はますます困難になり、一部のエラーの修正は他のエラーのカスケードにつながります。 当然、彼らはコードを疎結合するという概念に到達し、システムを抽象化の層に分離し始めました。これは、私たちの天国で照らされたオブジェクト指向のアプローチです。 カプセル化とインターフェースにより、コードの複雑さを打ち破り、共同適応を削除し、責任レベルを共有することができました。 これは大きな一歩でした。 しかし、このアプローチは1台のマシンのレベルで機能しました。 上記の原則に従って内部的に配置されたシステムが作成されましたが、外観的にはモノリシックアプリケーションでした。 手遅れになる前に、誰もが今拒否しようとしている同じモノリス。



アプリケーションを作成するモノリシックなアプローチ自体が、組織のプロセスに要件を導入しました。 多くの開発チームは十分に機敏でしたが、全体的な組織プロセスは線形でした。 計画があり、システムの一般的なプロセスを担当するアナリストがいました、受信の段階がありました。 あちこちにあった、いわゆるwaterscrumfall 。 端の滝と中央のスクラムのモデル。



ネットワーク速度と情報フローの増加に伴い、モノリシックシステムはこれらの課題に適切に対応できないことが理解されています。 貧弱な接続性、インターフェースを介した設計などのアプローチは、モノリスの内側から引き出されたと言えます。 マイクロサービスは、このアプローチの最も明白な例です。 複雑なシステムを多数の疎結合要素に分割します。各要素は可能な限り最小限の処理を行い、可能な限り独立して分離しようとします。 セックスが遺伝子にもたらすもの、ニューラルネットワークへのドロップアウト、マイクロサービスアーキテクチャがITシステムの開発にもたらす同じこと。 はい、IT組織のマイクロサービスは、セックス、遺伝子のセックスのようなものです。 ビジネス要件の変更は、システムの他の部分に影響を与えることなく、機能と開発の小さなグループとユニットによって迅速に適応できます。

さらに、このアプローチは、管理ツリーと意思決定チェーンの代わりに、厳密に構造化された階層の代わりに、組織レベルでの変更を必然的にもたらします。小さなグループのコミュニティが現れ、それぞれが独自のサブジェクトエリアに深い知識を格納します（そして、今では多くのアナリストを必要としません） これらの小規模な開発チームは、非常に短時間で大量の機能をすばやく実現できます（APIファーストアプローチ）。 したがって、ビジネスが変更に非常に迅速に適応したい場合、または新しいサービスを展開したい場合、これに対する唯一のアプローチは、エンタープライズレベルでの協調適応を分割することです。



これらはすべて既知です。



しかし、これは、計算可能性の概念のように、これが私たちの世界の根底にある複雑さと協調的適応の内訳であることを示したかったのです。

最初に「コンピュータが行うこと」と説明した計算は、自然の力であることが判明しました。 計算は、多くの複雑な部分を持つ特別に設計されたシステムによってのみ実行できる洗練された人間の発明と考えがちですが、それをサポートするほど複雑に見えないシステムにも現れます。 そのため、計算はマイクロプロセッサ内でのみ発生する不毛で人工的なプロセスではなく、さまざまな場所でさまざまな方法で発生する広範な現象です。

トム・スチュワートは、チューリングが当初「電卓/コンピューターが行うこと」として説明されていた計算可能性の概念が、突然、自然の力のようなものに変わったと美しく述べました。 コンピューティングは、多くの複雑なパーツを備えた特別に設計されたシステムによってのみ実行できる人の複雑な発明であると考えがちですが、十分に単純なシステムでも計算を実行できることは明らかです。 同じ教会システム、コンウェイセルオートマトン、SKUおよびタウ計算、サイクリックタグシステム、ゲーデル形式システムなど つまり、計算はマイクロプロセッサの内部でのみ発生する無菌の人工的なプロセスではなく、さまざまな場所でさまざまな方法で突然発生する普遍的な現象です。 これは純粋にプラトニックなアイデアであり、私たちの知覚的思考装置のほかに存在するものであり、言葉の最高の意味である種の真実です。



さらに、すべての数学、これは純粋に私たちの発明した概念ではありません。 それどころか、数学はそれ以上のものであり、そこでは投資しなかったことがわかります。 鮮やかな例はフラクタルです。 これは私たちの外に存在するものであり、私たちのほかに、新しい海岸を開く忘れられた土地の船長のような存在です。



私は、「適応性と安定性の同時性に必要な前提条件として、「カオスの境界」での生活、ニューラルネットワークのトレーニングの数学的概念、ソフトウェアデザインの方法と組織管理の間に共通の何かがあることを示しようとしました。



私たちの人生のさまざまな分野で、私たちは人生そのものと同じように、その山の頂上に登ろうとしていることがわかります。これを下の図に示します。

エピローグ

そして最後に、スタニスラフ・レムの「 Invincible 」という素晴らしい小説を思い出したいと思います。 作家は、並外れた心と直観を持ち、この概念をつかみ、それを説明しようとして、非常に説得力のある結論を出しました。 思い出させてください。

「無敵」の乗組員には、行方不明の遠征「コンドル」の痕跡を見つけ、彼女の死の原因を見つけるという任務が与えられました。 生物学者ラウダは、惑星がライラ星座の領域から到着したエイリアン文明から残されたメカニズムを進化させているという考えを持っています。



ロボットの最初のコロニーから残ったわずかな痕跡から判断すると、ロボットにはいくつかのタイプがありました。 「モバイル」-複雑な、インテリジェントな、武装した、原子力エネルギーで動くモバイルロボット。 「最も単純な」ものは構造的に単純ですが、これらのロボットは、適応性が制限されていました。 彼らは「モバイル」ほど知的で専門的ではありませんでしたが、スペアパーツや放射性燃料の入手可能性に依存していませんでした。



Liryanの監督を奪われて、ロボットは制御不能な開発と変化を始めました。 ネクロエボリューションは、適者生存につながり、最も単純なロボットであることが判明しました。 「ハエ」のように見える遠い子孫で、地球人の遠征に直面しました。



Regis IIIの条件では、最も適応したのは最も複雑でインテリジェントではなく、最も強力ではなく、最も多数で柔軟でした。 数千年にわたる壊死の進化の中で、これらの機械は、知能とエネルギーの可用性の両方でそれらを凌ぐ競合他社に効果的に対処する方法を学びました。 彼らは他のロボットだけでなく、惑星の生きている世界とも戦わなければなりませんでした。

本からの引用：

-...ここで私たちは非常に特異なタイプの死んだ進化について話しています。これは、状況の組み合わせによって作成された完全に異常な条件下で発生しました。<...>この進化を打ち破ったデバイスは、最初に、最も効率的に減少し、次に、座っていない、動かずに、この進化に勝ちました。 最初は、これらの黒い雲の基礎を築きました。 私は個人的に、これらは非常に小さな擬似昆虫であり、必要に応じて、いわば共通して、大きなシステムに結合することができると考えています。 つまり、これらの雲の中。 これが移動メカニズムの進化でした。 座りがちな人たちは、私たちが見たその奇妙な種類の金属植生の基盤を築きました-いわゆる都市の遺跡...



「より発達した知性を持つクリーチャー、これらのマクロオートマトンが勝つことはまだ前代未聞です」とサイバネティックスの1人は言いました。 -これは進化が合併症の経路、恒常性の改善に従うという規則の例外になります...情報の質問、その使用...

「これらの機械は、当初から非常に高度で複雑であったため、まったくチャンスがありませんでした」とザウラハンは抗議しました。 -ご存知のとおり、彼らはデザイナー、作詞家との協力に非常に特化しており、作詞家が姿を消したとき、彼らはリーダーシップを失ったために切断されたように見えました。 そして、現在の「ハエ」が発達したメカニズムは、それが存在したとはまったく主張しておらず、除外されたと考えています。 [1]。

「さらに重要な要因があったのかもしれません」とサックス博士はサイバネティックスにアプローチしました。 -それはメカニズムについてであり、メカニズムは、損傷を受けたときに復元される生き物、生体組織として再生する能力を決して示しません。 マクロオートマトンは、たとえ別のマシンを修復できるとしても、一般的にはマシンパーク用のツールを必要とします。 したがって、そのようなツールからそれらを切り離す価値があり、それらは武装解除されました。彼らは飛行生物のほとんど無防備な餌食となりましたが、これはダメージにそれほど敏感ではありませんでした... <...>これはそれほど新しいものではありません、<...>生物の進化は偶然ではなくこのように進行するためです。そのような交換可能な要素は、確かに偶然ではありません。それはすべて材料に関するものです：<...>一対の結晶、サーミスタ、または他の単純な要素で構成されるデバイスは破壊することができ、それによる害はありません、すぐに彼のような10億のうちの1つに置き換えられます...-