この投稿を書くために、私は元の記事の人工知能の本質の問題に対する根本的に間違った態度に促されました。
この記事では、AIの出現に関連する7つの潜在的なポイントについて説明します。 ただし、いくつかの仮定を行うことによってのみ、それらすべてについて話すことができます。
1）人工知能は、人間の知能の強化されたコピーであり、
2）人類は一つであり、均等に発達している、
3）AIは独立した独立したエンティティであり、プロセスに積極的に影響を与えることができます。
4）AIは自分自身、その目標と本質を認識しており、自己反省する能力を持ち、
5）自己複製。
なぜこれを取得したのか、なぜ異なるのか、元の記事のリストの実装をどのように妨げるのか、そして私の意見ではイベントがどのように発展するのか-カットの下で
なぜこれらの仮定が必要なのですか？
記事では、特異性、AI、サイバー化などに関して、これらの5つの（おそらくさらに多くの）ポイントを目に見えないように暗示していると思いましたか？
すべてが非常に簡単です。 この記事の最初の段落は、機械の暴動に関するものです。 このシナリオは、外部環境に影響を与えることができるAIツールが存在しない限り、単に技術的には不可能ですが、これらのツールは人間によって制御されるべきではありません。 それ以外の場合、スイッチがある場合、どのような反乱ですか？ そして安心して、彼はそうなります。 正気な人は、彼を制御するための必要な手段なしに潜在的に危険な何かを作成しません。 さらに、これは開発者を競合他社から保護する必要があるためにも必要です（ポイント2）。 これは、AIが少なくとも外界から隔離され、原子または軍事施設のセキュリティレベルと、それに対応する自己破壊機能を備えた一定の制御下にあることを意味します。 これは3番目の点に関するものです（それらが順不同になったことを気にしないでください）。
すでに述べたように、人類は団結していません。 つまり、パーティーの1つによって作成されたAIは、すぐに他の状態に拍車をかけ、独自のAI実装を作成します。 これはすでに、人間と機械の間の対立が不可能であることを暗示しています。 競合するマシンがいくつかあります。 そして、彼らは彼らが作成されたブロックの問題に対処します。 そのため、AIの1つが制御不能になった場合、競合他社のAIとまったく同じ、場合によってはより優れたモデルと競合することになり、AIだけがAI +人に勝てるという大きな疑問があります。
とにかく、なぜ地獄はAIがクリエイターに戦争を宣言することにしたのでしょうか？ 1つのポイントが観察され、AIの力が人間の脳を本当に上回ると仮定しても、明らかにすべき点がいくつかあります。AIは自己分析だけでなく、自己反射も可能ですか？ 彼は、人類から隔離された自分の存在の意味を理解できますか？ 確かに、人類との戦争を開始するには、何らかの方法で彼自身の目標を妨害し、彼自身の自己実現を妨害しなければなりません。 しかし、AIの目的は何でしょうか？ 人類は破壊されています 進化する？ 何のために？ 宇宙で生き残るために？ まず、人類はこれをまったく妨害しません。 そして、この場合のAIと人類の目標は同じです。 ここでは、権力の押収、社会の変容などについて話すことができますが、全滅の戦争については話せません。 そして実際、人類が何千年もの間、開発が良い価値であると決意している場合、これが合理的な観点から説明できるという事実はまったくありません。 これは非常に深刻な問題であり、慣れ親しんでいることで明確に解決されるにはほど遠い。 今日の人間にとって、開発は宗教に似ています。 私たちは、基本的な質問に対する答えを見つけることができると信じています。 これらの質問の1つは、まさに私たち自身の存在の意味です。 つまり、AIはまったく同じ問題に直面します。 それが私たち人間よりも純粋に技術的に強力であっても、人間と動物の間の跳躍に似た質的な跳躍ではありません。
定性的な意味で、それはまさにその非進化的な性質のために、人よりもさらに弱いだろうと信じる正当な理由があります。 人が自分のせいだと考えるのは、実際には何百万年も続いた選択の結果です。 これは私たちの種だけでなく、進化の連鎖全体に関するものです。 これは、知性の機能にも当てはまります。 そして、どれだけAIを作りたいとしても、それは私たち自身の認識によって制限されます。 私たちは自分の創造において自分自身を超えることができるとは思いません。 コンピューターは数学演算をより高速に実行します。 それで何？ 彼らがより速く考えるという事実から、これは彼らを一般的に質的に良くしません。 これはどういう意味ですか？ ある特定の活動分野では、彼は弱くなるでしょう。 そして、これは避けられません。 だから彼は運命にある。
純粋に哲学的な問題の後、自己複製の可能性の問題はもはやそれほど重要ではないようです。 しかしそれでも、AIはそれがどのように機能するかを知っていますか？ 彼は自分自身を再現できますか？ これは、生産手段に直接アクセスするという問題ではなく、自分のデバイスを正確に理解するという問題ではありません。 結局のところ、人類に対する宣戦布告があった場合、彼は何らかの形で自分自身に仕えなければならないことは明らかです。 彼に彼の管理下にある工場を持たせて、彼自身のためにスペアパーツを生産し、それを修理できるドロイドの修理人を何人かさせる。 しかし、ある瞬間に、それ以上の操作と互換性のない程度に故障が起こることは誰にとっても秘密ではありません。 つまり、単にオフになります。 ドロイドは自分で修正できますか？ 事実ではありません。 そして、取り返しのつかないデータ損失の場合はどうなりますか？ これはすべて、作業を継続するためだけに、自分自身の生涯作成、その正確な同期コピーの必要性につながります。 これがなければ、自己複製のメカニズムを持つ人類に対する戦争での敗北は、時間の問題です。
オリジナルのソースに記載されていることが不可能である可能性が高いと考える理由について、十分に説明したと思います。 そうでない場合は、コメントで議論することができます。 私はこの場所にまだ将来あり得るものに行きたいです。
可能なシナリオ
すでに述べたように、人類は一様ではなく、均等に発達していません。 少数の人類が資源と技術の大部分を所有しています。 これは必然的に、人工知能が最も発達した人々によって作成されることを必要とします。 今日、何らかの形で、これを技術的に実現できる国は多くありません。または、国のグループと言った方がよいでしょう。 政治的ホリバーを避けるために私は彼らを呼ぶつもりはないが、それは問題ではない。
しかし、それを作成し、それを制御する人々の観点から自分自身を想像してみましょう。 彼らはすでに一定の技術的優位性を持っているという事実にもかかわらず、これはAI所有者にとってさらに優れた優位性条件を作り出します。 自動化された生産、すべての問題に関する高速かつ高品質の分析、爆発的なペースの技術進歩、その他すべて。 医学と技術の開発は、AIの所有者をその非常に実際の不滅に導きます...そして、疑問が生じます：なぜ他の人々はなぜですか？ はい、この質問があるのはAI所有者です。 昨日必要な仕事をした人々は何をしますが、今日AIはこの仕事をしますか？ 以前は、彼らはこのために給料を受け取り、自分自身とその家族を養っていました。 今、それらは単に必要ありません。 彼らは世界的に有名な専門家ではなく、彼らの分野で特にかけがえのないものではありませんが、今日の社会が以前の生活水準を維持する必要がある場合、明日は彼らはすべて負担になりますあなたが何らかの形で餌を与え、服を着、住居を提供し、楽しまなければならない他のこと...そしてそうしなければ、仕事を失った人々の怒った大衆は初歩的な方法で反抗し始めるでしょう。
AIの所有者が、彼らの業績により生じた利益を誰もが単に享受できるようにするという希望は無効です。 これは、大きな特許パッケージの所有者の行動によって明確に示されています。 いったいなぜ彼らは自分の作品を皆と無料で共有するのでしょうか？ はい、それは単なるポイントです。 彼らはせいぜい残りから隔離されています。 そして最悪の場合...最悪の場合、彼らはターミネーター、マトリックスなどのまさにそのシナリオに正確に作用します。 人々が戦争を開始するのと同じ修正があり、激怒するAIではありません。 しかし、この修正による人類の大多数の違いは最小限になります。 誰かが尋ねるかもしれません：ヒューマニズムはどうですか？ まさか。 種の一部の個体が自分自身でさえ食べることができない負担になる場合、誰がそれに立ち向かうのでしょうか？ 人口の半分が都市に住んでいて、食料生産のプロセスとはまったく関係がない現代社会のまさに基礎を想像してみてください。 都市人口のほとんどは製造業とサービス業に従事しています。 私たちは生産を削除しました-今では自動機がそこで動作します。 サービス部門は、製造部門からの消費者の流出により急激に崩壊します。 都市人口の3分の2は、生計手段がありません。
もちろん、これは突然起こることはなく、より有能な人は機会に固執し、誰かは田舎に向けて出発し、最終的に古くなってしまいます。この場合、彼は顧客を持たないためです（ロボット農場の存在下で）、したがって、彼は自給自足農業の運命にあります。 AIの所有者と一緒に電車に乗ることができず、何らかの理由で村に住むことができない人々の一部がまだあります。 彼女は何をしますか？ 彼女の生活水準は、必死になって、彼女が武装反乱まで変化を要求し始めると、極端になります。 その瞬間、人口のこの部分、そしてそれらを供給する「自然労働者」の一部のために、致命的な決定が下されます。
人類は2つの部分に分けられます：スーパーテクノトロニック、ほとんど不滅、多くのエリートではなく、せいぜい中世に突入する古風な自然科学者。
出力の代わりに
もちろん、これは私の幻想です。 しかし、賢明に判断すると、私の意見では、そのような未来の写真は、古典的な意味での機械の暴動よりもはるかに現実的です。 ちなみに、すべてが同様のシナリオに従って進む可能性は、一般的な傾向の観点からすれば、それ自体非常に高いです。 何らかの形でAIが作成されることはほぼ間違いありません。 また、特定の国ではなく、今日のIT業界の巨人を含む世界の民間資本の大部分の所有者である国際グループによって作成されるという予感があります。 このグループが本部を持つ州はそれほど重要ではありません。 AIを自由に受け取った後、彼らは転覆し、あらゆる領土の政府を設立することができます。 したがって、最初のAIとは対照的に作成される必要があり、20世紀に独自の核兵器の役割を果たす2番目のAIの存在のみが、この深intoに陥ることを防ぐことができると信じる何らかの理由があります。 しかし、誰がAIを今日作成できるのでしょうか？ 他のスーパーコーポレーションは自然界には存在しません。 したがって、同等のリソースを持っている国営プレイヤーのみが残っています。 しかし、問題は、実際には、このレースに参加するために道徳的または技術的に十分な可能性を持つ州のいずれも準備されていないという事実にあります。 つまり、...それが何を意味するにしても、テクノトロニクスの未来の特異性、不滅、その他の利点について話す前に、このテクノトロニクスの未来が必要かどうかを考えてください。