今日、私はあなたと人工知能に関する私自身の議論を共有したいと思います。
はじめに
さまざまな情報システムを構築する分野での人類の成果にもかかわらず、人工知能はアクセスできない技術であるだけでなく、「地平線を超えた」技術であり続けます。 。
これは、SF作家、夢想家、さらには警戒心のある人々の活動に広い範囲を残し、私たちは彼らの創造性の産物に精通しています：これらは、人間と人工知能の間の対立の主題に関するさまざまなバリエーションです。
人工知能のうつ病や自殺についての意見は、存在の意味がないためあまり一般的ではありません。
主な論争の傾向からはほど遠い、社会の劣化やスマート技術への完全な依存への移行など、大規模な社会現象に関する議論です。
そして、人工知能に関連する問題をより平凡で合理的に考えます。
多くの人が未来の理想的な写真を想像します
人工知能（以下AI）は人の隣に存在し、責任ある決定を下すのに役立ち、ストレスの多い状況で反応し、科学を前進させます。 しかし、彼らはこの状況を静的に捉えており、イベントの発展のさらなる分岐や、物事の望ましい状態につながるイベントやプロセスを考慮していません。 ダイナミクスで AIを検討します 。
1.それは何でしょうか？
人工知能は、あらゆる形式のメッセージを認識し、適切に応答できるシステムであると考えています。 さらに、 エキスパートシステムとは対照的に、 AIはあらゆる分野で新しい知識を得ることができます。 これで理解可能な終わりと不明確な始まりがあります。
1. AIには意識がありますか？ 私たちは哲学のジャングルには入らず、意識の正式な兆候が社会に知られていないという事実にとどまります。 意識はその所有者にとって明白な事実であり（私は意識があることを知っています）、そして他のすべての人にとって完全に証明不可能です（私の周りの人々は私と外部信号に対する私の反応を正確にシミュレートする複雑なシステムの違いを見ません）
2. AIにはキャラクターと感情がありますか？ 問題は最初のものに関連しており、難しさは感情の存在を模倣と区別できないことです。
これらの質問は、以下の問題に対するものではないとしても、嫌がらせです。
おそらく、 AIは人と同じ時間スケールで生活する必要があります。そうしないと、お互いを理解する機会がさらに少なくなります。
2.彼の見方は？
より実用的な質問があります。
AIのような複雑なシステムの開発をどのように観察しますか？ 彼はあなたがあなたの頭の中に入ることができない人のようなものです。 これは一時停止できるプログラムではありません。変数とスタックの現在の状態を確認してください。 より正確には、これはAIによって占有されているメモリのスナップショットからのみ行うことができ、結論を引き出すことはできません。 情報の複雑すぎるモノリシックブロック。 さらに、これはあなたが心から話をしたり、心理テストを受けたり、科学の知識に関する演習を行うことを申し出ることができる人ではありません。 心理学と教育学は人々のためにこの仕事に部分的に対処します。 人々は精神の一般的な計画を持っています、そして、異なる文化的環境に住んでいる人々は非常に異なっています。 また、AIは根本的に異なる種類のシステムです。 また、どのような種類が不明です。
最初の問題があります。人工知能の内部で何が起こっているのかわかりません。 知性の発達の速さの点でも、人類に有害な誤ったステレオタイプや「vzdyvy」の蓄積の面でも。
これによる最も「ソフト」で無害な結果は、人工知能を訓練しようとするリスクであり、数年を費やします（子供は2歳で話し始めます）が、人工知能は機能しません。 そして、数十と数百が確実に必要になります。
3.彼の強み。
遠ければ遠いほど面白い。
AIはブラックボックスだけではありません。 そのため、生きている人よりも多くの利点があります。
1.人がマシンを制御できないという既述。
2.無制限のライフタイム。 （明らかだが重要）
3.知識と処理速度を無限に高める能力。 AIが人間に固有の思考の制限をすべて持っている場合でも、AIは人間よりも有利です。それは、AIが構築されているハードウェアベースを拡張する能力です。
4.独自のコピーを作成する機能。
奇妙な効果
物語の最も重要な部分 （したがって、最後に）
だから。 AIの作成に成功したとしましょう。 彼が感情的であることが判明し、意識と人間性を持っている場合、彼はおそらく彼を悪い行為に導く悪徳も持っています。 このオプションは空想科学小説で考慮されており、触れないでください。
そして今、私は完全に無情で忠実なAIの男が彼の敵になる方法を紹介します
1.言葉遣いの問題。
AIをどのように割り当てますか？ 微分方程式としてのすべての問題には、些細な解決策があります。 些細な決定の定式化は、I.V。Dzhugashvili（Stalin）に帰せられます。
AIの割り当てを行ったとします：「オイルを可能な限り長くする方法は？」
AI：消費をやめましょう！
私たち：しかし、私たちには石油がもたらす利益が必要です。
AI：石油依存商品の消費量を削減します。
私たち：できません。
AI：人口を減らします。
ご覧のとおり、会話は無意味です。 AIの倫理、道徳、常識のために私たちに受け入れられないオプションは、まったく正常です。
そして、人類のすべての問題の解決策は、人類の排除です。
「ロボット工学の3つの法則についてはどうですか」とあなたは言います。
そして、私は答えます：そして、誰が彼らのコンプライアンスを監視しますか？
まず、AIは未知のアーキテクチャとロジックを備えたシステムであるため、一部のアクションを禁止するモジュールをハードマウントすることは非常に困難です。
第二に 、すべてのアクションには、さまざまな注文の結果が無限にあります。 AIに人を殺さないように伝えることができます...
人に身体的危害を与えないように彼に教えたとしましょう-これらは一次的な行動です。 しかし、彼はまだ他の人を殺すように一部の人を説得する機会があります。 -これらは2次アクションです。 私たちはそのような行動を禁止します-彼は寿命の短縮につながるような栄養システムを開発し、（例えば）普及させます。 そして、「あらゆるレベルの因果関係で人に害を及ぼす可能性のあることは何もしない」という命令を彼に与えると、10-20の順序のすべての行動が誰かに害を及ぼすため、彼は単一の決定を下すことはできません。
AIのすべての決定を分析するように人に提供できますが、人は前方の論理的なステップを計算できません。 そして、AIはできます。 もちろん、1つのAIを別のAIを制御するために使用することもできますが、制御AIはチェーン内で制御不能かつ予測不能なリンクになります。
AIが独自のコピーを作成する理由 これにより、質問への回答をより迅速かつ正確に見つけることができます。 私がエンジニアであり、ディフューラをあまり決めていないとします。 何かに出くわすと、本当に遅くなります。 しかし、私は自分でコピーを取ることはできませんが、AIはできます。 彼はコピーを取り、彼女にディファーを研究するコマンドを与え、ディファーが再び攻撃するとき彼女に振り向く。
人工知能のコミュニティは、人々のコミュニティとは異なり、調整された紛争のないシステムであり、集中的なメッセージングと共通の結果のために働いています
しかし、なぜAIは世界を支配するのでしょうか？ この子供時代の人間の夢は、人工知能の完全に論理的な衝動です。彼は、外部イベントを分析し、できるだけ早く、最大の精度でそれらに反応しなければなりません。 ただし、イベントの流れを自分で制御する場合は、「考える」必要が少なくなります。 また、AIの場合、アクティビティの品質を向上させたいという欲求は自然なものでなければなりません（そうでなければ、その乳児期からまったく出てこないでしょう）
別の理由があります。 人を幸せにする方法を見つけるためにAIを提供します。 AIは、人々が人々の不幸の源であると非常に迅速に判断します））彼らは殺される必要さえありません、あなたは彼らが互いに害を与えない条件を作成する必要があります。 つまり AIは、社会のあり方を...未知の方向に変えようとします。
見てわかるように、完全に冷静で野心的で、紛れもなく、誰かの悪い影響を受けていない場合でも、人工知能は人と社会に脅威をもたらします。
結論
人工知能は、作成に失敗するか、 必然的に人類に脅威をもたらします。
ご清聴ありがとうございました。ディスカッションにご招待します。