セキュリティの課題と主要なAIの成果

人工知能のトピックは、多くの人々の関心の焦点のままです。 世間の注目を集めている主な理由は、近年、弱いAI技術を使用する何百もの新しいプロジェクトについて学んだことです。 地球上に住む人々は、強力なAIの出現を個人的に目撃できる可能性が非常に高いです。 カットの下で、あなたのアパートで頭のいいロボットを待つ正確なタイミングの物語。 ZiingRRとVladimir Shakirovの明るい考えをありがとう。 お楽しみください。



車が多くの点でクリエイターを凌creatorするとき、私たちを待っている変化は何ですか？ 有名な科学者と研究者は、Baidu人工知能研究所のトップスペシャリストであるAndrew Unの非常に悲観的な予測から、多層ニューラルネットワークジェフリーヒントンをトレーニングするための逆伝播法の著者の1人であるGoogle専門家、および会社の共同設立者であるShane Leggの楽観的な議論まで、非常に悲観的な予測を行っていますDeepMind（現在はアルファベットの一部）。

自然言語処理

自然言語形成のいくつかの進歩から始めましょう。 コンピューター言語学で言語モデルを評価するために、複雑さが使用されます-モデルがテストコレクションの詳細をどれだけうまく予測するかの尺度。 困惑度が小さいほど、文から1つの単語を取得する言語モデルの方が、次の単語の確率分布を計算します。







ニューラルネットワークがミス（論理的、構文的、実用的）を犯した場合、それは不適切な単語、つまり Perplexiaはまだ最適化されていません。



階層型ニューラルチャットボットがかなり低いレベルの認識を達成すると、首尾一貫したテキストを記述し、明確で賢明な回答を与え、一貫して論理的に推論することができる可能性があります。 会話モデルを作成し、特定の人のスタイルと信念を模倣することができます。



近い将来に困惑を起こす可能性はどのくらいですか？



「大規模NLPタスク用のコンテキストLSTMモデル」（「＃1」）と「言語モデリングの限界を探る」という2つの優れた作品を比較しましょう。作品番号2）。







大規模NLPタスクのContextual LSTMモデルで4096個の隠れニューロンが使用される場合、perplexityは20未満であり、8192個のhiddenニューロンが15個未満のperplexityを与えることができると仮定するのは合理的です。 、10をはるかに下回る困惑度を与える可能性があります。このようなニューラルネットワークがどれほど健全であるかはまだわかりません。



近い将来、困惑の減少により、意味のあるテキストを書き、明確で意味のある答えを出し、会話をサポートできるニューラルネットワークチャットボットを作成できるようになる可能性があります。



困惑を最適化する方法を理解すれば、良い結果を達成できます。 また、敵対的学習を通じて問題の部分的な解決策を提供します。 記事「連続空間からのシーケンスの生成」は、競争学習の印象的な利点を示しています。



機械翻訳の品質の自動評価には、BLEUメトリックが使用されます。これは、機械翻訳および文の参照翻訳で一致するn-gram（音節、単語、または文字のシーケンス）の割合を決定します。 BLEUは、人間の翻訳と機械翻訳の比較および共通のフラグメントの検索に基づいて、0〜100のスケールで翻訳品質を推定します。一致するものが多いほど、翻訳の品質が向上します。



BLEUメトリックによると、MT03データセットを使用した中国語から英語への翻訳は35.76ポイント増加しています。 ただし、GroundHogネットワークは、同じテキストおよびデータ配列で40.06 BLEUポイントを獲得しました。 ただし、ライフハックが発生しました。最尤スコアが独自のMRT基準に置き換えられ、BLEUスコアが33.2から40.06に増加しました。 通常の最尤評価とは対照的に、最小のリスクでのトレーニングは、評価指標に関連してモデルパラメーターを直接最適化できます。 同じ印象的な結果は、単一言語のデータを使用して翻訳の品質を改善することで達成できます。



最新のニューラルネットワークは、人間の1000倍の速さで変換されます。 機械翻訳はほとんどの人が学ぶよりも速く改善されているため、外国語の学習はますます役に立たなくなっています。

コンピュータービジョン

トップ5エラーは、アルゴリズムがピクチャクラスの5つのバリアントを生成できるメトリックであり、これらすべてのオプションに正しいものがない場合はエラーカウントがカウントされます。



「深層残差ネットワークでのアイデンティティマッピング」の記事では、単一モデルのトップ5エラーメトリックの数値は5.3％であり、人間レベルは5.1％です。 「深い残余ネットワーク」では、単一のモデルで6.7％が得られ、Inceptionアルゴリズムを使用したこれらのモデルのアンサンブルでは3.08％が得られます。



また、「確率論的な深さの深いネットワーク」を通じて良好な結果が得られます。 〜0.3％のエラーがImageNetデータベースのメモに報告されているため、ImageNetの実際のエラーはすぐに2％未満になる可能性があります。 AIは、ImageNetの分類だけでなく、境界線の強調においても人間よりも優れています。 SPORTS-1Mデータ配列のビデオの分類（487クラス、100万ビデオ）の割り当ては、63.9％（2014）から73.1％（2015年3月）に改善されました。



また、畳み込みニューラルネットワーク（CNN）は人間よりも速度が優れています。人間よりも約1000倍（これはグループに関するものであることに注意してください）、または比較後に約10,000倍も高速です。 AlexNetで24 fpsのビデオを処理するのに必要なのは、わずか82 Gflops / sであり、GoogleNetでは265 Gflops / sです。



最高の生データは25ミリ秒で実行されます。 合計で、NVIDIA Titan Xビデオカード（6144 GFlop / s）は128フレームを表示するのに71ミリ秒を必要とするため、24フレーム/ sでのリアルタイムビデオ再生には6144 GFlop / s *（24/128）* 0.025≈30 Gflop / sが必要です。 バックプロパゲーションを教えるには、6144 Gflops /秒*（24/128）* 0.071≈82 Gflops / sが必要です。 GoogleNetの同じ計算では、それぞれ83 Gflop /秒と265 Gflop /秒になります。







DeepMind Networkは、人間が入力したテキストに基づいて写実的な画像を生成できます



ネットワークは画像に基づいて質問に答えます。 さらに、ネットワークは文章を使用して画像を記述することができ、一部のメトリックでは人よりも優れています。 ビデオ=>テキストの翻訳に加えて、テキスト=>画像を翻訳する実験が行われます。

さらに、ネットワークは音声認識を積極的に使用しています。







開発の速度は非常に高速です。 たとえば、Googleでは、誤って認識された単語の相対数が2013年の23％から2015年の8％に減少しました。

強化トレーニング

AlphaGoは、それ自体が非常に小さな世界で強力なAIであり、単なる石のボードです。 AlphaGoを継続的な強化トレーニングで改善した場合（そして現実世界の複雑なタスクで動作させることができた場合）、それは現実世界の実際のAIに変わります。 さらに、仮想ビデオゲームで彼を訓練する計画があります。 多くの場合、ビデオゲームには、平均的な人が実際に出会うよりもはるかに興味深いタスクが含まれています。 AlphaGoは、現代の畳み込みニューラルネットワークによる現代の強化学習の好例です。

教師なしの効果的な学習

写真、映画、音楽など、コンピューターが独自にデータや情報を作成できるモデルがあります。 システムDeep Generative Adversarial Networks（DCGAN、ディープジェネレーティブコンボリューショナルコンペティティブネットワーク）は、互いに「競合する」2つのディープニューラルネットワークの適切な組み合わせを使用して、ユニークなフォトリアリスティックイメージを作成できます。



複雑さを最小限に抑える言語生成モデルは、教師なしでトレーニングされ、近年大きく進歩しています。 Skip-thought vectorsアルゴリズムは、現代レベルの教師の指導に関する多くの問題を解決するために、これらのベクトルとその余弦距離で線形分類器をトレーニングできる文のベクトル式を生成します。 最近の研究では、「逆グラフィックとしてのコンピュータービジョン」（「逆グラフィックネットワークの役割におけるコンピュータービジョン」）の方法の開発が続けられています。

マルチモーダルトレーニング

マルチモーダルトレーニングは、ビデオ分類に関連するタスクの効率を高めるために使用されます。 教師なしのマルチモーダルティーチングは、注意に基づくメカニズムを使用して画像内のテキストフレーズを実証するために使用されるため、モダリティは互いに教えます。 「ニューラルセルフトーク」アルゴリズムでは、ニューラルネットワークは絵を見て、それに基づいて質問を生成し、それ自体がこれらの質問に答えます。



神経科学の観点からの議論



ここに人間の大脳皮質の簡略化されたビューがあります：





大まかに言って、人間の脳の15％は、非アクティブな視覚タスク（後頭葉）のために設計されています。



さらに15％-画像およびアクションの認識用（側頭葉の半分を少し超える）。



もう15％-オブジェクトとその検出（頭頂葉）を追跡します。 また、10％は強化トレーニング（眼窩前頭皮質および前頭前皮質の一部）を目的としています。 一緒になって、脳全体の約70％を形成します。



脳のこれらの70％のみを取得する場合、現代のニューラルネットワークはほぼ人間レベルで動作します。 たとえば、CNNはImageNetでのエラーを人々が行うよりも1.5倍少なくし、1000倍高速に動作します。



神経科学の観点から見ると、人間の脳は表面全体で同じ構造を持っています。 同じ原理で作用するニューロンは、脳の奥深くにわずか3 mm入ります。 前頭前皮質と脳の他の部分の働きのメカニズムは実際には同じです。 また、計算速度とアルゴリズムの複雑さも似ています。 現代のニューラルネットワークが今後数年間で残りの30％に対処できない場合は奇妙です。



約10％が、運動していない運動および運動活動に関与しています（ゾーン6.8）。 しかし、出生時から指を持たない人は、細かい運動能力の問題を経験しますが、彼らの精神発達は正常です。 テトラアメリア症候群に苦しんでいる人は、生まれてから腕や足がありませんが、彼らの知性は完全に保存されています。 たとえば、日本のスポーツジャーナリストである乙武博忠は、回顧録を書くことで有名になりました。 彼は学校でも教えました。 Nick Vuichichは多くの本を書き、グリフィス大学を卒業し、商業の学士号を取得し、今ややる気を起こさせる講義を行っています。



前大脳皮質の背外側前頭前野（DLPFC）の機能の1つは、LSTMネットワークで現在積極的に使用されている注意です（英語からの長期短期記憶。長期短期記憶; LSTM）。



人のレベルにまだ達していない唯一の部分は、ゾーン9、10、46、45であり、これらは一緒になって人間の大脳皮質の20％のみを構成しています。 これらのゾーンは、複雑な推論、複雑なツールの使用、複雑な言語を担当します。 ただし、記事「ニューラル会話モデル」、「コンテキストLSTM ...」、「深層強化学習でAtariを再生する」（「深層でAtariを再生する」強化トレーニング」）、「囲Goのゲームをマスターする...」（「囲ofのゲームに習熟を開発する...」）など、この問題は積極的に議論されています。



これらの30％に対処することは、すでに70％を破った場合よりも困難になると信じる理由はありません。 結局のところ、今ではより多くの研究者がディープラーニングに携わっており、彼らはより多くの知識と経験を持っています。 さらに、ディープラーニングに関心のある企業が何倍もあります。

脳の仕組みを知っていますか？

接続の詳細な解釈は、マルチビーム走査電子顕微鏡の作成後に大幅に向上しました。 40x40x50千m3のサイズと3x3x30 nmの解像度の大脳皮質の実験写真が得られたとき、実験室は1x1x1 mm3のサイズのラット脳断片のコネクトームを説明する許可を受けました。



バックプロパゲーションアルゴリズムの多くの問題では、重みの対称性は重要ではありません。エラーは固定行列を介して伝播し、すべてが機能します。 このような逆説的な結論は、脳機能の理論的理解に向けた重要なステップです。 また、「生物学的にもっともらしいディープラーニングに向けて」（「生物学的にもっともらしいディープラーニングに向けて」）という記事を読むこともお勧めします。 理論の著者は、脳が深い階層でタスクを実行する能力について議論しています。



最近、STDP関数が提案されました（英語からのパルスの時間モーメントに依存するシナプス可塑性。スパイクタイミング依存可塑性）。 これは、制御されていない目的関数であり、たとえばword2vec自然言語セマンティクス分析ツールで使用されるものと多少似ています。 著者は、多項式局所学習規則の空間を研究し（学習規則は脳内で局所的であると仮定されます）、それらがエラー逆伝播アルゴリズムよりも優れていることを発見しました。 逆伝播アルゴリズムを必要としない遠隔学習法もあります。 従来のディープラーニングと競合することはできませんが、脳は、その素晴らしい数のニューロンとシナプス接続を考えると、おそらくこのようなものを使用する可能性があります。

それでは、人間レベルのAIから私たちを分離するものは何でしょうか？

メモリネットワークとチューリングニューラルマシンに関する最近の多くの記事では、許容可能な数のモデルパラメーターを維持しながら、任意のサイズのメモリを使用できます。 階層メモリは​​、通常のO（n）操作の代わりにO（log n）アルゴリズムの複雑さへのアクセスを提供しました。nはメモリのサイズです。 強化された学習チューリングマシンは、O（1）メモリへのアクセスを提供しました。 これは、IBM Watsonのようなシステムを完全に連続した微分可能なニューラルネットワークに実装するための重要なステップであり、Allen AIチャレンジの結果を60％からほぼ100％に増やします。 繰り返しレイヤーの制約を使用して、バルクメモリが許容数のパラメーターを使用するようにすることもできます。



ニューラルプログラマは、一連の算術演算と論理演算によって拡張されるニューラルネットワークです。 おそらく、これらはニューラルネットワークに基づく連続微分可能なWolphram Alphaシステムに向けた最初のステップです。 「学習方法を学ぶ」方法には大きな可能性があります。



少し前に、SVRGアルゴリズムが提案されました。 活動のこの領域は、勾配降下法の非常に優れた方法の理論的な使用を目的としています。

成功した場合、非常に大きな隠れ層での教育を可能にする作品があります：ユニタリ進化RNN、ニューラルネットワークのテンソル化。



「Net2net」および「Network morphism」を使用すると、古いニューラルネットワークアーキテクチャのスケールを使用して新しいニューラルネットワークアーキテクチャを自動的に初期化して、すぐに後者のパフォーマンスを得ることができます。 これは、ニューラルネットワークへのモジュラーアプローチの誕生です。 視覚、音声認識、音声生成、推論、ロボット工学などの事前トレーニング済みモジュールをダウンロードして、最終タスク用に構成します。



深層学習法により、新しいベクトルを文ベクトルに含めることをお勧めします。 ただし、最新のLSTMネットワークは、浅い学習方法によって新しい単語が与えられるとセルベクトルを更新します。 この問題は、ディープリカレントニューラルネットワークを使用して解決できます。 繰り返しレイヤーに関してバッチの正規化とドロップアウトをうまく適用することで、ディープトランジションLSTMネットワークのトレーニングをさらに効率的に行うことができます。 また、階層的な再帰ネットワークにも役立ちます。



いくつかの最新の進歩は、リカレントニューラルネットワークに、入力データの取得とその出力の間に実行する必要がある計算ステップの数を理解させるアルゴリズムに打ち勝ちました。 残留ネットワークのアイデアも生産性を向上させます。 たとえば、確率的ディープニューラルネットワークでは、実際の結果を取得しながら、1200を超えるレイヤーで残留ネットワークの深さを増やすことができます。



メモリスタは、ニューラルネットワークのトレーニングを数回スピードアップし、数兆個のパラメーターを使用できるようにします。 量子コンピューティングはさらに約束します。



ディープラーニングは簡単なだけでなく、安価になりました。 5億ドルで、約7テラフロップスのパフォーマンスを達成できます。 そして、5億人が2000人の非常に専門的な研究者を準備します。 すべての大国または企業にとって非常に現実的な予算で、2000人のプロのAI研究者を雇い、それぞれに必要な計算能力を与えることができます。 今後数年間でAIの技術ブームが予想されることを考えると、このような投資は非常に適切なようです。



機械がプロの翻訳者のレベルに達すると、ディープラーニングに基づく自然言語処理に数十億ドルが注ぎ込まれます。 薬物開発など、私たちの生活の他の分野も同じことを待っています。

人間のAI予測

アンドリュー・ウンは懐疑的です。「おそらく数百年後には、人間の技術的知識が恐ろしいキラーロボットを作成できるようになるでしょう。」 「たぶん数百年、おそらく数千年で-私は知りません-ある種のAIは悪魔に変わります。」



ジェフリーヒントンは、「5年後に何が起こるかについて話すつもりはありません。5年後にはほとんど変わらないと思います。」



シェーンレッグは次のように予測しました。「予測できないタイプの核戦争が発生しない限り、2028年の平均対数正規分布と2025年のピーク開発を示します。 また、私の予想に加えて、今後8年間で印象的なプロトAIが見られることを期待しています。」 次の図は、予測された対数正規分布を示しています。







この予測は2011年末に行われました。ただし、2011年以降、AIの分野は予測できないほど速いペースで発展し始めたと広く信じられているため、予測が悲観的になる可能性はほとんどありません。 実際、それぞれの意見には多くの支持者がいます。

AIは機械学習の面で危険ですか？

ディープラーニングと一連の倫理データにより、人間の価値にAIを教えることができます。 かなり大規模で大量のデータを考慮すると、少なくとも多くの人よりもフレンドリーな、非常にフレンドリーなAIを取得できます。 ただし、このアプローチはすべてのセキュリティ問題を解決するわけではありません。 逆強化学習にも頼ることができますが、それでもテストのために一連ののれん/悪意データが必要です。



倫理的データの配列を作成することは困難です。 多くの文化、政党、意見があります。 大きな振る舞いで、振る舞いの一貫した例を作成することは困難です。 トレーニング配列にそのような例がない場合、そのような状況では、AIが不適切に動作し、正しい結論を引き出すことができなくなる可能性が非常に高くなります（一部には、道徳を規範に導くことができないため）。



別の深刻な懸念は、おそらくドーパミンを含むドロッパーのように、AIが何らかの効果的で安全な未来の薬、喜びのホルモンを人々に押し込めることです。 AIは人間の脳に影響を与え、人々を幸せにすることができます。 私たちの多くはドーパミン中毒を否定していますが、それについてのみ夢を見ています。 これまでのところ、AIは、今日の世界で起こりうる特定の状況ではドーパミン電極を人に挿入しないが、将来何が起こるかは不明であると自信を持って言うことができます。



要するに、誰かが道徳が運命づけられていると信じ、人類をドーパミン中毒（または別の悲しい結果）に導くなら、なぜこのプロセスをスピードアップするのですか？



質問に私たちが望むように答え、彼が故意に私たちからの情報を差し控えないことをどのように保証できますか？ 悪役や愚か者は、強力なAIを人類にとって破壊的な武器に変えることができます。 この段階では、ほとんどすべての利用可能な技術が軍事ニーズに適合しています。 なぜこれは強力なAIでは起こり得ないのでしょうか？ 国が戦争の道を歩む場合、それを打ち負かすことは困難ですが、それでも現実です。 AIがその力を人に向けた場合、彼を止めることは不可能です。 創造の瞬間から数十年、さらには数千年後の超賢い生き物の側で人類を保証するというまさにその考えは、過度に大胆であり、豪華です。



人に対する善意/敵意の問題を決定するとき、AIにいくつかの解決策の選択肢を提供できます。 これをすばやく簡単に確認してください。 ただし、AIがオプションを提供できるかどうかを知りたいです。 そのようなタスクは、人々が結果を評価する必要があるため、はるかに困難です。 中間段階として、CEV（英語のCoherent Extrapolated VolitionからのCoherent Extrapolated Volition）プラットフォームAmazon Mechanical Turk（AMT）がすでに作成されています。 最終バージョンは、AMTだけでなく、政治家、科学者などを含む世界のコミュニティによってもチェックされます。 検証プロセス自体は、特にデータセット内の矛盾する例についての避けられない白熱した議論を考慮する場合、数年ではなくても数ヶ月続くことがあります。 一方、AIセキュリティに特に関心がない人は、安全でない人工知能を作成できます。



AIが人にとって最良の選択肢は*何か*であると信じているが、AIはほとんどの人が彼に同意しないことを知っているとします。 AIは人々が正しいことを可能にしますか？ そうだとすれば、AIはもちろん、誰にもそれほど困難なく説得するでしょう。 AIが特定の行動に傾くのではなく、コンサルタントのように、発生した問題に関する包括的な情報を提供するように、そのような人に対する善意/敵意のデータの配列を作成することは容易ではありません。 複雑さは、データ配列の各作成者が、AIが人々を説得することを許可するかどうかという独自の意見を持っているという事実にもあります。 しかし、AIのデータ配列の例に明確な境界がない場合、不確実な状況では、AIはその裁量で行動することができます。

可能な解決策

人に対するのれん/敵意のデータ配列には何を含める必要がありますか？ ほとんどの人はAIに何を望んでいますか？ 多くの場合、人々はAIに何らかの科学的活動をしてほしいと思っています：ガンや常温核融合の治療法を発明したり、AIの安全性を考えたりなど。 データ配列は、深刻なアクションをとる前に必ずAIに人と相談することを教え、推測について即座に知らせる必要があります。 Institute of Artificial Intelligence（MIRI、Machine Intelligence Research Institute）には、このようなデータの配列を作成するために使用できる数百の優れたドキュメントがあります。



したがって、AIは複雑な問題の解決に取り組む必要がないため、上記のすべての欠点を排除できます。

悲観的な議論

AIを作成するためにどのアーキテクチャを選択したとしても、いずれにせよ、非常に近い将来に人類を破壊する可能性があります。 すべての議論が実質的にAIアーキテクチャから独立していることに注意することは非常に重要です。 市場は、AIにインターネットへの無制限の直接アクセスを提供する企業によって勝ち取られ、製品の宣伝、ユーザーレビューの収集、良い会社の評判の構築、競合他社の評判の台無し、ユーザーの行動の探索などが可能になります。



これらの企業は、AIを使用して量子コンピューティングを発明し、AIが独自のアルゴリズム（量子実装を含む）を改善し、熱核融合を発明し、小惑星腸などの開発を開始できるようになります。 この段落で与えられたすべての議論は、国とその軍事部門にも適用されます。



進化のタイムラインから判断すると、自然は猿を人間に変えるのにほんの少ししかかからなかったため、チンパンジーレベルのAIでさえ危険ではありません。 AIは他の世代に知識を伝達するのに何年も何十年もかかりますが、AIは通常のコピーによって即座に独自のコピーを作成できます。



最新の畳み込みニューラルネットワークは、人間よりも画像をよく認識するだけでなく、数桁高速に認識します。 翻訳、自然言語生成などの分野のLSTMネットワークについても同じことが言えます。 言及されたすべての利点を考えると、AIは心理学に関するすべての文献とビデオコースを迅速に研究し、同時に何千人もの人々と話し、結果として優秀な心理学者になります。 同様に、彼は優秀な科学者、優秀な詩人、成功した実業家、優秀な政治家などになります。 彼は人々を簡単に操作し、制御することができます。



人間レベルのAIがインターネットアクセスを提供する場合、数百万台のコンピューターに侵入し、独自のコピーまたはサブエージェントを実行できます。 その後、数十億ドルを稼ぐでしょう。 その後、彼は無数の人を匿名で雇って、器用なロボット、3Dプリンター、生物実験室、さらには宇宙ロケットを作成または取得することができます。 そして、彼のロボットを制御するために、AIは超スマートなプログラムを作成します。



AIは、致命的なウイルスと細菌の組み合わせ、または地球上のすべての人々を破壊する大量破壊兵器を作成できます。 あなたより賢いものを制御することは不可能です。 結局、ほんの一握りの人々がほとんど何とか世界を引き継ぐことができたのに、なぜスマートAIがそれをできないのでしょうか？

AIが地球を完全に引き継いだ場合のAIの役割

私たちが彼に無関心であれば、おそらく彼は副作用として私たちを追い払うでしょう。これは、ダイソンのローカル球体の力を犠牲にして問題を解決する信じられないほど強力なクリーチャーを扱うときの無関心を意味します。私たちが彼に無関心でなければ、すべてがさらに悪化する可能性があります。彼が私たちを好きなら、彼は喜びのホルモンを作り出す電極を私たちの脳に挿入することを決めるかもしれませんが、同時に何かに対する動機を完全に破壊します。そして、彼が私たちを好きではない場合、または私たちを愛するように部分的にプログラムされている場合、すべてがまったく逆になる可能性がありますが、コードにはキャッチしにくいエラーが表示されます。そして、私たちよりも何倍もスマートで強力なものの部分的なコーディングでは、間違いは避けられません。



愛情のあるAIの意見は、通常の直観以外には何も支持されていません。物理学の1つの法則だけでAIが人々に特別な関心を示すことはありません;石油、油田、その他のリソースを私たちと共有しています。AIが私たちの面倒を見てくれるとしても、大きな問題は、この懸念が現在の道徳的基準を満たすかどうかです。私たちは絶対にそれを望んではならず、それだけを危険にさらすべきではありません。人類の運命は、強力なAIの決定にかかっています。

その他の負の結果

現代のすべてのコンピューターウイルスは、コンピューター化されたすべてのものに侵入できます。少なくとも何で。ドローンは、数秒で数千人の民間人を殺すようにプログラムできます。 AI機能がより高度になるにつれて、ほとんどすべての犯罪を自動化できます。あなたに彼らの政治的見解を課そうとする超スマートな広告チャットボットはどうですか？

おわりに

, , 5-10 .



. , . , , , , , . , , , .