私は定期的に、Accelerandoを読んだ後に、私が一種の外向性の火を吐くファンであることを示唆する人々から手紙を受け取ります。特異性の不可避性と、オタクの完全な賞賛への意識のデジタル形式への変換を確信しています。 私はそれが少し悲しいと思います、おそらくそれはすべてのポイントをiに置いて、私が本当に思うことを説明する時です。
ショートバージョン： サンタクロースは存在しません 。
ロングバージョン：
あなたは、 ロード意識に関するハンス・モラベックの概念に精通した、将来の技術的特異性に関するヴァーナー・ヴィンゲのエッセイ （1993）を読み、ニック・ボストロムのシミュレーションに関する議論を知っていると思います。 そうでない場合は、今すぐ読むのをやめて、続行する前にこれらの概念を確認してください。 それ以外の場合は、ポストヒューマニズムは言うまでもなく、特異性に基づいたサイエンスフィクションの分野全体の基礎となる基盤が表示されないためです。 また、外向性の概念に精通し、 ポストヒューマニズムに関するFAQを読むといいでしょう。そうしないと、ポストヒューマニズムが持つ重要な社会的使命を見逃してしまいます。
（ところで、私は90年代の初めから目に見えてオンラインディスカッションに参加していましたが、私は外向性ではありません。私は間違いなくリバータリアンではありません。経済リバタリアニズムは合理的な経済的対象と同じ人々の限定された見解に基づいています19世紀の古典的な経済理論は、人間の行動を根本的に単純化しすぎています。共産主義のように、リバタリアニズムは、誤った仮定に基づいた人間の行動の表面的に包括的な理論です。 このモデルが実装されている場合、最大は、それは）失敗する、またはポスト産業封建制度のhellishly不快な状態のいずれかにつながります。
何らかの方法で...
将来、人間に劣らない人工知能が事実上の神の機能をすぐに引き継ぐ特異性をもたらす技術の急増がないことを証明することはできません。 また、意識のデジタル化が不可能であることや、私たちが子孫の歴史的な「マトリックス」に住んでいないことも証明できません。 これらすべてのことから、誰もまだ生き返らせようとしていない非常に複雑な出来事の不可能性を証明する必要があります。
ただし、これらのイベントの確率についていくつかの仮定を立てることができますが、その可能性は大きくありません。
最初に：奇抜なAIは、Vingeプログラムに従うと、人間レベルのAIの漸進的な発達から出現するはずがありませんが、人間レベルのAIは出現する可能性が低いため、ありそうにありません。 その理由は、人間の心は人間の心理学から派生した現象だからです。 理由がなんとか進化のフィルターを克服することができたのは、それがどういうわけか人間の生存を助けたからです。それがその主な仕事であり、その発生と存在の理由でした。 霊長類の生存を改善することは、機械にとっても、そのような機械の使用から利益を得たい人々にとっても、適切な作業ではありません。 欲求を理解して対応できるマシンが必要な場合がありますが、30％の時間スリープしたい、怠け者であるか感情的に不安定であり、独自の欲求もあるデジタルシステムは好きではありません。
（私は、人工知能の倫理的状況に関する問題について話しているのではありません。インテリジェントライフが自己認識の存在によって決定されると考えている場合、合理的なAIを作成する前に、どのような権利があるかを尋ねる必要がありますか？ソフトウェアプロセスを終了するのは殺人ですか？ 「意識」があるということですか？進化の結果として意識を獲得するソフトウェアコンポーネントを改善するために、遺伝的アルゴリズムの使用をジェノサイドとみなすことができますか？一部には強力なタブーがあります ライ麦もの - おそらく彼らは今、人間の胚の研究であるとして、おそらく社会は自律的な理由の起源の境界状態の分野の研究を禁止することが容易になります...偶然人自身によって同じ非人道的な治療のためにドアを開けないように過剰規制同じにすると、法律により制限されます。..
人間の仕事をする車が明らかに好きになるでしょう。 私たちはコンピューターに自分の言語や欲求を認識させ、半分のヒントから彼らのタスクを理解してもらい、最小の詳細を示すコマンドのリストの形で詳細な指示を必要としないようにします。 しかし、彼らに意識と意志を持たせたいかどうかは、まったく異なる質問です。 個人的には、私が自動運転車に私たちが今日行きたい場所について議論することは望ましくありません。 ロボットの主婦が常にテレビの前に座って、コンタクトスポーツやミュージックビデオを見ることは望ましくありません。 確かに、放棄されたソフトウェアプロジェクトの保守費用を裁判所で支払うことを強制されたくはありません。
Karl Schroederは、私がルール34で使用したAIアイデンティティ問題の興味深い解決策を提案しました。 意識は、人格の内部状態の再帰モデリングのメカニズムに似ています。 ほとんどの人にとって、それは本人自身に反映されていますが、深刻な神経学的損傷（癌または負傷による）のある人は意識を外部の物体に投影します。 あるいは、体が物理的に生きて機能していることに気付いたとしても、彼らが死んでいることを確信することができます。
意識の主題が基本的に意識のプラットフォームに結び付けられていないが、任意にリダイレクトできる場合、この場合、AIを、それが結び付けられている人のニーズのみに集中するように強制することができます-言い換えれば、自己認識の感覚は私たちではなく私たちを表しています。 彼らは、彼ら自身の態度と対立することなく、彼らのものとして私たちの欲望を表しています。 このようなAIは、共生している人の人生を誤って危険にさらす可能性がありますが、普通の人の自殺のリスクと同じくらいです。 そして、そのような機械が他の動機付けパラメーターでより高いレベルの知性に到達しようとする可能性は、右手が突然オートバイに変わり、あなたなしで世界を研究する可能性にすぎません。
意識のデジタル化（アップロード）... 魂と身体の二元論を信じていなければ、意識と物質（身体）が補完的で価値のある2つの物質であると考えると、明らかに不可能とは言えません。 しかし、将来これに近づくと、激しい神学的論争が予想されます。 妊娠中絶をめぐる国民的議論が熱烈すぎると思われる場合は、不滅のデジタルディスカッションが始まるのを待ちます。 意識のデジタル化は、不滅の魂の存在というテーゼと間接的に矛盾するため、死後の人生を説く宗教の反論の材料となります。 死後の人生を信じる人々は、彼らの亡くなった愛する人たちが意識を失うまで天国にあり、地球では腐っていないという教義を擁護します。
しかし、意識のデジタル化が可能になり、いつかは始まったとしても、ハンス・モラベックが述べたように 、「宇宙の研究と植民地化は私たちを待っていますが、地球に慣れている人々はそのような仕事にあまり適応していません...宇宙の住民のほとんどがコンピュータネットワークにデジタル化されたと想像してください-サイバースペース-そのようなプログラムがデジタル化された人間とそれに付随する人体のエミュレーションと並んで住むことができる場所。 人はそのような世界ではほとんど成功しません。 急いで発見や取引を行い、必要に応じて新しい形式でデータを受信するように再構成するエレガントなAIデザインとは異なり、深海スーツのダイバーがぎこちなく回転するように、身体シミュレーションで骨化した人間の心はこれしか見ることができませんアクロバットイルカのグループの中で。 データの世界との各相互作用は、まず私たちの準物理的な存在がそれを知覚するためにアナログ形式に変換する必要があります...そのような操作は、ビジネスコストを増加させるだけでなく、物理シミュレーションをデジタル化された人の脳の精神的抽象化に減らす機器のコストを増加させます 人の感覚を使ってユニークな芸術作品を作成することでニッチを見つけることができる人もいますが、インターフェイスを最適化する必要がある人もいます（「Cigles in Cyberspace」、1993）。
私たちのタイプの意識は、進化の結果として現れ、それは生物学的環境の条件によって決定されました。 私たちは無形の生き物として存在することに適応しておらず、エドワード・ウィルソンのバイオフィリアの仮説を私たちのリスクで無視することはできません。 意識のデジタル化の最も難しい部分は、意識そのものではなく、身体と外界との相互作用であると強く疑っています。
シミュレーションの議論に目を向ける：私も、それに反論することはできません。 そして彼は、歴史的なシミュレーターの作成に関連する倫理的問題が無視されている限り、無神論者でさえ死後の世界を約束するので、深い魅力的な側面を持っています。 （意識的な参加者がジェノサイドの行為に参加している場合、全世界とその住民のコンピューター「マトリックス」の作成はジェノサイドとみなすことができますか？）。 歴史的シミュレーターを作成する機会を得るすべての人が人々を彼のように原始的にし始めるだろうという漠然とした疑念を除けば、この概念はポストモダンのハイテク宗教の良い基盤になるでしょう。 残念ながら、少なくともこの仮説的な「マトリックス」（つまり、私たち）の集団にとって、それは改ざんできない仮説として認識される可能性があります。
だから、結論...
これが特異性に対する私の見解です。AIの出現に関連して、高速離陸も低速も、いかなる指数関数的成長も私たちを待っていません。 私たちを待っているのは、私たちの環境を決定するますます役立つマシン、つまり「合理的に」私たちのニーズを感じて対応するマシンです。 しかし、これは司令官ではなく、使用人の合理性であり、私たちに対する脅威は、自己破壊への私たち自身の衝動のためにのみ生じる可能性があります。
いつか意識のデジタル化が見られるかもしれませんが、本当の聖戦はこのデジタル化が大衆に到達する前に始まります。結局、これは実際に宗教の革命です。 これは特異点になる可能性がありますが 、 Nozikのプレジャーマシンで実験を開始した後でも、これらの快感を本当に得ることができるかどうかはわかりません。生まれつきの生物愛好家は私たちを現実の世界やそのような「マトリックス」モデルに引き戻すでしょう、これは現実の世界と見分けがつきません。
結局、「マトリックス」仮説は、哲学者の快楽的な精神実験ではなくサイバネティック履歴シミュレーターに既に住んでいる場合、シミュレーターを超えて「本当の」現実を理解できないかもしれないという仮定に基づいています。 実際、これとその現実の間に通路はありません。 いずれにせよ、ここでは、歴史的なシミュレーターの設計者が、死後も私たちを生き残らせるほど親切になるまで、何も証明することができません。
したがって、トリミングされた形式では、これらの3つのアイデアは、特に真実または不可能であることが判明した場合（帰無仮説）、幸福な未来への希望に十分な根拠を提供しません。 したがって、これらの仮説を除外しなくても、これらの仮説が私の人生を通じて現実になると仮定するのは不合理です。
私は計算神学になりました。 今飲むことができると思います！
著者について：チャールズストラウスは、英国のSF作家です。 Hugo（2005、2010）、Locus（2006、2007）、Sidewise（2006）、Prometheus（2007）、Skylark（2008）の受賞者。 彼は医薬品と情報技術の学位を持っています。
特異点に対する3つの議論
All Articles