技術的特異点の発生の前提条件は、「強力な人工知能」（人工スーパーインテリジェンス、ASI）の作成であり、それ自体で独立して変更できます。 このAIが人間の心として機能するかどうか、または少なくともそのプラットフォームを脳と同様に構築する必要があるかどうかを理解することが重要ですか？
動物（人間を含む）の脳とコンピューターの働きは異なります。 脳は巨大なデータ配列の並列処理のために「シャープ化」された3次元ネットワークですが、現在のコンピューターは脳よりも数百万倍高速ですが、情報を線形に処理します。 マイクロプロセッサは、人間の脳の能力をはるかに超える速度と効率で驚くべき計算を実行できますが、情報処理にはまったく異なるアプローチを使用します。 しかし、従来のプロセッサは、複雑な多要素問題の解決やパターン認識などに必要な大量のデータの並列処理ではあまりうまくいきません。
現在開発中の神経形態学的微小回路は、特にニューラルネットワークを使用して、動物の脳と同様に情報を並行して処理するように設計されています。 おそらく、ニューロモーフィックコンピューターは光学技術を使用するため、数兆個の同時計算が可能になり、人間の脳全体を多少なりとも正確にシミュレートできます。
欧州連合、スイス政府、およびIBMが資金を提供するBlue Brain ProjectとHuman Brain Projectは 、ニューロンの生物学的に現実的なモデリングを使用して、人間の脳の機能に関する本格的なコンピューターモデルを構築するタスクを設定します。 Human Brain Projectは、2016年までに人間の脳の機能モデリングを達成することを目指しています。
一方、 ニューロモーフィックチップを使用すると、コンピューターは「感覚器官」からのデータを処理し、パターンを検出および予測し、自分の経験から学習することができます。 これは、人工知能の分野での大きな前進であり、本格的な強力なAIの作成に著しく近づきます。 人が理論的に解決できる問題をうまく解決できるコンピューター。
人のように見えて動作しますが、はるかに速く学習し、Homo Sapiensよりもほぼすべてのタスクを実行できるヒューマノイドロボット内のAIを想像してください。 これらのロボットは、プログラミング方法に応じて、自己認識や感情を持ちます。 ワーカーロボットはすべて役に立たないが、私たちと一緒に暮らし、子供、病人、高齢者の世話をする「ソーシャル」ロボットはどうだろうか？ もちろん、彼らが私たちと完全にコミュニケーションをとることができれば素晴らしいと思います。 彼らが私たちのような意識と感情を持っていたら？ スパイクジョーンズの映画「Her」（Her）のAIに少し似ています。
そんなに遠くない将来、おそらく20年も経たないうちに、そのようなロボットはほとんどすべての仕事で人を置き換えることができ、人々が望む方法で時間を過ごすことができる豊かな社会を作り出します。 この現実では、高級ロボットが経済を動かします。 食料、エネルギー、およびほとんどの消費財は無料または非常に安くなり、人々は州から毎月の固定給付を受けることになります 。
これはすべて非常に美しいですね。 しかし、人間の心をはるかに超えるAIはどうでしょうか？ 人工知能（ASI）、または強力な人工知能（SRI）、それ自体を学び、改善する能力を持ち、潜在的に最も知的な人々よりも数百万または数十億回賢くなることができますか？ そのような生物の創造は、理論的には技術的な特異点につながる可能性があります。
未来学者のレイ・カーツワイルは、2045年頃に特異点が発生すると考えています。 Kurzweilの批判者の中には、Microsoftの共同設立者であるPaul Allenがいます。彼は、特異点はまだ先のことだと考えています。 アレンは、そのようなコンピューターを構築するためには、まず人間の脳の原理を完全に理解する必要があると考えています。何らかの理由で、これらの研究は、70-90年のデジタルテクノロジーや少し前の医学のように、急激に加速されるべきです。 しかし、実際には、反対に、脳の働きの研究はますます多くの努力を必要とし、実際の結果をより少なくします。彼はこの問題を「複雑さによる抑制」と呼びます。
Paul AllenとRay Kurzweil（ Allenの批判に対する彼の応答 ）の間の紛争に干渉することなく、SRIの作成に人間の脳の働きの完全な理解とシミュレーションが絶対に必要かどうかを議論したいと思います。
地球上の生物界で起こったという理由だけで、知的を含む進化のピークである種として自分を考えることは非常に自然です。 しかし、これは私たちの脳が完璧であることを意味するものではなく、他の高次の精神は他の方法では機能しません。
それどころか、優れた知性を持つエイリアンが存在する場合、彼らの心が私たちと同じように機能することはほとんど信じられません。 進化のプロセスはランダムであり、無数の要因に依存します。たとえ地球と同一の惑星で生命が再現されたとしても、同じように発展し始めることはないため、N億年後には、まったく異なる生物種が観察されます。 大量の二畳紀またはその他の地球規模の絶滅が起こらなかった場合はどうなりますか そこにはいません しかし、これは、他の動物が私たちの代わりに発達した知性に進化しなかったことを意味するものではありません（そして、数百万年のオッズのために、知性がより発達した可能性が高い）。 おそらく、それは完全に異なる脳構造を持つある種の知的タコでしょう。
人間の感情と偏狭さは、私たちと同じように良いものや合理的なものすべてを整えるべきだという考えに私たちを押し付けます。 この考え方の誤りは、擬人化された神々をもつ宗教の発展をもたらしました。 アニミズムや仏教などの原始的または簡略化された宗教は、多くの場合、人間以外の神を持つか、まったく神を持たないかのいずれかです。 より利己的な宗教、多神教または一神教は、通常、神を超人の形で表しています。 しかし、人工的なスーパーマインドを作成するときに同じ間違いをしたくありません。 超人の心は人間の「拡大された」コピーであってはならず、コンピューターは私たちの生物学的脳に似ていてはなりません。
人間の脳は、40億年の進化の素晴らしい結果です。 または、より正確には、進化の大樹の小さな小枝。 鳥は哺乳類よりもはるかに小さな脳を持ち、しばしば非常に愚かな動物と見なされます。 しかし、たとえば、カラスは未就学児程度の心理的スキルを持っています。 彼らは意識的で先を見越した集中的な行動を示し、問題解決スキルを開発し、ツールを使用することさえできます。 そして、これはすべて豆の大きさの脳です。 2004年、ケンブリッジ大学の動物行動学および実験心理学の研究では、カラスは類人猿とほぼ同じくらい賢いことが示されました。
もちろん、意識と自発性の発現のために人間の脳を詳細に繰り返す必要はありません。 インテリジェンスは、脳のサイズ、ニューロンの数、または皮質の複雑さだけでなく、たとえば、脳のサイズと体重の比にも依存します。 したがって、その脳のサイズがチンパンジーの脳に似ている牛は、カラスやネズミよりも鈍いです。
しかし、コンピューターはどうですか？ 実際、コンピューターは「頭脳」にすぎず、身体はありません。 実際、コンピューターがより高速で効率的になると、コンピューターのサイズは増加するのではなく減少する傾向があります。 これは、生物学的な脳とコンピューターを比較すべきではないもう1つの理由です。
Kurzweilがアレンへの答えで説明しているように、人間の脳がどのように機能するかを知ることは、AIの開発における特定の問題を解決する何らかの方法につながるだけですが、これらのタスクのほとんどは、神経生理学者の助けなしで徐々に解決されます。 脳の部分の「特化」は、「プログラミング」ではなく、主に私たち自身の経験の訓練と処理によって行われることをすでに知っています。 例えば、最新のAIシステムは、自身の経験からすでに学習できます。例えば、 IBM Watsonは、自分で本を読んで、彼の「知識」のほとんどを収集しました。
ですから、最初に脳の働きを理解せずに人工的なスーパーマインドを作成することは不可能であると確信する理由はありません。 定義上、コンピューターチップは生化学ニューラルネットワークとは異なる設計であり、マシンは私たちのような感情を決して感じません（ただし、人間の理解を超えた他の感情を経験する可能性があります）。 そして、これらの違いにもかかわらず、コンピューターはすでに自分で知識を習得することができ、人々とは違った方法で学習したとしても、コンピューターを使ったほうがうまくいくでしょう。 そして、彼らに自分自身を改善する機会を与えると、機械自体が非生物学的進化を開始し、超人的な知性、そして最終的に特異性につながる可能性があります。