人工知能と話す方法は？

スティーブン・ウルフラムによる投稿「 AIとの対話方法 」の翻訳

出版物の翻訳と準備にご協力いただいたPolina Sologubに感謝します。

---

内容

- コンピューティングは力

- 計算思考の言語

-AIを理解する

-AIは何をしますか？

-AIの目標を設定する

- あるAIと別のAIの会話

- 情報の収集：10億年のレビュー

「 しかし、誰もがコードを書くことができたらどうでしょう？」

- それは本当に機能しますか？

- 私はもっ​​と言います

---

最近では、英語で質問に答えることができるコンピューターを持つというアイデアは、サイエンスフィクションのように思えました。 しかし、2009年にWolfram | Alphaをリリースしたとき、最大の驚きの1つは（少なくとも私にとっては！）製品を本当に機能させることができたことでした。 そして今、人々は個人的なアシスタントに無数の質問を平易な話し言葉で毎日尋ねています。







これはすべて非常にうまく機能します（ただし、私たちは常により良いことを試みます ！）。 しかし、もっと複雑なことはどうですか？ 人工知能と通信する方法は？



哲学、言語学、神経学、コンピューターサイエンス、その他の知識分野を組み合わせようとして、長い間考えていました。 そして、答えはいつも私の鼻の前にあることに気付きました。そして、それは私が過去30年間扱っていたエリア、 Wolfram言語にありました 。



たぶん、これはあなたがハンマーを持っていて、周りに釘しか見えない場合です。 私はこれが唯一のケースではないことを確信していますが。 少なくとも、この質問を通して考えることは、人工知能と人との関係についてよりよく理解する良い方法です。

コンピューティングは力

最初の重要なポイント（基礎科学で一連の発見をして初めて明らかになった点）は、コンピューティングが非常に強力なものであり、小さなプログラム（セルオートマトンやニューラルネットワークなど）でも動作できることです。 信じられないほど複雑な方法。 そして、AIはそれを使用できます。







このような写真を見ると、悲観論者になるのは簡単です。 すべてが複雑すぎます。 最後に、脳が処理できるものと、脳が実行できる計算との間に橋を架けることを期待しなければなりません。 そして、私はこれをこのように見ていませんでしたが、本質的に、これはまさにWolfram言語を開発するときに私が長年やろうとしていたことです。

計算思考言語

FindShortestTour 、 ImageIdentify、 Predictなど、人々が使用するコンピューティングの「チャンク」を定義する上での私の役割を見ました。 従来のコンピューター言語は、低レベルの構造に焦点を合わせてきました。 しかし、Wolfram言語では、私たちは人間が理解していると言って始め、言語でこの「理解された」ことをできるだけ多く捉えようとしました。



初期の頃は、主にかなり抽象的な概念を扱っていました。たとえば、数学や論理、または抽象的なネットワークについてです。 しかし、Wolfram | Alphaに密接に関連した近年の最大の成果の1つは、私たちの世界に存在する無数の種類の現実のもの（都市、映画、動物など）を包含することで構造を拡大できたことです。



疑問に思うかもしれません： なぜこれらすべてのために言語を発明するのですか？ 英語を使うだけではどうですか？ 「 ホットピンク 」、「 ニューヨーク 」、「 Pl王星の月 」などの特定の概念の場合、英語は非常に優れています（このような場合、Wolfram言語では英語のみを使用できます）。 しかし、もっと複雑なことを説明しようとすると、話された英語はすぐに扱いにくくなります。



たとえば、かなり単純なアルゴリズムプログラムの記述を想像してください。 チューリングスタイルの会話はすぐに失望します。







しかし、Wolfram言語はそのような問題を解決するために特別に構築されています。 人々が簡単に理解できるように作成され、人間の思考の特性を考慮しています。 また、複雑な要素を一緒に組み立てることができる構造になっています。 そして、もちろん、人々だけでなく、機械もそれを簡単に理解できます。



長年にわたり、私は英語とWolfram言語の混合語で考え、話しました。 例えば、もし英語で何かを言うなら、Wolfram言語コードを使って自分の考えの続きをタイプし始めることができます。

AIの理解

しかし、AIに戻りましょう。 コンピューティングの歴史のほとんどで、プログラマーがすべてのコード行を作成し、各行が何を担当しているか（エラーを除く）を理解するプログラムを作成しました。 ただし、AIレベルを達成するには、より強力なコンピューティングが必要です。 この道に従うことは、人々が書くことができるプログラムを超えて、可能なプログラムの範囲を広げることを意味します。



これは、 MathematicaおよびWolfram言語システムで長い間使用されてきたアルゴリズムの一種の自動化により 、 機械学習または可能性のあるプログラムのコンピューティングユニバースでの検索を通じて行うことができます。 ただし、これらのプログラムには1つの特徴があります。 人々が理解する理由はありません 。







あるレベルでは、これは驚くべきことです。 プログラムが内部からどのように機能するのか、または何ができるのかはわかりません。 しかし、彼らは複雑な計算を行っており、ある意味では分析するには複雑すぎることを知っています。



しかし、いくつかの場所で同じことが起こります。 私たちは自然界について話しているのです 。 液体のダイナミクスを注意深く見るか、 生物学に目を向けると、自然界ではすべてのレベルの複雑さが表現されていることがわかります。 実際、基礎科学から生まれた計算的等価性の原理は、この複雑さが、ある意味で、コンピューティングシステムで生じる可能性のあるものとまったく同じであることを意味します。



何世紀にもわたって、私たちは理解できる自然界の側面を特定し、それらを使用して有用な技術を生み出してきました。 そして、プログラミングに対する従来のエンジニアリングアプローチは、ほぼ同じように機能します。



しかし、AIの場合は、コンピューティングユニバース内にある荒れ果てた道を離れなければならず、（自然界のように）理解できない現象に対処する必要があります。

AIは何をしますか？

インテリジェンスに関連するすべてを実行できる完璧なAIがあることを想像してみましょう。 多分彼は多くのIoTセンサーから入力を受け取るでしょう。 その中で、あらゆる種類の計算が実行されます。 しかし、彼は最終的に何をしようとしますか？ 彼の目的は何でしょうか？



ポイントは、何千年もの間議論されてきた問題に関連するかなり深い哲学を掘り下げることですが、それは最終的にAIとの相互作用においてのみ真の意味を獲得します。



AIがより複雑になると、最終的にはある種の抽象的な目標を追求すると考えるかもしれません。 しかし、それは意味がありません。 実際には、数学的にも計算によっても、純粋に形式的に推定される抽象的な絶対目標などは存在しないためです。 目標は、人との関係でのみ決定され、特定の歴史と文化と相関しています。



人間の目標に関係しない「 抽象AI 」は、単に計算を続けます。 そして、ほとんどのセルオートマトンとほとんどの自然なシステムの場合と同様に、この計算の特定の目的を決定することはできません。

AIの目標を設定する

テクノロジーは常に物事の自動化であるため、人々は目標を設定でき、テクノロジーを使用してこれらの目標を自動的に達成できます。



ほとんどの場合、これらの技術は厳しく制限されていたため、説明は難しくありません。 しかし、一般的なコンピューティングシステムの場合、それらは完全に任意です。 したがって、タスクはそれらを記述することです。



AIをどのように伝えますか、彼に何をしてほしいですか？ いずれの場合も、AIが何をすべきかを正確に定式化することはできません。 AIによって実行される計算が、従来のソフトウェアのように厳しく制限されている場合、これを行うことができます。 AIをより効率的に機能させるには、コンピューティングユニバースの幅広い部分を使用する必要があります。 その結果、 計算上の既約性の現象に取り組んでいます。つまり、彼がやることすべてを決定することはできません。



それでは、AIの目標を設定する最良の方法は何ですか？ これは難しい質問です。 AIがあなたとあなたの人生を生き、見るものを見たり、あなたとメールを読んだりできるなら、あなたがよく知っている人と同じように、AIに簡単な目標を設定できますそれらを自然言語で発声するだけです。



しかし、より複雑な目標を設定したい場合や、AIがすでによく知っている目標とはほとんど関係のない目標を設定したい場合はどうでしょうか。 この場合、自然言語では十分ではありません。 おそらく、AIは多目的な教育を受けることができます。 ただし、Wolfram言語を使用することをお勧めします。Wolfram言語には、人とAIの両方が使用できる多くの知識が組み込まれています。

あるAIと別のAIの会話

人々がAIと通信する方法について考えることは1つのことです。 しかし、AIはどのように相互に通信するのでしょうか？ 彼らは彼らの知識の文字通りの翻訳を行うことができると仮定することができます。 ただし、2つのAIは異なる「経験」を持ち、使用するアイデアは必然的に異なるため、これは機能しません。



したがって、最終的に、AI（および人々）は、概念を抽象的な方法で表現する記号言語を使用する必要があります（概念の基礎となる表現への特定の参照なし）。



AIはただ英語でコミュニケーションをとるべきだと思うかもしれません。 少なくともそのようにして、それらを理解することができました！ しかし、それは機能しません。 AIは必然的に言語を徐々に拡張する必要があるため、たとえ英語から始めたとしても、すぐにそれを超えてしまうでしょう。



自然言語では、非常に広まっている新しい概念が現れると、新しい単語が追加されます。 時々、新しい概念が世界の新しいものに関連付けられます（「ブログ」、「スマイリー」、「スマートフォン」など）。 これは、既存の概念（「道路」と「高速道路」）の間に新しい違いが出現することが原因である場合があります。



多くの場合、行動や構造の異なるクラスターを明らかにすることにより、物事の間の新しい違いを明らかにするのは科学です。 しかし、実際には、AIは人間よりもはるかに広範囲にこれを行うことができます。 たとえば、 画像識別プロジェクトは 、おなじみの名前を持つ10,000種類のオブジェクトを認識するように設定されています。 彼は実際の画像を訓練し、名前のない多くの違いを発見しましたが、そのおかげで物事をうまく分けることができました。



私はそれを「 言語後概念 」（またはPLEC ）と呼びました 。 そして、これらの概念の階層は絶えず拡大し、AI言語も徐々に成長していくと思います。



しかし、これは英語でどのようにサポートされていますか？ すべての新しい概念は、いくつかのハッシュコード（文字のセットなど）から形成された単語で表すことができると思います。 しかし、構造化されたシンボリック言語（Wolfram言語など）は、より適切なフレームワークを提供します。 彼が言語の単位として単純な「単語」を持っている必要はないので、例のセットのような象徴的な情報の任意の単位はそのような単位になります。



では、AIはWolfram言語で互いに話す必要がありますか？ 理にかなっているように思えます。 構文のエンコード方法（入力フォーム、XML、JSON、バイナリなど）は関係ありません。 より重要なのは、言語に組み込まれている構造とコンテンツです。

情報収集：10億年のレビュー

地球上に生命が存在する何十億年にわたって、情報を伝達するいくつかの異なる方法がありました。 主なものは、ゲノミクスが扱うものです 。 「ハードウェア」レベルで情報を送信します 。 これを行うために、私たちには神経系があり、特に脳は、（たとえば、画像識別プロジェクトから）情報を受け取り、経験から情報を蓄積します。 このメカニズムは、AIに特徴的なものなど、他の多くのものを見て作成するために私たちの体で使用されます。



しかし、ある意味では、このメカニズムは根本的に制限されています。なぜなら、各生物は他とは異なり、各個人は独立して学習プロセス全体を通過する必要があるからです： 1つの世代で受信した情報の単一の単位を次の世代に簡単に転送することはできません 。



しかし、私たちの種は大きな発見をしました： 自然言語 。 自然言語を使用すると、学習した情報を取得して抽象的な形式で送信することが可能になります。たとえば、ある世代から別の世代へと送信できます。 しかし、もう1つの問題があります。自然言語が開発されたとき、それはまだ各人が個別に解釈する必要があるからです。







そして、ここでは、計算された知識に基づく言語（Wolfram言語など）の重要性が明らかになります。これは、別個の解釈を必要とせずに、世界に関する概念や事実を交換する機能を提供するためです。



人間の言語の発明が文明と私たちの現代世界の出現につながったと言っても過言ではないでしょう。 それでは、知識に基づいた言語を持ち、抽象的な概念だけでなく、それらを導き出す方法を含む言語を持つことの結果はどうなるのでしょうか？



1つのオプションは、文明をAIで記述することです-それが何であろうと。 そしておそらくこれは、私たち人間（少なくとも現在の状態では）が理解できるものとはかけ離れているでしょう。 良いニュースは、少なくともWolfram言語の場合、計算された知識に基づいた正確な言語は人間には理解できないということです。 人と車の架け橋になります。

しかし、誰もがコードを書くことができたらどうでしょうか？

だから、（自然言語に加えて）Wolfram言語のような言語がどこでも使われている世界を想像してみましょう。 もちろん、そのような言語は、マシン間の通信にはるかに頻繁に使用されます。 しかし、彼は人間と機械の間のコミュニケーションの支配的な形態になる可能性があります。



現代の世界では、コンピューターコードを作成できるのはごく一部の人だけです。ちょうど500年前と同様、自然言語で作成できるのはごく一部の人だけです。 しかし、コンピューターリテラシーが急激に上昇し、その結果、ほとんどの人が知識ベースのコードを書くことができるとしたらどうでしょうか。



現代社会の多くの特徴の形成に貢献したのは自然言語でした。 知識ベースのコードはどのような機会を提供しますか？ 最も異なる。 今日、あなたは料理の選択のためにレストランでメニューを得ることができます。 しかし、人々がコードを読むことができる場合は、各オプションのコードを作成して、好みに簡単に変更を加えることができます（実際、Wolfram言語コードを使用して、このようなことがすぐに可能になります（Emerald Cloud Lab）生物学および化学の実験室実験）。 コードを読むことができる人にとっての別の結果： 平文を書く代わりに、人と車の両方で使用できるコードを書くことができます 。



多くの人が何かを新しい方法で表現できるようになるだけでなく、それについて考える新しい方法を与えるため、知識ベースのプログラミングに関する広範なリテラシーの結果はより深くなると思います。

これは本当に機能しますか？

良い：Wolfram言語を使用してAIと通信したいとしましょう。 これでうまくいきますか？ Wolfram | Alphaとそのシステム内では、自然言語で定式化された質問がWolfram言語コードに変換されるため、このオプションは既に実装されています。



しかし、人工知能のより複雑なアプリケーションについてはどうでしょうか？ Wolfram言語が使用される多くの場合、AIの例を扱っています-画像、データ、または文字構造で実行される計算であるかどうか。 計算には、目標を特定できるアルゴリズム（ FindShortestTour ）が含まれることがあります。 目標の精度が低い場合があります（ ImageIdentify ）。 計算は、「 何をする必要がある か 」、「 何を 見つける必要がある か 」、「 何を努力するか 」などの形で提示されることがあります。



Wolfram言語に世界を導入する上で長い道のりを歩んできました。 ただし、さらに行う必要があります。 17世紀には早くも、想像できるすべてのものの本質を何らかの形で象徴的に反映する「 哲学的言語 」を作成する試みがなされました。 次に、このような言語を実際に作成する必要があります。 この場合、発生する可能性のあるすべてのタイプのアクションとプロセス、および人々の信念やさまざまな精神状態などの現象をカバーする必要があります。 私たちのAIがより洗練され、私たちの生活に統合されるにつれて、そのようなものを導入することは重要なステップです。



一部のタスクとアクティビティでは、純粋に機械学習を使用しないことは確かであり、中間構造や言語を構築する必要はありません。 しかし、自然言語は私たちの種の成長に不可欠であるため、抽象言語の知識はAIの進歩にとって重要になります。



どのように見えるかはわかりませんが、AIによって作成された何らかの純粋に創発的な言語を使用することを想像できます。 しかし、この場合、人間にはAIが何をするのかを理解する機会がありません。 しかし、Wolfram言語の場合、私たちには橋があります。それは、人とAIの両方に適した言語です。

もっと言います

言語とコンピューティング、人、AIの関係については、さらに多くのことが言えます。 たぶんそれについて本を書くべきです。 しかし現在のところ、私の目標は、現在の視点の概要を明らかにすることです。特に、Wolfram言語を人間とAIの間の架け橋として考えていることです。



自然な、または伝統的なコンピューター言語の助けを借りて、AIとはほとんど通信しません。 しかし、Wolfram言語にはもっと多くの選択肢があることを理解しています。 このような言語は、自然な人間の言語と人間の知識に基づいています。 これは、人々が理解するようなAIとの接続を維持するために必要です。 すでに私が話していたことの例をいくつか見てきました...しかし、あなたはさらに多くのことをする必要があります、そして私たちが本当に必要なものを構築し、それについて書く時が来るのを楽しみにしています...