Yandex.Translationはオフラインです。 コンピューターがどのようにうまく翻訳することを学んだか

本日、iOS用の更新された Yandex.Translation アプリケーションがApp Storeでリリースされました。 今では全文翻訳をオフラインで行うことができます。 機械翻訳は、部屋や床全体を占めるメインフレームから、ポケットに収まるモバイルデバイスに移行しました。 今日、以前は膨大なリソースを必要としていた全文統計機械翻訳が、ネットワーク接続なしでもモバイルデバイスのすべてのユーザーが利用できるようになりました。 人々は長い間「バビロニアの魚」を夢見てきました。これは普段持ち歩けるコンパクトな翻訳者です。 そして、この夢は徐々に実現し始めているようです。 私たちは機会をとらえて、機械翻訳の歴史への小旅行を準備し、この興味深い分野が言語学、数学、コンピューター科学の接点でどのように発展したかについて話し合うことにしました。







「機械はこれをすべて実行します」、「電子脳はロシア語から英語に翻訳します」、「ロボット・ビリングア」などの新聞の見出しは、1954年1月8日の歓喜記者の読者に見られました。 そして前日、1月7日にIBM 701科学コンピューターが有名なジョージタウンの実験に参加し、約60のロシア語のフレーズを英語に翻訳しました。 Seven Hundred and Firstは、250語の辞書と6つの構文規則を使用しました。 そして、もちろん、テストが実施された非常に慎重に選択された提案のセット。 熱心なジャーナリストは、科学者を引用して、数年後には機械翻訳が古典的な「マニュアル」をほぼ完全に置き換えると述べたほど説得力がありました。



ジョージタウンの実験は、機械翻訳の開発における最初のステップの1つ（および自然言語を扱うためのコンピューターの最初のアプリケーションの1つ）でした。 その場合、将来直面する問題の多くはそれほど明白ではありませんでした。 しかし、皮肉なことに、主な問題は、最初からまったく同じであるということでした。最も難しいタスクは、コンピューターがあいまいな単語を扱うことでした。 多かれ少なかれ自然な文章では、システムはほとんど完全にタスクに対処しなくなりました。 このようなシステムの複雑なマルチコンポーネント構造も問題を引き起こしました。たとえば、構文解析が常に正しく機能せず、複合語のギターピック（ピック）が「ギターピック」として翻訳される可能性があります。 あいまいな単語の翻訳も不十分であり、その意味は文脈に依存していました。 たとえば、「リトルジョンは自分のおもちゃ箱を探していました。 最後に彼はそれを見つけました。 箱はペンの中にあり、多くの困難を引き起こしました（そして、それを引き起こし続けています）-「おもちゃ箱」として翻訳されたフレーズ「おもちゃ箱」と「おもちゃ箱」ではなく、「ペンで」 「ペンの中」、ベビーペンの中ではありません。 困難は非常に大きく、その結果、過去12年間にわたってほとんど進歩はありませんでした。 1966年、破壊的なALPACレポート（自動言語処理諮問委員会）は、今後10年間の機械翻訳の分野での研究を終了しました。



その間、ジョージタウンの実験後の気分はまだ非常にバラ色であり、機械翻訳は素晴らしい未来を予測していました。アメリカ人は戦略的な目的で新しい技術を使用することを真剣に考え始めました。 それはソ連で完全に理解されています。 1955年の初め、ソ連科学アカデミーは2つの研究グループを作成しました-V.A. 。Panov）。 両グループはジョージタウン実験の詳細な研究から始まり、1956年にパノフは既にBESMコンピューターで行われた最初の機械翻訳実験の結果を概説したパンフレットを発行しました。 同じ1956年に研究所で同様の研究に関する出版物が続きました。 Steklovは、Olga KulaginaとIgor Melchukによって執筆されました。これは、9月号の「Questions of Linguistics」に掲載されました。 この出版物にはさまざまな紹介記事が添付されていましたが、ここで興味深いことが発見されました：1933年に、エスペラント主義者でTSBの共著者の1人であるピョートルペトロヴィッチトロヤンスキーが、機械翻訳プロジェクトとこの問題について議論するためのリクエストでソ連科学アカデミーに申請したことが判明しましたアカデミーの言語学者と。 科学者はこのアイデアに懐疑的でした。プロジェクトに関する議論は11年続き、その後、トロヤンスキーとのコミュニケーションは突然失われ、彼自身がモスクワを去ったと言われています。



この歴史的な発見は、研究者を驚かせました。 調査が始まりました。 Troyanskyの著作権証明書は、テキストを複数の言語に同時にすばやく翻訳できる「機械化された辞書」で見つけることができました。 リアプノフが本発明に関する報告書を読んだ別の全体会議の後、科学アカデミーはトロヤンスキーの貢献を研究するための特別委員会を設立しました。 数年が経ち、1959年にようやく、「P.P。Troyanskyの翻訳機械：1933年にP.P. Troyanskyによって提案された、ある言語から他の言語への翻訳のための機械に関する資料のコレクション」がI. Kによって発行されました。ベルスキーとD.ユ・パノフ。 まもなく、著作権証明書が発行され、そこからデバイスの非常に独創的な技術的解決策が明らかになりました。







このプロジェクトでは、トロヤンスキーのマシンは傾斜面を備えたテーブルであり、その前にカメラが取り付けられ、タイプライターと組み合わされていました。 タイプライターのキーボードは通常のキーで構成されていたため、形態学的および文法的な情報をエンコードできました。 タイプライターのリボンとカメラのフィルムを互いに接続し、同期して供給する必要がありました。 テーブルの表面には、いわゆる「用語集フィールド」、つまり言葉が印刷された自由に動くプレートが置かれているはずでした。 各単語には、3、4、またはそれ以上の言語での翻訳が伴いました。 すべての単語は、キーボードの文字のように、最も頻繁に使用される単語が中心に近づくように、最初の形式で指定し、黒板に配置する必要がありました。 機械のオペレータは、用語の文法情報と形態情報に関連するタイプライターを入力しながら、用語集のフィールドをシフトし、単語とその翻訳の写真を撮ることになっていた。 その結果、2本のテープが作成されました。1本は一度に複数の言語の単語を収録し、2本目は文法説明を収録したものです。 ソーステキスト全体がこのように入力されると、資料はネイティブスピーカーに渡されました。監査人は2本のテープを比較し、それぞれの言語でテキストを作成しました。 さらに、資料は両方の言語を知っている編集者に引き渡されることになっていた。 彼らの仕事は、テキストを文学形式にすることでした。







本発明の主なアイデアは、翻訳プロセスを3つの主要な段階に分割することです（ところで、現代の用語の最初と最後は「事前編集」と「事後編集」と呼ばれます）。 興味深いことに、最も時間のかかるプロセス（この情報からのソーステキストのコーディングと他の言語でのテキストの合成）には、オペレーターの母国語の知識のみが必要です。



したがって、翻訳は最初に自然言語とその論理形式の間で実行され、次に2つの言語の論理形式の間で実行され、その後、ターゲット言語の論理形式のテキストが検証され、自然形式に縮小されました。 科学の歴史家としてのトロヤンスキーは、万国語の作成とインターリングアによる翻訳について、ライプニッツとデカルトの理論を間違いなく知っていました。 彼が提案した技術は、これらの理論の影響を追跡します。 さらに、トロヤンスキーはエスペラント主義者であり、エスペラントの文法に基づいて文法情報をコーディングするためのシステムを構築しました（後に政治的理由で放棄を余儀なくされました）。



特に興味深いのは、すでに40代で、トロヤンスキーは「最新の通信技術に基づいた強力な翻訳デバイス」を作成する見通しを検討していました。 しかし、彼の生涯の間に、発明者のアイデアは学術界から大きな懐疑心を抱き、その後忘れられました。 このトロイの木馬は1950年に亡くなりましたが、ソビエト連邦で機械翻訳の作業を開始するまではあまり生きていませんでした。 英語の機械翻訳研究者ジョン・ハチンズは、トロヤンスキーの貢献が忘れられなければ、彼の翻訳機械の原理がBESMでの最初の実験の基礎を形成し、これが発明者をウォーレン・ウィーバーとともに機械翻訳の「父」に入れると信じています。 しかし、残念ながら、歴史には仮定的な雰囲気はありません。



80年代に40年早送りします。 ALPACの後、最も必死の愛好家以外は誰も機械翻訳を真剣に望んでいませんでした。 しかし、よくあることですが、ビジネスは進歩の原動力となっています。 1960年代後半には、世界のグローバル化への道筋はすでに明らかでした。 国際企業は、いくつかの国で同時に緊密な貿易関係を維持する必要に迫られています。 1980年代には、ドキュメントやニュースを迅速に翻訳するための技術に対するビジネス需要が増加し、機械翻訳が「発見」されました。 将来の欧州連合である欧州経済共同体はそれほど遅れていませんでした-1976年、歴史上最初の商用機械翻訳者であるSYSTRANがこの組織で積極的に使用されました。 将来、このシステムは、自尊心のある国際的な企業、ゼネラルモーターズ、ドルニエ、アエロスパシアルのほぼ必須の買収となりました。 日本も傍観していませんでした。欧米との仕事量は増え続けており、日本の大企業はこの分野での開発を余儀なくされました。 確かに、ほとんどの場合、それらは（Sistranのように）よく知られている「一般的な」傷害を持つ曖昧な単語、同音異義語、および慣用表現で正しく動作できないというルールベースのシステムのバリエーションです。 辞書の作成には専門の言語学者の大規模なスタッフの作業と柔軟性が必要であったため、このようなシステムも非常に高価でした-新しい言語は言うまでもなく、必要な主題分野への適応は非常に費用のかかる作業でした 研究者は、規則、意味論的、構文的、形態学的分析を使用したシステムに焦点を当てることを依然として好んでいました。



機械翻訳の真に新しい時代は、1990年代に始まりました。 研究者は、自然言語を正式に説明することは非常に難しく、正式な説明を生きたテキストに適用することはさらに難しいことを認識しました。 難しすぎて、リソースを大量に消費するタスクでした。 他の方法を探す必要がありました。



いつものように、問題がほとんど解決できないように思われる場合は、視点を変更すると便利です。 IBMは現場に再び登場し、その研究チームの1つがCandideと呼ばれる統計的機械翻訳システムを開発しました。 専門家は、情報理論の観点から機械翻訳の問題に取り組みました。 重要なアイデアは、いわゆるエラーのあるチャネル（ノイズの多いチャネル）の概念でした。 エラーのあるチャネルモデルは、言語Aのテキストを他の言語Bの暗号化されたテキストと見なします。そして、翻訳者のタスクはこのテキストを解読することです。



面白いイラストに頼りましょう。 フランス語を勉強していて、それを練習するためにフランスに来たイギリス人を想像してください。 列車はパリに到着し、私たちのヒーローは北駅の荷物室を見つける必要があります。 検索に失敗した後、彼はようやくランダムな通行人になり、事前に英語でフレーズを考えた後、左荷物オフィスの場所を知っているかどうかをフランス語で尋ねます。 想像された英語のフレーズは、いわば「歪んで」おり、フランス語のフレーズに変わります。 残念ながら、通行人はイギリス人であり、フランス語の知識が乏しい。 彼はフレーズの意味を復元し、フランス語での知識と、対談者が意味する可能性が最も高いと思われるもののおおよその考えの助けを借りて復元しようとします-つまり、より簡単に言えば、彼はどの英語フレーズを意図したかを推測しようとします。



IBMの従業員は、フランス語と英語のみを使用していました。調査チームの手には、カナダ政府からの膨大な数の並行文書がありました。 研究者は、2つの言語で特定の長さの単語のすべての組み合わせの確率を収集し、別の言語の組み合わせに対応するこれらの組み合わせのそれぞれの確率を収集しました。



さらに、 eの最も可能性の高い翻訳、たとえば英語への翻訳、たとえばフランス語のフレーズfは、次のように定義できます。







ここで、 Eはモデル内のすべての英語フレーズです。 英国人が同胞の考えを推測しようとすると、アルゴリズムは、英語で最も頻繁なフレーズを見つけようとします。これは、フランス語のフレーズが発音されたときに考えられることと少なくとも関係があります。



この単純なアプローチが最も効果的であることが判明しました。 IBMは言語規則を適用しませんでした。実際、グループ内のフランス語を知っている人はほとんどいませんでした。 それにも関わらず、Candideは機能し、さらには非常にうまく機能しました！ この研究の結果とシステムの全体的な成功は、機械翻訳の分野における真のブレークスルーでした。 そして最も重要なことは、Candideの経験が、翻訳ルールを作成するために一流の言語学者の高価なスタッフを必要としないことを証明したことです。 インターネットの開発により、翻訳と言語の大規模なモデルを作成するために必要な膨大な量のデータにアクセスできるようになりました。 研究者は、翻訳アルゴリズムの開発、並列テキストのケースの収集、異なる言語での文と単語の整列に努力を集中しました。



その間、統計的機械翻訳は産業開発段階にあり、徐々にインターネットユーザーに到達し、ルールベースのシステムがオンライン翻訳市場を支配しました。 ルールベースの翻訳は、インターネットよりもずっと前に登場し、デスクトップコンピューター用のプログラムと、少し後にポータブル（パームサイズおよびハンドヘルド）デバイスで大衆へと発展し始めたことに注意する必要があります。 オンラインユーザー向けのバージョンは90年代半ばにのみ登場し、最も広く使用されていたのは使い慣れたSistranでした。 1996年、インターネットユーザーが利用できるようになりました-このシステムにより、小さなテキストをオンラインで翻訳することができました。 この開発の後まもなく、SistranはAltaVista検索エンジンの使用を開始し、BabelFishサービスを開始しました。これは、2012年までYahooの一部として成功しました。 1998年にWebアプリケーションとして登場し、すぐにRunetで人気を博したPROMT-onlineは独自の技術を使用しましたが、ルールベースの機械翻訳パラダイムでも機能しました。



統計オンライン翻訳の先駆者Googleは、2007年に初めて翻訳サービスの最初のバージョンを開始しましたが、すぐに世界的な人気を獲得しました。 現在、このサービスは70を超える言語の翻訳だけでなく、エラー修正、スコアリングなどの便利なツールも提供しています。その後、それほど人気が​​なく、非常に強力で積極的に開発されているMicrosoftのオンライン翻訳者が続きます。 50以上の言語。 2011年にYandex.Translationが登場しました。Yandex.Translationは現在40以上の言語をサポートし、入力を簡素化し、翻訳の品質を向上させるさまざまなツールを提供しています。



Yandex.Translationの歴史は、2009年夏にYandexが統計的機械翻訳の分野で研究を開始したときに始まりました。 それはすべて、統計的翻訳のオープンシステムでの実験から始まり、並行ドキュメントの検索技術の開発、テストシステムの作成、翻訳の品質の評価から始まりました。 2010年に、彼らは翻訳モデルを構築するための非常に効率的な翻訳アルゴリズムとプログラムの作業を開始しました。 2011年3月16日、Yandex.Translationサービスのパブリックベータ版が、英語とロシア語およびウクライナ語とロシア語の2つの言語ペアで開始されました。 2012年12月に、iPhone用のモバイルアプリケーションが登場し、6か月後にAndroid用のバージョン、6か月後にWindows Phone用のバージョンが登場しました。



ここで、物語の出発点、つまりオフライン翻訳の出現に戻ります。 統計的機械翻訳はもともと、無制限のRAMリソースを備えた強力なサーバープラットフォームで動作するように開発されたことを思い出してください。 しかし、それほど前ではありませんが、強力なサーバーアプリケーションを処理してスマートフォン用のコンパクトなアプリケーションにするという反対方向への動きが始まりました。 2年前、Windows Phone用のBing Translatorアプリケーションはインターネットに接続せずに動作することを学び、2013年にGoogleはAndroidプラットフォームでフルテキストのオフライン翻訳を開始しました。 Yandexもこの方向で働き、現在はiOS用のYandex.Translateモバイルアプリで、最初にオフライン辞書を使用できるようになり、今では全文翻訳が可能になりました。 以前はメインフレームシステムを備えたフロア、そして数十ギガバイトのRAMを備えた強力なサーバーが必要でしたが、今日はポケットや財布に収まり、リモートサーバーにアクセスすることなく自律的に動作します。 このような翻訳者は、インターネットがまだない場所でも機能します-雲の上、雲の下、さらには宇宙で2万のリーグで。



要約すると、過去数十年間の機械翻訳の分野では、大きな進歩があったと言えます。そして、銀河のあらゆる言語からユーザーに見えない瞬間への翻訳はまだ非常に遠いですが、過去数十年にわたってこの分野で大きな飛躍が行われたという事実は疑いを生じさせませんが、私は新しい世代の機械翻訳システムが着実に努力します。