MLプロトタイプを1日で起動する方法。 レポートYandex.Taxi

機械学習はYandex.Taxiの自動車注文サイクル全体で使用されており、MLのおかげで機能するサービスコンポーネントの数は常に増加しています。 それらを均一に構築するには、別のプロセスが必要でした。 Machine Learning and Data Analysis ServiceのヘッドであるRoman Khalkachevは、データの前処理、生産におけるモデルの使用、プロトタイピングサービスおよび関連ツールについて話しました。





-私の意見では、いくつかの新しい事柄は、いくつかの簡単な例で言われたとき、より簡単に知覚できます。 したがって、レポートをドライに保つために、私たちが解決しようとしているタスクの1つについて話すことにしました。 彼女の例を使用して、このように行動する理由を示します。



問題を定式化しましょう。 ポイントAからポイントBに行く必要があるタクシーユーザーがいます。また、ポイントAからポイントBにこれらのユーザーを届ける準備ができているドライバーがいます。ユーザーには、いくつかの州があります。 彼はタクシーを呼び出し、ポイントA、ポイントB、運賃などを選択し、タクシーの着陸を行い、乗車し、最終的に着陸します。 今日、私は車に入ることと起こりうる問題について話をしたいと思います。







原則として、これらの問題は、タクシーが来る場所を選択する必要があるという事実に関連しています。 そして、多くの困難があります。 これらの問題は、スライドにリストした4つのことと関連しています。







まず第一に、その場所はユーザーにとってなじみのないものかもしれません。 例として、あなたがそれほど頻繁ではない大きなショッピングセンターに来た自分を想像することができます。 出発したいのですが、ここでタクシーを呼ぶことができる場所、車が立ち寄ることができる場所、またはバリアのためにできない場所など、本当にわかりません。 一部の場所には多くの人、多くの車があり、車を見つけるのが難しいという問題があります。 人が通常車に乗る場所がありますが、そこに着くのは簡単です。 そして、あなたは新しい場所にいることを知らないかもしれません。必ずしもショッピングセンターにいるとは限りません。 困難は、ドライバーがタクシーを呼んだ場所に運転できないという事実に関連している可能性があります：彼は旅行することを禁じられており、ショッピングセンターからは大きな出口があり、反対側には止まらないなどがあります。



一方、ユーザーとして問題が発生する場合があります。 ドライバーが到着しましたが、何も問題ありませんが、皆が掘り起こしたので、あなたは座って不快です。 ドライバーに別の場所を運転するように依頼します。 他にも理由があります。



最も説明的な例、上記のすべての真髄は、空港であり、ほぼすべてが行われます。 たとえ頻繁にシェレメーチエヴォから飛び出しても、多くの物事が頻繁に変化するため、それはあなたにとってまだ馴染みのない場所です。 多くの人々、多くの車、着陸に便利な場所、不快な場所がありますが、原則として、私たちの誰もこれについて覚えていません。







ソリューションは、スライドのタイトルから読み取られます。 私たちの意見では、着陸するのに便利な場所をユーザーに推奨しましょう。 考えは明らかなようですが、ここには多くのニュアンスがあります。



まず、「便利」は主観的な概念です。 問題を解決する前に、問題が正しく解決されるという事実のいくつかの基準を策定する必要があるようです。 私たちは自分自身のために3つの主要なものを策定しました。 最初の基準は、推奨事項のタスクと同様です。おそらく、推奨事項が使用されている場合は推奨事項が適切です。 ユーザーが本当に去るそのようなポイントを表示する場合-これらはおそらく良いポイントです。 ただし、これはすべてではありません。何かを推奨したり、見せたり、ユーザーに使用を促したりすることはできますが、目に見える利益は得られません（システムとしても、ユーザーとしても、ドライバーとしても獲得できません）。 したがって、他のメトリックを確認することは非常に重要です。 2つ選択しました。



運転手が簡単に運転できる着陸場所について説明した場合、車両の配達時間を短縮する必要があります。 一方、ユーザーがこの場所で車を見つけやすい場合は、着陸しやすいため、ドライバーによるドライバーの待機時間を短縮する必要があります。 これは仮説の一部であり、当然のことと考えています。これらは、これらの推奨事項を作成する際に検討する指標です。 しかし、もちろん、これらが注目すべき唯一の指標ではありません。 さらに12個を考え出すことができます。 皆さんそれぞれがこれらの100の指標を思いつくことができると思います。



次に例を示します。 これは、旅行前のキャンセルの割合です。 理論的には、ユーザーが着陸しやすい場合は減少するはずです。 従来、これらは、ユーザーがドライバーを呼び出してドライバーを見つけようとしたとき、または逆に、旅行が始まる前にドライバーがユーザーを呼び出したときの呼び出しです。 このアピールは支持されており、他にも多数あります。



問題を定式化しました。 この問題を解決できる基準を大まかに理解しました。 この問題を解決する方法について考えてみましょう。 最初に頭に浮かぶのは、そのような実証済みで理解可能な着陸地点をお勧めしましょう。 このスライドは、ヨーロッパショッピングセンターの例です。 そして、このショッピングセンターの出口まで運転できることは確かです。これは、ユーザーがドライバーを見つけることができる何らかのガイドラインです。 どんな組織でもかまいません。 いくつかのショッピングセンターには、テイストのABCの例があります。 私の意見では、これはエレバンプラザです。 これは、ユーザーとドライバーのためのある種のガイドラインでもあります。







これらは私が話した空港のランドマークかもしれません。 従来、シェレメーチエヴォには数字でそのような極があります。 タクシーを呼んで車に乗るのは便利です。 良い解決策ですが、非常にスケーラブルではないというマイナス点があります。 多くの国、数百の都市、膨大な数のショッピングセンター、空港、困難なインターチェンジ、これらのポイントを手動で作成するのが難しい不慣れな場所があり、それらを最新の状態に保つことはさらに困難です。 大声で「人工知能」と呼ばれるものが私たちの助けになります。 データマイニングまたは機械学習と呼びます。



機械学習には何らかの種類のデータが必要であり、実際にはそのデータがあります。 問題を自動的に解決する別の方法は、このデータを使用することです。 高度なアイデアは、GPS、アプリケーションログ、および道路グラフに関するデータがあることです。 そして、ユーザーが実際に車に入る場所を理解できます。 車を呼ぶ場所ではなく、着陸する場所です。 そしてこれに基づいて、そのようなことをしてください。







これらは、Yandex.Taxiチームが現在座っているAuroraビジネスセンターで既に自動的に獲得したポイントです。



私たちの仕事について高レベルで話しました。 次に、この問題の解決策がどの段階で構成されているかについて詳しく説明します。 データ準備の段階があることは明らかです。







どんなデータがありますか？ まず、ユーザーのGPSデータとドライバーのGPSデータがあります。 ユーザーがアプリケーションを使用すると、ユーザーのおおよその位置がわかります。 GPSには13〜15メートルの範囲で大きな誤差がありますが、それでも何かがあります。 第二に、ドライバーがステータス「ユーザーの待機中」からステータス「ユーザーの運転中」に切り替わったときのアプリケーションログに含まれる情報があります。 この頃、運転手はユーザーを待っており、ユーザーは車に乗り込んで、車を運転したと考えられます。 この場所の周りに着陸が行われました。 そして、道路グラフがあります。 道路グラフは、エッジ、道路のセットだけでなく、追加のメタ情報（障壁、駐車場に関する情報など）でもあります。このデータに基づいて、すでに何らかの種類の自動ポイントを取得できます。



これがソースデータでした。 そして、出口では、2つのことが必要です。 これらは、いわゆる着陸地点の候補です。 彼らはどのように生まれますか？ 動画を表示できなかったことは残念です。 以下は大体起こります。 ドライバーがステータス「乗客を待っています」から「行こう」に切り替えたことを知っている多くのGPSポイントがあります。 条件付きで、それらをグラフに描画することができます。つまり、道路グラフに投影することができます。これは、原則として、車が道路から移動し始めるためです。 このグラフで、これらのポイントのある種のクラスタリングを実行します。 そして、多数の候補者を獲得するために-これらは、一部のユーザーが車に乗った場所であり、彼らにとっては普通で便利でした。 彼らが電話した場所ではなく、座った場所です。



その後、候補者が多く、ユーザーがオンラインになったら、彼の場所を知っているので、彼はアプリケーションを開いてタクシーを呼び出したいので、多数の候補者からベスト5を選択して表示できます。 最高の5つは機械学習モデルによって決定されます。このモデルは、現在のユーザーが自分の位置と旅行履歴を考慮して、現時点でユーザーが去るのに最も便利である可能性に従ってすべての候補をランク付けすることを学習します。 そしてほぼこの方法で、これらのポイントを自動的に生成できます。 さらに、ある時点で条件付きで掘り起こす場合、つまり、タクシーを呼ぶのが不快になったり、停車を禁止する標識を置いたりすると、ドライバーとユーザーは実際にこの場所に着陸するのをやめます。アルゴリズムがこれを理解し、データが更新される瞬間。







これは、ほぼデータの準備方法のブロック図です。 したがって、機械学習パイプラインのように、かなり標準的です。 データの準備があり、アルゴリズムによる候補の生成があります、私は簡易版に語りました。 これらの候補を特定のデータベースに保存します。 その後、トレーニング用の特定のプール（トレーニングサンプル）を準備します。このプールには、条件付きで、ユーザー、時間、メタ情報、候補のセットがあり、ユーザーが最終的にどこから去ったかがわかります。 これについて、分類モデルを訓練します。 そして、確率の予測に従って、候補をランク付けします。 モデルの準備ができたら、クラウドにアップロードして、適切に保存します。







データの準備に使用するツールは何ですか？ 基本的に、Pythonスタック上のPythonで作成したすべてのデータ準備は、標準のNumPy、Pandas、Scikit-learnなどです。大量のデータがあります。 月に何百万もの旅行があります。 GPS、ドライバーのトラック、アプリケーションログに関する多くのデータがありますので、クラスター上ですべて同じように処理する必要があります。 これを行うには、YTと呼ばれるYandex内バージョンのMapReduceを使用します。Python用に記述されたライブラリがあり、一部のマッパーとリデューサーを起動したり、大規模なクラスターで計算を実行したりできます。



最後に、パイプラインの準備ができたら、データが最新になるようにパイプラインを自動化する必要があります。そのために、NirvanaやHitmanなどを使用します。 これは、Yandex内での開発でもあります。 Nirvanaはクラスターコンピューティング管理フレームワークです。 実際、彼女はどのようなプログラムでも実行する方法、フォールトトレラントになる方法、DCを横断する方法（00:14:53）を知っています。 そして、何かが落ちた場合、彼女はそれを再起動し、イベントの発生時に起動を作成する方法を知っています。 など







これは、おおよそMapReduceクラスターのWebインターフェイスの外観です。 ここでは、計算が実行されるノードなど、多数のマシンがあることがわかります。







そのため、Webインターフェースでは、ある種のデータの前処理とモデルトレーニングの典型的なプロセスは次のようになります。 これは、このような依存関係グラフです。 依存関係は、ある部分（1つのキューブ）が別のキューブからのデータを待っているときのデータのようなものです。 論理的な依存関係（最初にすべてのデータを準備してから、トレーニングを開始しました）。 これはある種の自動化システムです。 これらすべてのために、通常Pythonを使用します。



問題を定式化し、成功基準を定式化し、オフラインで何らかの方法で解決することを学び、何らかのモデルを作成しましたが、いくつかのオフライン指標に従って動作しているようです-ユーザーが出発するポイントを実際に予測し、それらのポイントを見つけますこれは、待ち時間と車の配達を減らすはずです。







これらのモデルを試して、このデータを使用してみましょう。 これを行うには、Yandex.Taxiサービスが何であるかを想像してください。



非常に表面的な図はこのように見えます。 ユーザーがいて、アプリケーションがあり、ドライバーがあり、「タキメーター」と呼ばれるアプリケーションもあります。 これらのアプリケーションは何らかの形でバックエンドと通信し、バックエンドは相互に通信する一連のマイクロサービスです-イリヤはこれについて話しました。 マイクロサービスの1つは私たちのサービスです。私たちのチームはそれを行います。これはML as a Service、MLaaSと呼ばれます。







知っておく必要があるのは、いわゆるFastcgi Daemonに基づいたC ++で記述されたMLaaSです。 これは、大まかに言って、要求を取得および投稿できるWebサーバーを作成するためのフレームワークであるオープンソースライブラリであり、すべてが標準です。 それはかつてYandexで書かれ、オープンソースでレイアウトされていました。 ドップバージョンを使用します。 このサービスは何ができますか？ 彼はモデルの操作方法を知っています。モデルを適用し、自宅で保存し、時々更新し、モデルが定期的に更新、保存、ダウンロードされるこの素晴らしいクラウドに移動します。



各機能、たとえばこれらの着陸ポイント（内部ではピックアップポイントと呼びます）、またはたとえば、前のレポートでイリヤが話題にして絶えず破ったポイントBのヒントは、それぞれの機械学習があるような機能に対応しますハンドラー。要求を受信し、機械学習要素を生成し、モデルを適用し、応答を生成するロジックを格納します。 もちろん、このサービスは分離されておらず、追加のデータソース、データベース、その他のマイクロサービスにアクセスできます。







これは、配置方法であり、かなり単純なアーキテクチャを備えています。 このスライドについて詳しく説明したくありませんでしたが、慣例により、アーキテクチャは非常に単純であると言いたいだけです。 要求が到着すると、モデルの工場がいくつかあり、これらの工場は時々クラウドからこれらのモデルをダウンロードします。 メモリでは、それらは単一のコピーに保存されます。 各リクエストに対して、かなり軽量なモデルオブジェクトが作成されます。これは、機能を抽出し、それを適用して、応答を生成します。







しかし、現時点では何がありますか？ データの準備、トレーニング、さまざまな研究、実験があり、これらはすべてPython Stackで記述されていること、そして効率性と生産性に大きな要求があるという理由だけで、C ++で記述されたプロダクションがいくつかあることを既に説明しました。 このようなエコシステムに住んでいると、2つの問題が発生します。



まず第一に、これは実験の問題です。 たとえば、私たちのチームで働くデータサイエンティストがアイデアを得ました。 わずかに異なるパラメーターを使用して、ある種のクラスタリングまたは分類アルゴリズムを実行すると、品質が向上します。 彼は自分の仮説をオフラインでテストし、私たちのPythonプロセスに組み込み、計算してみましたが、実際に判明しました。 そして今、彼はAB実験、つまり、ユーザーの一部が新しいアルゴリズムを示し、すでにオンラインになっているいくつかのメトリックを測定することを望んでいます。 これを行うために、彼は条件付きで5つのバージョンのアルゴリズムを所有しており、その中でオフラインで良質を提供します。C++で実装し、AB実験を実施します。 そして、このABの実験の後、おそらく5つすべてが無駄になります。つまり、オンラインの品質はオフラインよりも悪くなります。つまり、本番環境よりも悪くなります。 つまり、条件付きで2つの異なる言語、2つの異なる技術という事実により、実験プロセスに時間がかかります。



これは既存の機能用です。 そして、新しいものがあります。 かつてこれらのピックアップポイントは、すぐに確認したいアイデアでもありました。 2か月の開発に費やさないでください。3週間以内に何かを入手することをお勧めします。 このようなプロトタイプの作成には非常に時間がかかります。 まず、Pythonで特徴抽出を記述します。それは単に便利だからです-彼らが言うように、速く動きましょう。 Pythonで任意のプロトタイプを構築できます。データ分析用のライブラリが多数あります。 ラップトップで実験を行った後、ユーザーを確認する必要があります。 そして、プロトタイプを作成することはかなり困難でした。 そのようなプロトタイプをかなり迅速に（条件付きで、1週間、さらには1日で）組み立て、さらにAB実験を行うには、何らかの追加サービスが必要であるという結論に達しました。







PyMLaaSと呼ばれるこのようなサービスを作成しました。 彼はどんな人ですか？ 実際、これは以前に話したMLaaSの完全な類似物ですが、Flask、nginx、Gunicornに基づいてPythonで記述されています。 アーキテクチャは非常にシンプルで、MLaaSのアーキテクチャと同じですが、オフラインの実験からいくつかのプロトタイプをすばやく切り取る機会があります。 さらに、nginxレベルでこのようなプロキシを配置したため、条件付きで、負荷の一部をMLaaSからPyMLaaSに転送して実験する機会がありました。







つまり、いくつかのパラメーターを移動し、これがユーザーにどのように影響するかを確認する必要があります。 PyMLaaSの負荷の5％を開始し、実験で何が起こるかを確認します。 最後に、プロトタイプを作成すると便利です。 いくつかの新機能のプロトタイプを作成し、PyMLaaSで見ました。実稼働環境ですぐにテストできます。



私たちはそれがとても気に入ったので、アイデアが浮かびました-常にそれを使用しないのはなぜですか？ 条件付きで、大きな負荷、1000 RPS、大きなメモリ要件を必要とする機能があるためです。 かなり柔軟な並列処理が必要です。 ただし、一部の機能、負荷、パフォーマンス、RPSなどにそれほど大きな要求がない一部の製品またはサービスでは、このサービスを非常にうまく使用しています。







まとめると。 現在、機械学習を使用する製品を作成するための作業スキームがあります。アイデアが最初に表示されます。私たちはファッショナブルな男になろうとし、このアイデアをデータでテストします。データを調べて準備し、いくつかの実験を設定し、モデルをトレーニングし、オフラインメトリックスを分析します。次に、PyMLaaSで何らかのハンドラーの形式で実装し、AB実験を実行し、このサービスの負荷の一部を開始します。機能が飛ぶ場合、それをMLaaSに転送します。それは単独で機能し、ユーザーとドライバーに幸福をもたらします。



ピックアップポイントの問題に戻ると、仮説は真実であることが判明しました。このようなポイントの利点と便利な着陸地点の推奨は非常に明確です。車両のフィード時間が短縮され、待ち時間も短縮されました。現在、すべての旅行の約30％が推奨ポイントからです。ご清聴ありがとうございました。