機械学習：お金はどこですか？

機械学習は現在トレンドになっていますが、商用アプリケーションに関してのみ、多くの疑問が生じます。 そのため、答えがある人を見つけました。 1C-BitrixのAlexander AlexSerbul Serbulと話をしました。彼は、機械学習を使用してビジネス上の問題を解決し、ディープラーニングの誇大広告の理由と、ユーザーや企業にとってのチャットボットの利点について話しました。 そして、アナスタシア・ヤニーナ・ヤナスティーアはこの会話で私たちを助けてくれました。 詳細については、猫へようこそ。











Alexander Serbulは、ビッグデータ、ソフトウェア開発、システム分析、設計の専門家です。 1C-Bitrixで、彼は統合と実装の品質管理の方向を監督し、高ワークロードとフォールトトレランスに関連する企業プロジェクト（Bitrix24）のアーキテクトおよび開発者として積極的に参加し、1C-Bitrix製品のクラスタリングテクノロジーの効果的な使用について、パートナーおよびクライアントにアドバイスします最新のクラウドサービス（Amazon Webサービスなど）のコンテキストで。





-機械学習を始めたきっかけは何ですか？



Alexander Serbul：誇大宣伝の結果、機械学習に来ました。 私は経験豊富なエンジニアですが、数学教育や科学の学位は持っていません。 機械学習が実際のビジネス上の問題の解決にどのように役立つのかと思っていました。 徐々に、私は関与し、アルゴリズムと基本的なアプローチを理解しました。すべての数学と一般的なライブラリを使用しました。



現在、機械学習アルゴリズムを積極的に使用して、適用された問題を解決しています。 私たちの主な目標は、クライアントができる限り効率的に問題を解決できるよう支援することです。 したがって、ビジネスケースを解決するために簡単かつ迅速に適用できるアルゴリズムに最も関心があります。 ここには非常に実用的な関心があります。



-AI、ディープラーニング、ビッグデータの領域を監督します。 機械学習を使用して解決した主なタスクについて教えてください。



Alexander Serbul：公式には、品質管理と実装の統合の方向性を監督していますが、それに加えて、ビッグデータ、機械学習（ディープラーニングを含む）、人工知能の分野で数年間働いています。



私たちはいくつかの分野で働きました。 機械学習の適用に成功した最初のものは、オンラインストア向けのパーソナライズされた推奨事項です。 いくつかの推奨サービスをリリースしました。 最初に使用されたのは協調フィルタリングです。 ほとんどの店舗では、アルゴリズムが「ウォームアップ」する必要があるため、このアプローチはあまりうまくいきませんでした（コールドスタートの問題が発生しました）。 さらに、異なるストアにある同じ製品を異なる方法で呼び出すことができ、アルゴリズムはこれらが異なる製品であると見なします。 この問題を解決するために、商品のクラスタリングを適用し始めました。つまり、同じ製品の異なるバージョンの記述を1つに圧縮しました。 これはそれほど単純ではありません。データベースには数千万の製品があります。 この問題を解決すると、推奨事項の品質が数十パーセント向上しました。



さらに、ABテストを実施することにより、推奨システムを改善することを決定しました。 Bitrix製品でABテストを実施するためのツールを実装しました。 その結果、一連のテストとその結果の分析の後、推奨モデルを簡素化し、コンテンツベースのアプローチを基礎として採用しました。 ユーザーがアクセスしたサイトに応じて、ユーザーの関心のプロファイルを作成します。 そうすれば、ある人が店に来ると、どの製品が彼にとって興味があるのか​​、そうでないのかを理解できます。



このようにして、個人的な推奨のシステムの3段階の進化が得られました。 ロシアでは、誰もそのような報道をしていません。私たちが協力しているオンラインストアのデータベースは非常に大きいです。



その後、マーケティングの予測分析を含め、社内で機械学習を使用しました。 彼らは、どの顧客がサービスの高度な使用にすぐにお金を払い始めるか、アプリケーションを使用する期間を予測するモデルを作成し、視聴者の流出を予測することも学びました。 次に、ユーザーのポートレートをコンパイルし、関心のある製品に応じて顧客をクラスター化するモデルを作成しました。



-ファッショナブルな今のディープラーニングはどうですか？ 深いネットワークをトレーニングする必要があるプロジェクトがありましたか？



Alexander Serbul：昨年、人工知能とディープラーニングのトピックを積極的に掘り下げて、チャットボットを作成しています。 モスクワ市庁舎と一緒にパイロットを作りました。 トレーニング対象のデータセットは、50万の質問と回答で構成されていました。 開発はパイロットほど進んでいませんが、品質は正常でしたが、精度は約75％でした。 それほどクールではありませんが、それでもなお、チャットボットにより、人々は質問に対する回答をより迅速かつ効率的に見つけることができました。



-チャットボットについて話し始めてから、iPavlovのメンバーが作成するテクノロジーについてどう思いますか？ あなたの決定はそれらと根本的に異なりますか？



Alexander Serbul：私は彼らの製品について読んでいますが、率直に言って、チャットボット業界の機械学習は必要なビジネス品質を提供できないと思います。 このようなアルゴリズムは、これまでのところ、ビジネスよりも高度な研究と科学により関連しています。 Chatbotはアシスタント、アドバイザーとして機能しますが、標準のコールセンターやテクニカルサポートに代わるものではありません。 今日、ボットが効果的に人々を置き換えることができるとは思わない。 ディープラーニングは、ボットをよりスマートにするのに役立ちました。 今では、狭い問題（ピザの注文など）を彼らの助けを借りて解決することはかなり可能ですが、それでもボットとの対話を行って意味のある答えを得ることができません。



ただし、ニューラルネットワークの進歩は驚くべきものです。 ニューラルネットワークは、人間よりも優れた画像の分類、写真の失われた部分の回復、顔の認識などを行うことができます。 これらの結果は驚くべきものであり、機械学習の分野ではまもなくブレークスルーとなる鐘として機能します。 あなたは脈動に指を保つ必要があります！



機械学習が活発に開発されているため、私はこの分野が好きです。 開発者にMLアルゴリズムの使用方法を教え、マネージャーに必要な知識ベースを提供する必要があります。彼らはロジスティック回帰とは何かを少なくとも指で説明できるようにしたいのです。 科学とビジネスの間には大きなギャップがあります。科学がビジネスに参入し、ビジネスはこれにまったく対応していません。 機械学習では、革命が待っています。ニューラルネットワークの3番目の波は、すでに本当の津波になります。 さらに興味深いことになります！



-現在、ニューラルネットワークの周りには本当に多くの誇大宣伝があり、ほとんどすべての機械学習タスクでそれらを使用しようとしています。 あなたは彼らの巨大な人気に関連していると思いますか？



Alexander Serbul：もちろん、これは、ディープネットワークを適切にトレーニングする方法を学んだという事実によるものです。 このためのソフトウェアがあり、鉄（GPU）が登場しました。 一部の地域（たとえば、自走車）では、人間をニューラルネットワークに基づくアルゴリズムに置き換えようとしました。 これはすべてコンピューター化のことを思い出させます。コンピューターの自動会計、銀行業務の助けを借りて。 しかし、すべて同じように、人々は座って紙片を仕分けており、一部の銀行では「カードを開いてそこに行く」という原則が依然として機能しています。 ルーチン作業は終了していますが、非常に遅いです。



2番目の重要な理由は、大きなデータセットが登場したことです。 ビッグデータの可用性とビッグデータ処理用の鉄の可用性により、深いネットワークを使用して素晴らしい結果を得ることができます。



3番目の理由-科学者はニューラルネットワークにより積極的に関与するようになりました。 リカレントネットワークが登場し、畳み込みネットワークの分野の研究が大幅に進歩しました。



しかし、それにもかかわらず、この誇大広告の根源は、こうしたテクノロジーに対するベンダーの関心です。 たとえば、コンテキスト広告の有能な仕事により、大きな利益を得ることができます。 したがって、GoogleやFacebookなどの大規模なITの巨人は、ディープラーニングの分野の研究にお金を費やし、有力な科学者を雇い、この分野の発展のための条件を提供することが有益です。 高度な技術の開発に貢献することで、科学の最先端を動かすだけでなく、何百万もの収入を得ています。



-ビジネス上の問題を解決するためにニューラルネットワークアーキテクチャを選択する方法は？ 良いニューロンを「調理」する方法に関する普遍的なレシピはありますか？



アレクサンダー・セルブル：実際、レシピはありません。 ニューラルネットワークの学習は依然として芸術のようなものです。 ネットワークの初期化の問題も未解決のままです。多くの方法があり、どのタスクが特定のタスクに適しているかは明確ではありません。



ただし、さまざまな本で説明されている一般的なアプローチがあります。 私のお気に入りは本です。I。Goodfellow、Y。Bengio、A。Courville（ こちらからダウンロードしてください 。実用的なタスクのためにニューロンのトレーニングを開始し、直観を開発することです。ニューラルネットワーク（TensorFlowなど）のフレームワークには、例と既製のアーキテクチャがあります。座って試して理解する必要があります。



-プロジェクトでニューラルネットワークの実装を開始するには、どのような知識が必要ですか？ ディープラーニングのためのライブラリのコーディングスキルと知識は十分ですか？



Alexander Serbul：そのような作業は、通常のプログラマーではなく、適切な教育を受けた人々によって実行されるべきです。 開発者の目標と目的はわずかに異なります。本番用に研ぎ澄まされた適切なコードを記述し、バグをすばやく見つけ、テストを作成できる必要があります。 優れたコードを書くことも芸術です。彼らはこれを何年も学習しています。 ニューラルネットワークのトレーニングは、業界の人ではなく、研究者の仕事です。 微妙な点がたくさんあります。常に本を読んだり、新しく出版された記事を監視したり、自分で記事を書いたり、同様の科学的関心分野の人々とコミュニケーションをとる必要があります。



-しかし、既製のフレームワークと機械学習ライブラリ（sklearnなど）はどうでしょうか？ 内部の数学を完全に理解しないと、彼らと一緒に仕事をすることはできませんか？



アレクサンダー・セルブル：もちろん違います 。 少なくとも理論の基本原則を理解していなければ、これはすべて推測です。 機械学習ライブラリの効果的な使用を開始するには、資格のある専門家であり、優れた数学的基盤を備えている必要があります。 レベル95のクリンゴン語：“ terver”、matがあります。 統計、線形代数。 多くの開発者はこれをすべて知っているわけではありません。 もちろん、特別な知識がなくても「sklearnからRandomForestをインポート」することはできますが、数学の知識がまったくないデータサイエンティストはそう遠くなりません。



すべての機械学習は数学で飽和しています。 音楽のようなものです。音符を知らずにどうやって演奏できますか？ 移行中に踊る3つのコード、それだけです。 本物の音楽にはソルフェジオが必要です。 もちろん独学もあります。 私は数学的教育を受けておらず、これはひどい苦痛をもたらしました。 機械学習に関する本を開くと、最初のページから「固有ベクトル」、「固有値」、「事前確率」が表示されます。 私は自分でそれを理解し、本を読み、多くの時間を費やさなければなりませんでした。



-ツールの選択はどうですか？ プログラミング言語として、Pythonのみを使用し、ニューロンのトレーニングには一般的なフレームワーク（同じTensorFlow）を使用しますか？



Alexander Serbul：はい、TensorFlowは間違いなく人気があります。 それでも、ニューロンをトレーニングするためのテクノロジーとプログラミング言語の選択は未解決の問題です。 私自身、ニューラルネットワークのトレーニング用のJavaコードを作成しました。 Javaテンソルライブラリ（ND4J）を見つけました。 私は自分で差別化を書きました、準備ができていませんでした。 このニューラルネットワークは現在、技術サポートのために本番環境で機能しています。 うまく動作し、安定し、高速で、信頼性があります。 品質はビジネスに適しています。従業員の一部をニューロンに置き換えました。



-ディープラーニングに加えて、ビジネスケースを解決するためにどのアルゴリズムを使用しますか？



Alexander Serbul：ニューラルネットワークだけではありません。 ニューロンは通常、より単純なアルゴリズムの動作が不十分な場合に使用されます。 ランダムフォレスト、SVM、ロジスティック回帰、線形モデル、決定木などのさまざまなアルゴリズムを使用します。 独自のツールを選択する必要がある各タスクについて、多くはデータに依存します。 現在、たとえば、YandexはCatBoostライブラリをリリースしています。 アルゴリズム自体（勾配ブースティング）は長い間発明されましたが、ニューラルネットワークよりも悪くない多くのタスクで機能します。 CatBoostを使用してみましたが、結果に非常に満足しています。



-十分な知識とスキルがあったとしても、プロジェクトを収益化することは困難です。 練習の秘密、製品の販売方法（たとえば、機械学習の問題を解決するための適切に調整されたモデル）を共有しますか？



アレクサンドル・セルブル：今、何が売れているのですか？ 特定の問題を迅速かつ適切に解決する正確なアルゴリズム。 私の意見では、成功には3つの主要な要素があります。



第一に、製品は、彼らが言うように、エンジンオイルの痕跡がないはずです。 残念ながら、市場に出回っている製品のほとんどはバグが多いか、速度が低下しています。 これは、作成者が優れたプログラマーを節約したことを意味します。 またはテスターで。 または、マネージャーはまったく仕事に対処できません。 さらに、多くの場合、意思決定には複雑な問題が発生します。30のフレームワークを使用するため、2か月間最小限の変更を行った後、バグを探します。 製品は正しく簡単に動作するはずです。 技術の卓越性は非常に重要です。



第二に、どの製品にもビジネス上の測定可能性が必要です。 人工知能の販売方法は？ 製品の品質保証を販売するには、それを測定して販売する必要があります。 目標を明確に設定する必要があります：「コストを10％削減する」または「チャットボットを実装し、それらの効率を高める」。 20％サポート。」 タスクは数学的に不明確に設定することができます。マネージャーとアナリストのタスクは、ビジネス要件を科学的に理解可能な問題に、そして研究成果をビジネス的に理解可能なモデルに変えることです。



第三に、迅速なプロトタイプを作成する必要があります。 Tinkoff銀行は、彼らが作った10個のモデルのうち、離陸するのは1〜2個だけだと言われたようです。 チームの研究責任者が顧客のデータにアクセスできることも重要です。 データ収集には多くの注意が必要です。



-より収益性の高いもの：スタートアップモードでアイデアを宣伝したり、大企業と協力しようとしたりしますか？



Alexander Serbul：私はよくスタートアップモードで働きました。 たとえば、WebスタジオQsoftで。 一時、Eldorado.ruを立ち上げました。 私自身の経験から言えば、スタートアップモードで作業する方がはるかに効率的です。 人々は速く学び、製品の作成に情熱を傾け、「アイデア」のために深夜または週末に働くことができます。

小さな会社では、誰もがお互いを知っています。



大企業は通常、「玉座のゲーム」です。プロモーション、ボーナス、担当者などです。 退屈になり、すべてのタスクがやり直されますが、新しいタスクを取得して再び定型的な仕事をしたくありません。 もちろん、そのような場所ではありません。 しかし、私はスタートアップモードで作業する方がずっと快適です。



-最後に、あなたの意見では、機械学習はどの方向に発展し続けますか？ ニューラルネットワークは、日常業務を解決する能力において人々を凌ぐでしょうか？



アレクサンダー・セルブル：人々は人間に匹敵する人工知能の精度に期待していますが、これまでのところ、これはかなり狭いタスクでしか達成できません。 一般的に、人工知能は人間に劣りますが、その使用には大きな展望があります。 機械学習をビジネスに積極的に導入する前に、分析と計算の文化を浸透させる必要があります。製品の有効性を計算する方法を学ぶ必要があります。 これまでのところ、十分な精度を持つビジネスパフォーマンスを計算するためのモデルすらありません。 予測機械学習は、そのようなモデルが存在する会社のスキーム、および十分に開発された分析、ABテストのシステム、統計収集などに適しています。



私は機械学習が好きです。なぜなら、現在この分野は活発に発展しているからです。 開発者にMLアルゴリズムの使用方法を教え、マネージャーに必要な知識ベースを提供する必要があります。彼らはロジスティック回帰とは何かを少なくとも指で説明できるようにしたいのです。 科学とビジネスの間には大きなギャップがあります。科学がビジネスに参入し、ビジネスはこれにまったく対応していません。 機械学習では、革命が待っています。ニューラルネットワークの3番目の波は、すでに本当の津波になります。

---

機械学習の使用に関するさらに多くの事例の詳細を知りたい場合は、10月のSmartData 2017カンファレンスで、Alexander Serbulの講演「 Eコマースでの応用機械学習：パイロットと戦闘プロジェクトのシナリオとアーキテクチャ 」をお読みください。 彼に加えて、次のようなさまざまなレポートを含む16人のスピーカーがいます。

-Neurona：なぜニューラルネットワークに、Kurt Cobainのスタイルで詩を書くように教えたのですか？ （Ivan Yamshchikov、Max Planck Institute、ライプツィヒ、ドイツ/ Created Labs）

- ディープラーニング：画像内のシーンとランドマークの認識 （Andrey Boyarov、Mail.Ru Group）

- 深層学習、確率的プログラミング、メタ計算：交点 （Alexey Potapov、ITMO）