データサイエンスウィークエンド2018の初日の概要。機械学習の実践、競技会への新しいアプローチなど

こんにちは、Habr！ 3月2〜3日に、パートナーの会社であるRambler＆Coの屋根裏部屋で、 データを扱う分野の専門家による多くのプレゼンテーションが行われた従来のData Science Weekendが開催されました。 この記事の一部として、機械学習アルゴリズム、チーム管理、およびデータサイエンス分野での競争の実践にすべての注意が払われた、会議初日の最も興味深い瞬間についてお話しします。

Vectorx

Open Data Science Weekend 2018は 、VectorXのプログラム「ビッグデータスペシャリスト」 Roman Smirnovの卒業生によって表彰されました。このプログラムは、企業内で情報を広め、情報フィールドを構成するプロセスに従事しています。 スピーチの一環として、ローマンは、データサイエンティストのチームと協力することが非常に難しい理由と、仕事を可能な限り効率的にする方法について話しました。



私の経験に基づいて、データサイエンティストと仕事をするときに会社が直面する4つの主な問題があります（専門家と呼びます）。



問題： 専門知識に対する高い需要が原因で予測できないパフォーマンス。 エキスパートは科学者であり、彼の知識を利用して私たちをより健康で豊かにするため、専門家はあなたのものではなく、社会のものです。 彼らはただ彼のすべてを望んでいることがわかりますが、彼は誰についても気にしません。 このことから、動機付けと労働効率に関する問題が起こり得ます。



解決策：まず、別の専門家の形で常に存在する必要があり、その存在は秘密のままでなければなりません。 第二に、専門家にフィードバックを与え、個人的な価値感を維持するために、すべてのプロジェクトの記録を保持し、統計を収集する必要があります。 最後に、CRMは顧客だけでなく、分散したチームで作業する場合にも適していることが判明しました。



問題： モチベーションの対立。 データサイエンティストは、自分が先駆者であることを皆に納得させ、重大な問題に対処し、哲学者の石の秘密を発見しようとする人です。 残念なことに、基本的な生理学的動機は彼にとって異質ではなく、この対立は彼に優先順位を付けることを許可しませんが、あなたにとって-彼との有利な合意を締結します。



解決策：この二元性は、独自の目的に使用できます。 専門家が彼に十分なお金がないと言ったら、彼の人道主義的な価値を呼び、「私の友人、あなたは科学者です！」と言うことができます。 そして逆もまた同様です。彼は自分が身分にある人であり、ひじにパッチを当てたスーツを着て1年間は行かないことを彼に思い出させる価値があります。







問題： 投機。 議論の余地のない経験豊富な理論家が些細な実用的な問題を解決できないことがよくあります。 その結果、彼はプロジェクトの複雑さをすべての結果で冷静に評価することはできません：期限の失敗、チームのモチベーションの損失、法外な費用など。



解決策：潜在的なプロジェクトマネージャーにポートフォリオを要求し、懸念を確認または解消するためにコードレビューにお金をかけることをためらわないでください。



問題： 不純な動機。 科学者としての専門家は、その階級ではなく、社会の上になりたいと思っています。 したがって、彼は常に知識の可能な限り広い範囲で自分の意見を広めたいという願望を持っていますが、それはプロジェクトの商業的利益とはよく相関していません：何かが会社の専門家の評判を脅かす場合、それを失うリスクがあります。



解決策：今日、科学はビジネスと非常に密接に関連しています。数年前、誰もマーケティングが科学記事にまで及ぶとは考えていませんでした。 科学記事の執筆に協賛-科学集約型プロジェクトの場合、これは優れたマーケティング活動です。

また、専門知識を失う恐れがある場合は、競合する研究室の専門家を雇います。 そのような行為は、最初の科学者を怒らせ、彼を刺激して、競合他社で鼻を拭く行動を起こすことができます。

ズベルバンク

それから、もう一人の卒業生であるアレクサンダー・ウリヤノフの出番でした。彼は、Sberbankのデータサイエンスエグゼクティブディレクターです。 全国のATMネットワークでの現金管理プロジェクトの例を使用して、複雑なモデルをすぐに攻撃して構築しようとするのではなく、まず座って統計データ分析を徹底的に行う必要がある理由について話しました。 実際のデータを扱う場合、これは非常に重要です。なぜなら、多くの場合、情報の記録に多くの省略、異常値、不正確な測定、および些細なエラーがあるため、各データ科学者は、たとえば、異常を検出するための統計的方法を持っているか、少なくともその数を見ることができるからですデータセットのゼロ、フィーチャの最大値と最小値。 「ガベージイン-ガベージアウト」の原則はキャンセルされていません。







アレクサンダーのスピーチとATMネットワークの管理の事例については、HabréのSberbank企業ブログで近日中に読むことができます。 待って！

新しい職業研究室

次に、Newprolabでデータを操作するための教育プログラムの責任者であるArtem Pichuginは、今後のプログラム「Big Data Specialist 8.0」でテストされる、機械学習コンテストをホストする新しいアプローチを導入しました。 プログラムの開始は3月22日です。



すべては2009年にNetflixからの競争で始まり、勝者は100万ドルを受け取り、これらのイベントが人気になり、Kaggleが登場し、すべてが急速に発展し始めました。 しかし、当初からすべてがうまくいかなかったことが判明しました：2012年には、Netflixからのコンテストの勝者の決定は、実稼働環境で実装することは不可能であり、複雑すぎて困難でした。



数年が経ちましたが、何が見えますか？ それは2018年であり、人々はまだ洗練されたモデルを作成しようとしています、彼らは巨大なアンサンブルを構築しています。 そして、それはますます高い成果のスポーツに似ています。



もちろん、プログラムでは、このアプローチを使用して、意思決定の複雑さに関係なく、特定のメトリックで学生をランク付けしました。 ただし、これらの決定がすべてビジネスからどれだけ離れているかを認識し、プログラムの競争に対してまったく新しいアプローチを取ります。



これで、最終評価では、SLAに適した、つまりある程度の合理的な期間に適合するソリューションのみが考慮されます。 さらに、他のいくつかのアプローチとは異なり、合計モデルトレーニング時間は考慮されませんが、テストサンプルの1つの要素の予測がどれだけ速く計算されるかが考慮されます。





以前は、Jupyter Notebookでモデルを作成した人がテストサンプルの予測を作成し、保存して送信し、最終的なメトリックを計算していました。 次に、彼はこのモデルをDockerにパックする必要があります。つまり、 JSONファイルを受け取って、小さな「クッキー」を作成する必要があります。 したがって、私たちはプロダクションに近づき、コンペティションやハッカソンを開催するすべての人にこの方向に進むよう促します。



ところで、今後数か月以内にハッカソンを開催します。 情報を見逃さないように、 FacebookとTelegramで購読してください！

ランブラー＆Co

次に、映画館でのコンピュータービジョンの使用に関する興味深い事例を整理して、映画館訪問者の数、性別、年齢を認識するRambler＆Coの機械学習スペシャリストのグループプレゼンテーションについて説明します。



映画館のネットワークのセッションで観客の構成を評価し、観客の社会人口統計的構成を理解する必要があり、セッションの前に表示される1つまたは別の広告にお金を提供する広告主に報告することを担当しました。



データソースから始めましょう。 Rambler-Cashierがあるように見えるため、ユーザーに関する多くの情報がありますが、これらのデータによると、実際には推定値に偏りがあります。 家族で見る場合、チケットはお父さんまたはお母さんが購入します。これがカップルの場合は、男性が購入するなどです。 したがって、別の解決策を見つけることができました。各部屋には、映画館に座っている全員を見るカメラがあります。



将来を見据えて、訪問者の場所、性別、年齢を撮影した写真から推定するモデルを構築できたと言います。 ほぼ100％の精度で人の数を判別し、90％の男性と女性を区別し、わずかに低い確率で子供を認識することができました。 どうやってやったの？



マークアップデータ。 当初から多くの問題に直面していました。 まず、少なくとも2つの類似した映画館を見つけることは非常に困難です。それらはすべて異なっており、規模や視点が異なります。 ホール全体を撮影せず、斜めに撮影するカメラがあります。 これに、撮影時にスクリーンで何が起こっているかに応じて、ホールの異なる照明を追加します。異なる品質のデータがあり、自動的にマークアップすることは不可能です。



手動マーキングに頼らなければなりませんでした。 非常に費用がかかり、困難で、作業時間の大部分を占めていたため、データを通常かつ完全にマークアップする「エリートマーカー」のチームを外部から雇うことにしました。 もちろん、人的要因を除外することは不可能であり、多くのエラーがありましたが、最終的にはすべての写真をマークアウトすることができ、モデルを作成する準備が整いました。



LinkNet-ResNetモデル。 これが最初のモデルであり、かなり高い品質を示しました。 3つの主要部分で構成されていました：写真の頭のマスクを見つけるセグメンテーション（LinkNet） 、 各人の頭と境界ボックスの座標を見つけるローカライザー 、および境界ボックスに基づく分類子（ResNet） 、この写真に座っている人を決定します：男性、女性、子供。



トレーニングはタグ付きの写真から始まります。 この写真では、各人の頭に白いガウススポットを適用してマスクを取得します。 その後、各頭の周囲の境界ボックスを使用して画像を切り取り、その後、受信したすべてをネットワークに送信します。 ソース画像と一緒にマスクがセグメンターに送られ、LinkNetが取得され、ターゲットターゲットと一緒にクロップがResNetで提供されます。



予測は少し異なります。 LinkNetでソース画像を提供し、マスクを取得します。 それをローカライザーに送信します。ローカライザーは、ヘッドとバウンディングボックスの座標を見つけます。 次に、それらの作物を切り取り、ResNetに供給し、ニューラルネットワークの出力を取得します。これに基づいて、セッションの人数と社会人口統計の構成など、必要なすべての分析を取得できます。



モデル「チアリーダー」。 前のモデルでは、ホールに床に釘付けされたアームチェアがあり、写真では常に同じ場所に表示されるという先験的な知識は使用しませんでした。 さらに、人々がジムに来るとき、彼らは通常椅子に行き着きます。 この情報を基に、モデルを構築します。



最初に、写真の座席がどこにあるかを認識するようモデルに教える必要があります。ここで、再び手動マーキングに頼らなければなりません。 各ホールの各椅子には、彼が椅子に座っていた場合の平均的な人の頭がある場所にマークが付けられました。



モデルに移りましょう。 まず、一致させる必要があります。頭と椅子を比較し、次に椅子ごとに、それが占有されているか、自由であるか、そして占有されているかどうかを正確に判断します。 次に、これらの椅子に対応する画像のセクションを切り取り、2つのモデルをトレーニングします。1つは椅子が占有されているかどうかを認識し、2つ目は聴衆を3つのカテゴリに分類します。 両方のモデルは、ResNetニューラルネットワークに基づいています。 したがって、「Armchair」とLinkNet-ResNetの違いは、すべての作物が固定されており、写真の座席の位置に結び付けられているのに対し、最初のモデルでは任意に切り取られていることです-頭はどこにありますか？

クレバーデータ

この忙しい日の別のスピーカーは、さまざまなデータ管理ソリューションを専門とするCleverDataのシニアデータサイエンティストであるArtem Prosvetovでした。 彼のプロジェクトは、美容業界向けのマーケティングコミュニケーションを最適化することでした。







誰に、何を、いつ送信するかを理解するには、個人が購入履歴を持っているもの、現在必要なもの、彼に連絡するポイント、およびチャネルを知る必要があります。 さらに、この情報は購入の履歴だけでなく、サイトでの行動、クリックしたリンク、開いたメールなどからも取得できます。 主な質問：この一連のアクションからモデルの機能を取得する方法は？



最も明白な方法は、これらのイベントシーケンスを次のようにエンコードするようです。







簡単です。アクションは1でエンコードされ、アクションの省略はゼロです。 ただし、ここで問題が発生します。アクションの数が人によって異なります。 したがって、次の論理ステップは、最も長い履歴を持つ人のアクションの期間に等しい固定長のベクトルを設定することです。



また、このようなエンコーディングでは、隣接するアクション間の経過時間が考慮されないことにも注意してください。これは非常に重要です。 したがって、追加のベクトルとして、イベント間の時間差を追加し、数万秒の値がないように、このベクトルを対数化します。 ところで、分布は対数正規分布のように見えます。







最後に、機能が取得され、モデル、つまり一連のイベントを処理するための最も一般的な方法であるニューラルネットワークをトレーニングする準備が整いました。 自動エンコーダーとLSTMネットワークのいくつかのレイヤーで構成されるモデルは、比較的高い品質を示しました。ROC-AUCメトリックは0.87でした。

TrainMyData

会議の初日は、もう1人の卒業生であり、 ビッグデータスペシャリスト8.0プログラムのコーディネーターであるArtem Trunovによって完了しました。 Artemは、TrainMyDataプラットフォームの機械学習コンテストでどのように勝ったかについて話しました。



競争の一環として、Ascott Groupの週次売上の時系列を予測する必要がありました。 もちろん、ニューラルネットワークは現在最も一般的な時系列予測方法ですが、これは古典的な計量経済学アルゴリズムが機能しないことを意味するものではありません。 私がこのコンテストで優勝するのを助けたのは彼らだったので、それぞれについて思い出したいと思います。

• 指数平滑法。 これは、時系列を予測する最も簡単な方法の1つであり、後の観測にはより多くの重みが割り当てられるため、メモリが短くなります。
• 季節性を強調します。 このアルゴリズムのフレームワークでは、時系列は3つのコンポーネントに分解されます：トレンド、季節成分、および残差。これらは「ホワイトノイズ」に似ているはずです。

• Holt-Wintersモデル。 これは、3つの指数平滑法です。最初の系列、傾向、および季節成分に応じて。

• （S）ARIMA。 ARIMAは、ターゲット変数の遅れを学習する自己回帰モデルです。 ラグは、系列を定常状態にするために必要です（平均、分散、共分散は時間に依存しません）。 アルゴリズムの変更はSARIMAです。これにより、データの季節性を考慮することができます。 ニューラルネットワークに対するARIMAの利点は、トレーニング用の少数のパラメーターであり、再トレーニングの傾向が少ないことです。 また、赤池情報量基準（AIC）が最小になるまで、グリッドを介してパラメーターを迅速かつ効率的にソートできることも意味します。

イベントに関するフィードバック：



「クレームされたテクノロジーが実際のプロジェクトでどのように使用されているかを学ぶことは非常に有用で興味深いものでした。」- Andrey Tolmachev、Assi LLC。



「良いイベントをありがとう。正しい作業形式、きちんとした準備、講演者の良い構成、そして多くの有用な情報。」- マキシム・ソロキン、STC「Volcano」R＆Dグループの責任者。



Facebookページですべてのスピーチのビデオを見ることができます 。



まもなく、データエンジニアリング、データプラットフォーム、ETL、検索ヒントサービスなどのニーズに合わせたさまざまなデータエンジニアツールの使用に重点が置かれた、データサイエンスウィークエンド2018の2日目のレビューを公開します。 お楽しみに！