OpenDataScienceとMail.Ru Groupは、機械学習のコース教材と新しいローンチを公開します

最近、OpenDataScienceとMail.Ru Groupは、オープンな機械学習コースを実施しました。 前回の発表では 、コースについて多くのことが言われました。 この記事では、コース資料を共有するとともに、新しいローンチを発表します。

UPD：現在、コースは英語で、 mlcourse.aiというブランド名で、Medium に関する記事 、Kaggle（ Dataset ）およびGitHubに関する資料があります 。

待てない人：コースの新しい立ち上げは2月1日です。登録は必要ありませんが、私たちはあなたを覚えて、別々に招待して、 フォームに記入してください。 このコースは、Habréの一連の記事で構成され（ Pandasでの最初のデータ分析が最初です）、 YouTubeチャンネルでの講義、再現可能な資料（コースのgithubリポジトリのJupyterノート）、宿題、Kaggle Inclassコンテスト、チュートリアル、個別プロジェクトデータ分析。 メインニュースはVKontakte グループにあり、コース中の生活はチャンネル#mlcourse_aiの Slack OpenDataScience（ join ）に表示されます。

記事の概要

• コースと他のコースとの違い
• コース資料
• 新しいリリースの詳細をご覧ください。

コースは他のコースとどう違いますか

1.初心者向けではありません

多くの場合、彼らはあなたに何も必要とされないことを教えてくれます。2、3ヶ月であなたはデータ分析の専門家になるでしょう。 Andrew Ngの基本コース「Machine Learning」のフレーズを今でも覚えています。「導関数が何であるかを知る必要はありません。機械学習で最適化アルゴリズムがどのように機能するかを理解できます」。 または、「あなたはすでにほとんどデータ分析の専門家です」など。 教授を大いに尊敬します-これは難しいマーケティングと黄undです。 マタンと線形代数の基礎である導関数の知識がなければ最適化を理解できません！ ほとんどの場合、いくつかのコース（私たちのコースを含む）を修了すると、ミドルデータサイエンティストになることさえありません。 それは簡単ではありません、そしてあなたの半分以上は約3-4週間で落ちるでしょう。 あなたが望んでいるが、数学とプログラミングに没頭する準備ができていない場合は、数式で機械学習の美しさを見て、数十行と数百行のコードを印刷して結果を達成してください-あなたはここにいません。 しかし、ここですべて同じことを願っています。

上記に関連して、入門のしきい値-基本的な（しかし悪くない）レベルでの高等数学の知識とPythonの基本の所有を示します。 まだ準備していない場合の準備方法については、VKontakteグループで詳しく説明します。ここでは、ネタバレの下にあります。 原則として、数学なしでコースを受講できますが、次の図を参照してください。 もちろん、科学者が数学を知る必要がある日付はホリバーですが、ここではAndrei Karpatyの側にいます 。 はい、あなたは backprop を理解する必要があります 。 まあ、数学がまったくなければ、データサイエンスはバブルでソートするようなものです。問題を解決することはできますが、より良く、より速く、よりスマートに行うことができます。 もちろん、数学がなければ、最先端技術に到達せず、それを見ることは非常にエキサイティングです。

2. 理論と 実践理論と実践

多くの機械学習コースがあり、専門分野（「機械学習とデータ分析」など）がありますが、多くは極端すぎるものの1つになります。 。

最適な比率を探しています：Habréの記事には多くの理論があります（線形モデルに関する第4の記事は指標です）。可能な限り明確に提示するように努め、講義でさらに人気があります。 しかし、海の練習-宿題、4つのKaggleコンテスト、プロジェクトなど、それだけではありません。

3.ライブコミュニケーション

ほとんどのコースで欠けているのは、ライブコミュニケーションです。 初心者は、数時間、さらには数十時間もの時間を節約するために、たった1つの短いアドバイスを必要とする場合があります。 Courseraフォーラムは通常、ある時点で消滅します。 私たちのコースのユニークさは、積極的なコミュニケーションと相互支援の雰囲気です。 コース中、Slack OpenDataScienceはあらゆる質問をサポートします。チャットは生き生きと成長します。独自のユーモアがあり、誰かが誰かを荒らします。

4. Kaggleの動作

VKontakteの公開 「成人男性向けの機械学習に関するミーム」から。

Kaggleコンペティションは、データマイニングの実践をすばやく体験するための優れた方法です。 通常、彼らは基本的な機械学習コースを受講した後、彼らに参加し始めます（原則として、Andrew Ngコースは、著者は確かにカリスマ性があり、非常にうまく話しますが、コースはすでに非常に時代遅れです） コースのコースでは、4つのコンペティションに参加するよう招待されます。そのうち2つは宿題の一部であり、モデルから特定の結果を達成する必要があります。他の2つはすでに本格的なコンペティションであり、再作成（サインアップ、モデルの選択）およびオーバーテイクが必要です仲間。

5.無料

まあ、それも重要な要素です。それはすでにそこにあります。 さて、機械学習の普及に伴い、非常に幅広い報酬を得るための教育を提供する多くのコースが見つかります。 そして、ここではすべてが無料であり、偽りの謙虚さもなく、非常にまともなレベルです。

コース資料

ここでは、コースの10のトピック、それらが何に専念しているのか、基本的な機械学習コースがそれらなしではできない理由、および導入された新しい事項について簡単に説明します。

トピック1. Pandasを使用した初期データ分析。 Habréに関する記事

すぐに機械学習から始めて、実際の数学を見てみましょう。 しかし、実際のプロジェクトで作業する時間の70〜80％はデータに煩わされており、ここではPandasが非常に優れているので、ほぼ毎日仕事で使用しています。 この記事では、一次データ分析のためのパンダの基本的な方法について説明します。 次に、通信事業者の顧客の流出に関するデータセットを分析し、単に常識に頼って、トレーニングなしで流出を「予測」しようとします。 このアプローチを過小評価してはいけません。

トピック2. Pythonによるビジュアルデータ分析。 Habréに関する記事

視覚的なデータ分析の役割を過大評価することは困難です。これが、新しい兆候の作成方法、データのパターンと洞察の検索方法です。 K.V. Vorontsovは、視覚化のおかげで、ブースト中にツリーが追加されるにつれてクラスが「離れていく」ことを認識し、この事実が理論的に証明された例を示しています。 講義では、標識の分析のために通常作成される主なタイプの写真について検討します。 また、一般的な多次元空間を覗く方法についても説明します。t-SNEアルゴリズムを使用すると、このようなクリスマスツリーの装飾を描くのに役立ちます。

テーマ3.分類、決定木、および最近傍の方法。

Habréに関する記事

ここでは、機械学習と、分類問題を解決する2つの簡単なアプローチについて説明します。 繰り返しますが、実際のプロジェクトでは、最も単純なアプローチから始める必要があり、ヒューリスティックの後に最初に試す必要があるのは、決定木と最近傍法（および線形モデル、次のトピック）です。 モデルの品質評価と相互検証の重要な問題に触れます。 木の長所と短所、および最近傍の方法について詳しく説明します。 この記事は長くなりますが、特に意思決定ツリーに注目する必要があります-ランダムフォレストとブースティングが構築されるのは、それらの基礎に基づいている-実際に使用する可能性が最も高いアルゴリズムです。

テーマ4.分類と回帰の線形モデル。

Habréに関する記事

この記事は既に小さなパンフレットのサイズになりますが、その理由は十分にあります。線形モデルは、実際の予測で最も広く使用されているアプローチです。 この記事は、私たちのミニチュアコースのようなものです。多くの理論、多くの実践です。 最小二乗法とロジスティック回帰の理論的背景、および線形モデルの実用化の利点について説明します。 また、過度の理論化は行われないことに注意してください;機械学習における線形モデルへのアプローチは、統計的および計量経済学的手法とは異なります。 実際には、訪問したサイトのシーケンスによってユーザーを識別するという非常に現実的なタスクにロジスティック回帰を適用します。 4回目の宿題の後、多くの人が脱落しますが、それでも同じことをすれば、実稼働システムでどのアルゴリズムが使用されているかについて既に十分に理解できます。

テーマ5.構成：バギング、ランダムフォレスト。 Habréに関する記事

ここでも、理論は興味深く、実践的です。 「群衆の知恵」が機械学習モデルで機能する理由を説明します。多くのモデルが1つよりも優れており、最高のモデルでも機能します。 しかし、実際には、ランダムフォレスト（多くの決定ツリーの構成）を吸います-どのアルゴリズムを選択すべきかわからない場合は、試してみる価値があります。 ランダムフォレストの多くの利点とその範囲について詳しく説明します。 そして、いつものように、欠点がないわけではありません。線形モデルがより良く、より速く動作する状況がまだあります。

テーマ6.標識の作成と選択。 テキスト、画像、ジオデータの処理タスクのアプリケーション。 Habréに関する記事 、回帰と正則化に関する講義。

ここでは、記事と講義の計画が少し異なります（一度だけ）。線形モデルの4番目のトピックは大きすぎます。 この記事では、機械学習モデルの機能の抽出、変換、構築に対する主なアプローチについて説明します。 一般に、このレッスンである標識の作成は、データサイエンティストの仕事の最も創造的な部分です。 そしてもちろん、既製のPandasデータフレームだけでなく、さまざまなデータ（テキスト、画像、ジオデータ）を操作する方法を知ることが重要です。

講義では、線形モデルと、MLモデルの複雑さを設定するための主な手法である正則化について再度説明します。 「ディープラーニング」という本は、よく知られている同志（証明リンクを登るのが面倒）を指しており、一般に「すべての機械学習は正則化の本質」であると主張しています。 もちろんこれは誇張ですが、実際には、モデルがうまく機能するためには、モデルを調整する必要があります。つまり、正則化を使用するのが適切です。

テーマ7.教師なしの教育：PCA、クラスタリング。 Habréに関する記事

ここでは、教師なしで教えるという広大なトピックに目を向けます。これはデータがあるときですが、予測したいターゲット属性はありません。 このような未割り当てデータは1ダースであり、それらから利益を得ることができる必要があります。 クラスタリングと次元削減の2種類のタスクについてのみ説明します。 宿題では、携帯電話の加速度計とジャイロスコープからのデータを分析し、それらに電話キャリアをクラスター化して、アクティビティの種類を強調します。

トピック8. Vowpal Wabbitを使用したギガバイトのトレーニング。 Habréに関する記事

ここでの理論は確率的勾配降下法の分析であり、この最適化手法により、大規模なトレーニングサンプルでニューラルネットワークと線形モデルの両方を正常にトレーニングすることが可能になりました。 ここでは、兆候が多すぎる場合の対処方法（属性の値をハッシュするトリック）について説明し、数分でギガバイトのデータでモデルをトレーニングできるユーティリティであるVowpal Wabbitに移動します。 短いテキストの分類、およびStackOverflowに関する質問の分類など、さまざまなタスクの多くのアプリケーションを検討してください。 これまでのところ、この特定の記事の翻訳 （Kaggle Kernelの形式）は、英語から中程度の素材を提出する方法の例として役立ちます。

トピック9. Pythonを使用した時系列分析。 Habréに関する記事

ここでは、モデルに必要なデータ準備の段階、短期および長期の予測を取得する方法など、時系列を扱うさまざまな方法について説明します。 単純な移動平均から勾配ブースティングまで、さまざまなタイプのモデルを見ていきましょう。 また、時系列で異常を検索する方法を検討し、これらの方法の利点と欠点について説明します。

テーマ10.勾配ブースティング。 Habréに関する記事

さて、勾配ブーストなしの場合...これはMatrixnet（Yandex検索エンジン）、およびCatboost-Yandexの新世代ブースティング、および検索エンジンMail.Ruです。 ブースティングは、教師による教育の3つの基本タスク（分類、回帰、ランキング）をすべて解決します。 一般に、私はそれを最良のアルゴリズムと呼びたいと思います。これは真実に近いですが、より良いアルゴリズムはありません。 ただし、データが多すぎず（RAMに収まる）、あまり多くの兆候（数千まで）がなく、兆候が異質（カテゴリ、定量、バイナリなど）である場合、Kaggle競合の経験が示すように、 ほぼ確実に、勾配ブースティングがあなたのタスクに最適です。 したがって、Xgboost、LightGBM、Catboost、H2Oなど、非常に多くのクールな実装が登場したのは理由がなかったわけではありません...

繰り返しになりますが、「XxBustのチューニング方法」マニュアルに限定されることはありませんが、ブーストの理論を詳細に検討し、実際に検討して、Catboostの講義で取り上げます。 ここでのタスクは、競争のベースラインを破ることです。これにより、多くの実際的な問題で機能する方法の良いアイデアが得られます。

新しいリリースの詳細をご覧ください。

コースは2018年2月5日に始まります。 コース期間中：

• Mail.Ru Groupのモスクワ事務所での月曜日19：00-22.00のライブレクチャー。 講義のビデオ録画は同じです （youtube）が、コメント、追加、改善があります。
• Habrに関する記事は古く、 ここが最初です。 記事は現在の宿題とそれらの締め切りを発表し、情報はVKontakte グループとSlack OpenDataScienceの#mlcourse_aiチャンネルで複製されます。
• コンテスト、プロジェクト、チュートリアル、その他のアクティビティについては、 この記事とコースリポジトリで説明してい ます 。
• また、週に1回、Mediumで英語の記事を公開します。 これは、Vowpal Wabbitについてのこの Kaggleカーネルに似ていますが、Mediumのみです。
• 4月23日から7月15日まで、ニューラルネットワークに関する共同のスタンフォードcs231n コースが計画されています（詳細については、ODSスラックのチャネル＃ class_cs231nの固定項目を参照してください）。 これは2回目の打ち上げになりますが、今はちょうど進んでおり、コースは素晴らしいです、宿題は難しく、面白く、非常に便利です。

コースへの接続方法

正式な登録は必要ありません。 宿題をして、競技会に参加するだけで、ランキングであなたを考慮します。 それでも、 この調査に記入すると、コース中に左のメールがあなたのIDになります。同時に、ポイントに近いスタートを思い出させます。

ディスカッションプラットフォーム

• Slack OpenDataScienceの#mlcourse_aiチャネル。 ここでの主な連絡は、質問をすることができます。 切り札-記事や宿題の著者もこのチャンネルにいます。答える準備ができています。 しかし、洪水が多いの​​で、質問する前に固定されたアイテムを見てください。
• VKontakte グループ 。 この壁は公式発表に便利な場所です。

頑張って 最後に、私はすべてが判明すること、主なことを言いたい-終了しないでください！ この「投げてはいけない」あなたは今一目を走り、おそらく気づかなかった。 しかし、考えてみてください：これが主なことです。