オンラインゲームでのデータマイニング

すべてのオンラインサービスとゲームでは、視聴者の最大のシェアは、製品を知って最初の数分と数時間で開始直後に残ります。 成功のさまざまな仮説と視聴者の忠誠心の理由-独自性、シンプルさ、使いやすさ、無料、トレーニングまたは指導、感情、および他の多くの要因を含む数百冊の本や記事が非常に重要であると考えられています。



プレーヤーが去る理由と出発を予測できるかどうか知りたかった。 この研究の主題はMMORPG Aionですが、我々の結果は幅広いゲームとオンラインサービスに適用可能でした。



ほとんどの英国の科学者は、ユーザーの記憶が非常に短いことを発見しました。 今日彼はゲームを去り、明日は彼がそれをインストールしたことをまったく覚えていません。 プレーヤーが去った場合、 すぐに行動する必要があります。 しかし、人が本当に去ったのか、それとも彼が今夜友達とビールを飲んでいてゲームに登場しないのかをどのように判断できますか？ 理想的なケースは、ユーザーが私たちを離れる前に潜在的な出口を予測することです。 そして、アイオンはケーキのようなものではないという考えが頭に浮かんだ前でさえ。 おそらく、この問題も解決されますが、より現実的な目標を設定しました- ゲームに最後にログインした日の出発を迅速に予測することです。 1週間の不活動を出発と呼びます。この7日間は待ちたくありませんが、プレーヤーが戻らないことをできるだけ早く知りたいと考えています。 未来を知りたい！

技術面

分析のために、私たちは多くの情報を持っていました-アイオンは私が韓国のゲームの中で見た最高のロギングシステムを持っています、私たちは文字通り彼の動き、くしゃみ、彼がサーバーに残したすべての痕跡についてプレイヤーについて知っています。 分析期間-ゲームの最初の9レベル、ゲームプレイの開始時間約10時間-この期間中、新参者の約半分が落ちました。



分析システムのリソースの一部がプロジェクトに割り当てられました-2つのサーバーブレードデュアルXeon E5630 32Gb RAM、ソースデータと中間データ用の10 Tbコールドストレージ、作業データ用のRAID10 SASアレイ内の3 Tbホットストレージ。 MS SQL 2008R2の下の両方のサーバー-1つはデータベースの下、もう1つはAnalysis Servicesの下。 ソリューションのソフトウェア部分は、SQL Serverに含まれる標準のMicrosoft Business Intelligenceパッケージです。

フェーズ1-私はすべてを知っています！

私は長年ゲームデザイナーであり、100回のプレイテストを行ってきたので、今では専門家の意見がプレイヤーが去る理由の90％を与えると確信しました。 私はテレポーテーションの使い方を学びませんでした。足を動かすのにうんざりしていました。 ゲームの最初のモンスターで死亡-左。 2番目のミッションを達成できなかった、立ち往生し、何をすべきかわからない-左。 アイオンは、その品質と技術的有効性をすべて備えているため、初心者にとって最もフレンドリーなゲームではありません。 これは、韓国プレーヤーのハードコアおよびハイパーソーシャル環境向けに設計されたすべての韓国ゲームの機能であり、退屈なロシアのカジュアルユーザー向けではありません。



私は「通常のユーザー」の帽子をかぶって、レースといくつかのクラスの両方でゲームの無料スタートを行い、不器用さ、非論理性、問題をすべて書き出し、チェックする仮説の最初のリストを作成しました。

• 人種とキャラクターのクラス。 ヒーラーのゲームプレイは、全員を左右に動かすマジシャンとは劇的に異なるため、クラスが最も強力な要因になると想定されていました。
• 人が他のゲームをプレイしたかどうかに関係なく、すべてのプロジェクトに対して単一のアカウントを持っているので、クロスコンバージョンを簡単に追跡できます。
• プレーヤーは複数のキャラクターを試しましたか？他のクラスとレースを認識しましたか？
• レベル1〜4、5〜7で彼が何回死亡したか、また、1回のトライアルで何回死亡したか。
• 高レベルのプレイヤーを含む他のプレイヤーとグループに参加しましたか（つまり、他のゲームや実生活で明らかに親しんでいます）
• Aionはリソースを要求しているため、コンピューター上のRAMの量
• キャラクターがメールを受信して​​ギルドに参加したかどうかは、すでにアクティブで経験豊富なプレイヤーによって作成されたセカンダリキャラクターの「双子」の明確な兆候です。
• キャラクターがこのレベルまでに完了したタスクの数、キャンセルされたタスクの数、および単に行わなかったタスクの数
• プレイヤーは、良いパンを与えるゲーム内アンケートに合格していますか
• キャラクターが戦闘で使用するスキルとモンスターを殺すスキル

このリストは印象的で詳細が詳細であることが判明し、初心者がプレーする意欲を失う前に動揺させる多くの方法が見つかりました。 最初のいくつかの仮説をモデルに持ち込み 、ブール変数is_leaverを予測します-プレイヤーは今、7レベルで脱退します：









リフトチャートの読み方：底部の傾斜直線は、コインを反転させる科学的な方法によってブール変数を予測する乱数ジェネレーターの結果です。 すぐに100％に達するトップラインは、未来の理想的な予測子であるオラクルです。 それらの間には、不均一で震えるスレッドがあります-これが私たちのモデルです。 グラフが理想的なラインに近いほど、モデルの予測精度が高くなります。 グラフは第7レベルですが、写真は第1レベルから第9レベルまで類似しています。



致命的！ 私たちの最初のモデルは、イーグルとテールの方法よりも発信プレイヤーを少し良く予測します。 残りの仮説をモデルに送信し、データを消去し、処理します：









すでに優れていますが、それでも精度は50％をわずかに超えています。 そして、より詳細なリコール（第2種のエラー）を見ると、写真は悲しいです。









これはロシア語の同じテーブルです-モデルによって予測された100個のうち、49個は偽（プレイヤーはどこにも行こうとしなかった）であり、モデルの精度は1008 /（1008 + 982）= 51％です。 同時に、モデルは実際の出発の一部を完全にスキップします-真に出発した[391 /（391 + 1008）= 28％]の約28％です。 注意、これはリコールの標準的な定義ではありませんが、そのような式はより明確です。



フェーズ1の結果 ：最初のアイデアはすべて失敗し、予測は機能しません。 シェフ、それはすべてなくなった！

フェーズ2-何も知らない

戦場からの完全な敗北と逃亡、そして永遠の質問「何をすべきか？」 単純ベイズアルゴリズムは、すべてのデータマイニング分類子の中で最も人間が読み取りやすく理解しやすいアルゴリズムです。 ベイジアン分析は、選択された仮説が去り、残ったプレイヤーをかなり弱く特徴付けていることを示しました。つまり、私は最初の前提の選択を間違えました。 しかし、別のアルゴリズムである決定ツリーの深さと感度を試してみたところ、正しい仮説、それに沿ったツリーの分岐があることが明らかになりましたが、間違いなく十分な要因がありません-ツリーの成長は2〜3の分岐によって中断されます。



私が理解していない数学の迷路に単純化することなく- 決定木アルゴリズムは、ソースデータを可能な限り低いエントロピーを持つ、つまり最も異なるデータセットに分割します。 ツリーの分岐が停止している場合、ソースデータに新しい仮説と新しいメトリックが必要であるため、ツリーは入力データストリームをより深く分割し、将来の予測を改善します。



私はプロジェクトチームとブレーンストーミングを行いました。そこで私たちはアイデアを広めました-私たちの新人は誰なのか、彼らはどのようにプレイし、どのように互いに異なるのか 私たちは、友人や妻がどのようにアイオンと知り合いになったのか、それから何が生まれたのかを思い出しました。 ブレインストーミングの結果は、個々の仮説の拡張リスト（プレイヤーがテレポーテーションを使用したか、インベントリを拡張したか、復活ポイントを結び付けたかなど）と新しいアイデアでした。



平均アクティビティを調査するために、いくつかのメトリックを計算しました。

• このレベルで殺されたモンスターの数
• レベルで完了したタスクの数
• 各レベルで費やされた分単位の時間

この段階で、プロジェクトのETL部分（データのロード、変換、クリア）が同時にやり直されました。 SQLの第一人者Ilyaは、SSISでアナライザーコンストラクターを作成しました。このコンストラクターには、ゲームログからの新しいイベントが簡単に接続されます。 ギガバイトのログ。したがって、情報が不足することはなく、毎日新しい仮説が考案されました。



ダウンロード、トレーニング、検証、分析。 各レベルおよび各モデルの一連のリフトチャートをロードするのではなく、処理および分析されたデータをすぐに提供します。









レベル9の精度のピークは、調査時のゲームの内部機能に関連付けられていました。



一般に、画像は2〜4レベルの領域で改善されましたが、台座の下6〜8で、そのような精度では、データはまったく役に立ちません。



デシジョンツリーは元気に示しています-アクティビティファクターは、出発を予測するために最も重要です。 実際、レベルでの時間、モンスターを殺し、タスクを完了するという3つの値が、出発点の最大の割合を決定します。 その他の要因によって追加される精度は5％以下です。 また、ツリーは裸のままで、3番目のブランチでクラウンが壊れます。つまり、モデルはより関連性の高いメトリックを求めます。 まだ不明な点があります-3つのアルゴリズムの精度はレベルによって大きく異なります。



フェーズ2の結果 ：個々の要因ではなく、平均的な活動を測定するというアイデアの成功。 しかし、予測の精度はまだ不十分です。 レーキパスは、結果を分析する正しい順序につながりました。最初に要因と相関関係（ベイズ）、次に結果への影響（決定ツリー）です。

フェーズ3-掘る場所を知っている

進捗に勇気付けられて、プロジェクトの開発のための3つのベクトル-全体的なアクティビティのより多くのメトリック、個々の有効性のより具体的なメトリック、およびMicrosoft BIツールのより詳細な調査を概説しました。



アクティビティを試した後、次のセットに決めました。

• 現在のレベル、前のレベル、および現在の時点までのゲームの合計時間で費やした時間
• モンスターを殺す速度-現在のレベル、前のレベル、すべてのレベルでの1分あたりの破片。
• 1分あたりのタスクの完了速度はMobに似ています。
• ゲームの1日のゲームの平均時間、ゲームに費やした日と費やしていない日（たとえば、月曜日と水曜日に入力された人-1日が欠落している）。

これらの指標により、見逃されたケースがほぼ1.5倍削減されました。 デシジョンツリーは最大9ノードに分岐し始め、メトリックの関連性が示されました。 さらに、良い兆候は異なるレベルのツリーの統合でした-私が書いたように最後のフェーズでアルゴリズムの精度がレベルからレベルにジャンプした場合、明確に表示されました-ツリーは最初のノード、2番目のノード、3番目のノードでまったく同じインジケーターでビートします、文字レベルに関係なく。 そして、ナイーブベイズはすでにツリーとニューラルネットワークの背後に5〜10％います。



ゲームプレイの深さとゲームの有効性（たとえば、自動攻撃の割合）に関連する新しい個別のメトリックをいじる必要がありました。 キャラクターをクラス（右に戦士、左にヒーラー）に分割し、各クラスで%%自動攻撃の分布の25、50、75パーセンタイルを計算し、全員を4つのカテゴリーに分けました。 これでデータが正規化され 、ゲームクラスを相互に比較できます。カテゴリ番号はデータマイニングモデルの入力になります。



オンラインゲームでは、キャラクターはさまざまな呪文や能力で敵を殺します。 自動攻撃は、誕生から与えられる無料の最も基本的な（そして最も弱い）打撃です。 プレーヤーが効果的であれば、彼はキャラクターの能力を使用します-そして、すべてのヒットの中で%%の自動攻撃はそれほど高くありません。 ただし、ゲームの仕組みに大きく依存します。異なるクラスのこのパーセンテージは正確に何ですか。 アイオンでは、中央値からの広がりは、魔術師の5％から戦士の70％であり、クラス内でもばらつきは大きい。



個々のメトリックは、ツリーの7番目から9番目のノードの深さに固定されます。 彼らは予測の精度を数パーセント上げましたが、状況を劇的には改善しませんでした。 次のステップは、Microsoft SQL Server 2008でのデータマイニングの書籍を分析して、Analysis Servicesでの作業の複雑さを調べることでした。 本自体は、ツリーの感度の調整（強度に加えて1〜2パーセントの精度向上）にのみ役立ちましたが、適切な離散化のアイデアを促しました。



上記の自動攻撃の例では、いくつかの基準に従って手動でデータを離散化し、カテゴリに分類しました。 SQL Serverは、いくつかの方法で自動的に離散化を行います。 実験的に、分割アルゴリズムとセグメント数がモデルの予測力に大きく影響することをすぐに実感しました。 セグメントの数を手動で変更すると、ツリーの形状と精度に大きく影響します。 私は手動調整に1週間を費やし、各レベル（30レベル以上の9レベルの9つのレベル）の各構造に対して慎重にセグメント数を試しました。 一部のメトリックでは、7セグメント（たとえば、 現在のレベルの時間 ）、約12セグメント（ ゲームの合計時間 ）、約20セグメント（ 殺されたモンスターの数 ）が最適でした。



手動調整により予測値が大幅に増加しました-精度はそれほど向上しませんでしたが、モデルはギャップを大幅に減らし始め、ツリーの結果はニューラルネットワークに匹敵しました：







フェーズ3の結果 ：精度と精度の許容可能な指標に到達し、ゲームとプレイヤーについて多くの興味深いことを学びました。

フェーズ4-勝利のみ

私は正直に天井に達したと思った-木は9-12ノットの深さに枝分かれし、精度は大幅に改善されました。 新しい仮説では精度は向上せず、新しい要因では情報が得られません。 原則として、78％とリコール16％の全体的な精度は、プレーヤーとの作業を開始するのに十分です。 私はおそらく、そのような番号でゲームを続けるためにそのような無料のサブスクリプションを与えることはないでしょうが、エラーなしで関連情報をプレイヤーに知らせることはすでに可能です。



ヘルプが予期せずに来ました-データマイニングプロジェクトが3か月間行われているため、ログがやや古くなっています-ゲームはこの間に変更されました。 いくつかの新しいデータをロードし、同時にETL手順を最終決定したので、モデルの変更に気付きました。 新しいデータでは、それらは異なる動作をしました-一般に、同じ精度と精度で、ツリーパーティションは異なっていました。 この段階では、3つのアルゴリズムすべてが非常に迅速に学習しました。各レベル9に1分かかり、追加のデータセットを提供するのは簡単です。



それは言われています-完了し、3ヶ月にわたって蓄積されたすべてのデータをアンロードし、一般的に一気に学習するためにモデルを送信します（プロセスは1分ではなく、各レベルで5つもかかります-重要ではありません）。 手動調整のもう1つのラウンドであり、結果は次のとおりです。















トレーニングデータの量を増やすことで、処理プロセスが長くなりましたが、なんと素晴らしい結果でしょう！



残念ながら、最初のレベルでは少ししかできません-出発の約半分、Avinash Koshikが「 私は来た、私は去った 」と言ったように 。 文字通りいくつかのプレイヤーのアクションに関するデータがあります-そして、彼はゲームクライアントを閉じて戻りません。







上記のすべての研究は、蓄積された履歴データに関するトレーニングであることを思い出させてください。 バトルチェックが欲しい！ ライブデータをチェックします。今日の新鮮なユーザーを取り込み、モデルを実行して、予測の結果を保存します。 1週間後、モデルの予測と客観的な現実を比較します。1週間前の新入社員のうち、実際に残ったのは誰で、誰がゲームに残っていましたか。

最も興味深い

プロジェクトの最初の目標- 初心者がゲームを離れるという予測 -は確実に達成されます。 そのような正確さで、プレイヤーの返品に関して決定を下し、彼と通信し、彼のやる気を起こさせ、パンを与えることがすでに可能です。 そして、この予測は退場のほぼ日です。今夜、ある人がゲームを去りました-明日の午前5時にデータが処理され、退場の可能性が高い信頼性ですでにわかっています。



2番目の目標は達成されましたか、プレイヤーが去る理由がわかりましたか ？ いや そして、これは私にとって最も奇妙な結果です-出発を予測する優れた確率で、「なぜ？」という質問は未回答のままです。 覚えておいて、私はプロジェクトを開始し、次の形式の個々の要因に関する仮説を書き留めました。

• 人種とキャラクターのクラス
• 人はイノバの他のゲームをしましたか
• プレイヤーは複数のキャラクターを試しましたか
• レベル1〜4、5〜7で何度死んだか、合計で何回死んだか
• 他のプレイヤーとグループに参加した
• コンピューター上のRAMの量
• キャラクターはメールを受け取り、ギルドに参加しましたか
• キャラクターがこのレベルまでに完了したタスクの数、キャンセルされたタスクの数、および単に行わなかったタスクの数
• プレイヤーはゲーム内の投票に合格しますか
• キャラクターが戦闘で使用するスキルとモンスターを殺すスキル

そのような多くの要因がテストされています-60以上。それらのどれも何らかの形で重要であり、プレイヤーの出発を決定しません。 単一ではありません！ ゲームでは、プレイヤーの流出を引き起こすような魔法の障壁は見つかりませんでした。



最も重要な要因は？ プレーヤーは、ゲームの知り合いの最初の日に最初の7レベルに合格しましたか（7レベルはゲームの約3時間です）。 これは撤退の重要な予測因子です。最初のセッションでプレーヤーが持ち去られず、3時間も費やさなかった場合、ゲームを終了する可能性が非常に高くなります。 次に強力な要因のグループは、プレーヤーの総アクティビティです。

• 現在のレベル、過去および合計でゲームに費やした時間
• 1日の平均でゲームに費やした時間
• 過去およびすべての現在のレベルで1時間あたりに殺されたモンスター
• タスクの速度-時間あたりの個数

要約 ：2つのまったく異なる結果が得られました。一般的なアクティビティのメトリックに基づいてプレイヤーが去る予測と、個々のプレイスタイルの詳細な分析です。 私たちは各新人の出発を正確に予測し、各新人に自分がどのようにプレイスタイルを向上させることができるか、より効率的にプレイする方法、ゲームのすべてのチップを使用する方法、そしてもっと楽しむ方法を十数通り伝えることができます。

勝利！

2か月間、ゼロから-私たちは誰もデータマイニングに近づきませんでした-2冊の本の助けと、Innovaで作成した強力で受動的な分析システムに基づいて、新しいことを試してみたいという願望を持ち、 積極的にツールを作成しました未来を見る 。 過去のデータに関する定期的なレポートや傾向分析とは異なり、午前6時に、昨日Aionの新規参入者をほぼ確実に知っています（今日ゲームでそれらを見るかどうか）。 そして手遅れになる前に行動することができます。



分析はオンラインゲームについて行われましたが、ご覧のとおり、予測の正確性への主な貢献は一般化されたアクティビティメトリックによるものでした。もちろん、ユーザーが積極的に取り組んでいる製品またはサービスのいずれでも、このアプローチは確実に機能しますまったく新しいレベルに到達したい。



PS。 トピックがHabraの居住者にとって興味深い場合、去年の高齢者の予測、セグメンテーションとクラスタリング、クラスター間の移行、および過去1年間に行った他のデータマイニングプロジェクトについて続けることができます。



PS2。 2冊目の本、私は絶対にみんなをお勧めします- 集合的な心のプログラミング