[論文レビュー] A Semi-Supervised and Inductive Embedding Model for Churn Prediction of Large-Scale Mobile Games

Xi Liu, Muhe Xie+5 more|arXiv (Cornell University)|Aug 20, 2018

Customer churn and segmentation被引用数 4

ひとこと要約

本稿では、属性付きエッジ埋め込みと時系列損失を用いて、ユーザー・ゲーム相互作用埋め込みと退会予測関数を同時に学習する、新規の半教師あり、帰納的ディープラーニングモデルを提案する。実世界のSamsung Game Launcherから得た40,000個のゲームと40,000人のユーザーを対象とした評価において、新規の属性付きランダムウォークとエッジ埋め込みフレームワークを通じて、文脈特徴と動的関係変化の両方を捉えることで、大規模な退会予測において最先端の手法を上回る性能を発揮した。

ABSTRACT

Mobile gaming has emerged as a promising market with billion-dollar revenues. A variety of mobile game platforms and services have been developed around the world. One critical challenge for these platforms and services is to understand user churn behavior in mobile games. Accurate churn prediction will benefit many stakeholders such as game developers, advertisers, and platform operators. In this paper, we present the first large-scale churn prediction solution for mobile games. In view of the common limitations of the state-of-the-art methods built upon traditional machine learning models, we devise a novel semi-supervised and inductive embedding model that jointly learns the prediction function and the embedding function for user-app relationships. We model these two functions by deep neural networks with a unique edge embedding technique that is able to capture both contextual information and relationship dynamics. We also design a novel attributed random walk technique that takes into consideration both topological adjacency and attribute similarities. To evaluate the performance of our solution, we collect real-world data from the Samsung Game Launcher platform that includes tens of thousands of games and hundreds of millions of user-app interactions. The experimental results with this data demonstrate the superiority of our proposed model against existing state-of-the-art methods.

研究の動機と目的

• 数十億回に及ぶユーザー・アプリ相互作用を伴う大規模モバイルゲームプラットフォームにおける退会予測という重要な課題に取り組む。
• 従来の機械学習モデルの限界、特にスケーラビリティの低さ、手作業による特徴工学の依存、新規ユーザーおよび新規ゲームの処理ができないことに対処する。
• ユーザー・ゲーム関係の予測関数と埋め込み関数を同時に学習する帰納的で半教師ありのモデルを開発する。
• WiFiや画面明るさなどの豊富な文脈的属性と、動的相互作用パターンを埋め込みプロセスに統合する。
• 商業的モバイルゲームプラットフォームへの統合に適した、リアルタイムでスケーラブルな退会予測を可能にする。

提案手法

• モデルは、ユーザーとゲームをノードとし、相互作用イベントと属性をエンコードするエッジを持つ、属性付き二部グラフとしてユーザー・ゲーム相互作用を表現する。
• 相互作用エントリティ間のトポロジカルな隣接関係と属性類似度の両方を考慮して、エッジの文脈をサンプリングする、新規の属性付きランダムウォーク技術を設計する。
• 退会予測（教師あり）と文脈回復（教師なし）の両方を同時に最適化する深層ニューラルネットワークを用いてエッジ埋め込みを学習する。
• 時系列損失を導入し、連続するグラフスナップショット間でエッジ埋め込みの一貫性を保つことで、時間的経過に伴う関係のダイナミクスを捉える。
• モデルは帰納的であるため、再トレーニングなしに未観測のユーザー、ゲーム、およびユーザー・ゲームエッジに対しても推論が可能である。
• 構造的データと属性豊富なデータの両方を活用することで、手作業による特徴工学を伴わず、エンドツーエンドで自動的特徴学習を実現するフレームワークをサポートする。

実験結果

リサーチクエスチョン

• RQ1 数十億回のユーザー・アプリ相互作用を伴う大規模モバイルゲームにおいて、半教師ありで帰納的なエッジ埋め込みモデルが、効果的に退会を予測できるか。
• RQ2 ランダムウォークのサンプリングにおいて、トポロジカル構造と属性類似度の両方を組み込むことで、予測性能がどのように向上するか。
• RQ3 エッジ埋め込みに時間的ダイナミクスをモデル化することで、静的埋め込みと比較して、退会予測の正確性がどの程度向上するか。
• RQ4 提案されたモデルは、モバイルゲームに限らず、ユーザー・オブジェクト関係を含む他の退会予測シナリオにも一般化可能か。
• RQ5 予測関数と埋め込み関数の共同最適化は、分離型または完全に教師なしのアプローチと比較して、どのように優れているか。

主な発見

• 提案モデルは、Samsung Game Launcherプラットフォームから収集した実世界の40,000個のゲームと40,000人のユーザーのデータセットにおいて、優れた性能を発揮した。
• 特に大規模で動的なユーザー・ゲーム相互作用を処理する場面において、既存の最先端手法を顕著に上回る退会予測の正確性を達成した。
• 時系列損失の導入により、エッジ埋め込みがより安定的かつ正確になり、時間経過に伴う予測の信頼性が向上した。
• 属性付きランダムウォーク技術により、トポロジカルおよび属性ベースの類似度を組み合わせて、より豊かな文脈を効果的に捉えることができ、表現品質が向上した。
• 半教師あり学習スキームにより、特にラベルが少ない環境下でも一般化性能が向上し、未ラベルデータを用いた文脈回復に活用された。
• モデルは完全に帰納的であるため、継続的に新規ユーザーとゲームが導入される本番環境での展開が可能である。