[論文レビュー] A Latent Feelings-aware RNN Model for User Churn Prediction with Behavioral Data

Meng Xi, Zhiling Luo+2 more|arXiv (Cornell University)|Nov 6, 2019

Recommender Systems and Techniques参考文献 14被引用数 6

ひとこと要約

本稿では、行動データのみを用いてユーザーの離脱を予測するとともに、満足度と望みを推定する潜在的感情認識RNNモデルLaFeeを提案する。BMM-UCPを用いて離脱予測を回帰問題に再定式化することで、モデルは順序的な行動データを効果的に活用し、隠れた感情状態を推論する。これは長期的な順序学習においてベースラインを上回り、ターゲットのユーザーリテンション戦略を支援する意味のある解釈可能な潜在的感情状態を示している。

ABSTRACT

Predicting user churn and taking personalized measures to retain users is a set of common and effective practices for online game operators. However, different from the traditional user churn relevant researches that can involve demographic, economic, and behavioral data, most online games can only obtain logs of user behavior and have no access to users' latent feelings. There are mainly two challenges in this work: 1. The latent feelings, which cannot be directly observed in this work, need to be estimated and verified; 2. User churn needs to be predicted with only behavioral data. In this work, a Recurrent Neural Network(RNN) called LaFee (Latent Feeling) is proposed, which can get the users' latent feelings while predicting user churn. Besides, we proposed a method named BMM-UCP (Behavior-based Modeling Method for User Churn Prediction) to help models predict user churn with only behavioral data. The latent feelings are names as satisfaction and aspiration in this work. We designed experiments on a real dataset and the results show that our methods outperform baselines and are more suitable for long-term sequential learning. The latent feelings learned are fully discussed and proven meaningful.

研究の動機と目的

• 行動ログのみが利用可能であり、人口統計データや直接的な感情フィードバックが入手できない状況でのユーザー離脱予測の課題に対処すること。
• ユーザーの潜在的感情状態、特に満足度と望みを、行動シーケンスから直接推定すること。これはパーソナライズドリテンション戦略にとって不可欠である。
• 離脱予測を分類問題から回帰問題に変換することで、モデルのスケーラビリティと生の行動データの活用を向上させる、行動ベースのモデリング手法（BMM-UCP）を開発すること。
• 学習された満足度と望みの状態が物理的に意味のあるものであり、単なるモデルの副作用ではないことを検証すること。
• 離脱と潜在的感情状態の共同予測が、ゲームオペレーターにとっての実行可能なインサイト（例：ターゲット向けのサービス調整や動的レコメンデーション）を提供できることを示すこと。

提案手法

• 順序的な行動パターンをモデル化することで、ユーザーの離脱予測と潜在的感情状態（満足度と望み）の両方を同時に予測する、カスタムRNNアーキテクチャであるLaFeeを提案する。
• ユーザーの離脱予測を回帰タスクに再定式化するBMM-UCP（User Churn Predictionのための行動ベースモデリング法）を導入。具体的には、次の行動またはログアウトまでの時間間隔を予測する。
• ユーザー行動間の時間間隔（t_in）を、望みの代理指標として用い、短い間隔は継続プレイへの高い望みを示す。
• ユーザーの満足度は、ゲーム内でのエンゲージメント期間（t_out）を通じてモデル化し、長時間の非活動は満足度の低下と離脱の兆候を示す。
• 時間的依存性と進化する感情状態を捉える隠れ状態を保持する再帰的アーキテクチャを実装。離脱予測と潜在的感情状態推定の両方を最適化する損失関数を採用。
• 二重ストリーム機構を採用。満足度と望みは、互いに依存し合い、時間的に変化する変数としてモデル化され、ユーザーの次行動に影響を与える。

実験結果

リサーチクエスチョン

• RQ1 人口統計データや明示的な感情フィードバックがなく、生の行動ログのみを用いてユーザーの離脱を効果的に予測できるか？
• RQ2 LaFeeのような深層学習モデルが、離脱予測と併せて意味のある潜在的感情状態（満足度と望み）を同時に推定できるか？
• RQ3 推定された満足度と望みの状態は、物理的に解釈可能で、実際のユーザー行動パターンと整合的か？
• RQ4 BMM-UCP手法は、従来の分類ベースのアプローチと比較して、行動シーケンスの文脈でモデルの性能と一般化能力を向上させるか？
• RQ5 学習された潜在的感情状態を用いて、ユーザーのリテンションやゲームデザインに向けた実行可能なインサイトを導出できるか？

主な発見

• LaFeeモデルは、長期的な順序学習タスクにおいてベースラインモデルを上回り、行動シーケンスに対する優れた一般化性能を示している。
• BMM-UCP手法により、離脱予測が回帰問題に成功して再定式化され、順序的な行動データの活用が向上し、特徴工学の依存度が低下した。
• 推定された満足度と望みの状態は物理的に意味のあるものである。満足度はゲーム内エンゲージメント期間と相関し、望みは行動間隔と相関している。
• モデルの潜在的感情状態は、実際のユーザー行動と整合的である。例えば、高い満足度は望みの維持をもたらし、低い満足度は望みの急速な低下と最終的な離脱を引き起こす。
• モデルはリアルタイムでのユーザー満足度と望みの推定を可能にし、ゲームオペレーターがゲームパラメータを調整するか、ターゲット向けレコメンデーションを提供するための実行可能なインサイトを提供する。
• 実証的分析により、学習された潜在的感情状態が、例えば休息期間後の望みの回復といった予想される心理的ダイナミクスと整合することが確認された。