[论文解读] A Latent Feelings-aware RNN Model for User Churn Prediction with Behavioral Data

Meng Xi, Zhiling Luo+2 more|arXiv (Cornell University)|Nov 6, 2019

Recommender Systems and Techniques参考文献 14被引用 6

一句话总结

本文提出 LaFee，一种潜在情绪感知的 RNN 模型，仅通过行为数据联合预测用户流失，并估计用户的满意度与期望值。通过将流失预测重新表述为 BMM-UCP 的回归问题，该模型有效利用序列行为推断隐藏情绪状态，在长期序列学习中表现优于基线模型，并展现出有意义且可解释的潜在情绪，支持针对性的用户留存策略。

ABSTRACT

Predicting user churn and taking personalized measures to retain users is a set of common and effective practices for online game operators. However, different from the traditional user churn relevant researches that can involve demographic, economic, and behavioral data, most online games can only obtain logs of user behavior and have no access to users' latent feelings. There are mainly two challenges in this work: 1. The latent feelings, which cannot be directly observed in this work, need to be estimated and verified; 2. User churn needs to be predicted with only behavioral data. In this work, a Recurrent Neural Network(RNN) called LaFee (Latent Feeling) is proposed, which can get the users' latent feelings while predicting user churn. Besides, we proposed a method named BMM-UCP (Behavior-based Modeling Method for User Churn Prediction) to help models predict user churn with only behavioral data. The latent feelings are names as satisfaction and aspiration in this work. We designed experiments on a real dataset and the results show that our methods outperform baselines and are more suitable for long-term sequential learning. The latent feelings learned are fully discussed and proven meaningful.

研究动机与目标

• 解决仅在有行为日志而无人口统计或直接情绪反馈时预测用户流失的挑战。
• 直接从行为序列估计用户的潜在情绪——特别是满意度与期望值，因为这些因素对个性化留存策略至关重要。
• 开发一种基于行为的建模方法（BMM-UCP），将流失预测从分类问题转化为回归问题，提升模型可扩展性并更充分地利用原始行为数据。
• 验证所学习的满意度与期望值状态在物理上具有意义且可解释，而非仅仅是模型的伪影。
• 证明联合预测流失与潜在情绪可为游戏运营者提供可操作的洞察，例如针对性的服务调整与动态推荐。

提出的方法

• 提出 LaFee，一种定制的 RNN 架构，通过建模序列行为模式，联合预测用户流失并估计潜在情绪状态——满意度与期望值。
• 引入 BMM-UCP（基于行为的用户流失预测建模方法），将用户流失预测重新定义为回归任务：预测下一次用户操作或退出前的时间间隔。
• 将用户操作间的时间间隔（t_in）作为期望值的代理变量，其中较短的时间间隔表示更高的继续游戏意愿。
• 通过游戏内参与时长（t_out）建模用户满意度，其中长时间的不活跃状态表明满意度下降，可能引发流失。
• 采用循环架构，保持隐藏状态以捕捉时间依赖性与不断演变的情绪状态，损失函数针对流失预测与潜在情绪估计进行联合优化。
• 采用双流机制，使满意度与期望值作为相互依赖、随时间变化的变量，共同影响用户下一次行为。

实验结果

研究问题

• RQ1 仅使用原始行为日志，能否有效预测用户流失，而无需人口统计或明确的情绪数据？
• RQ2 像 LaFee 这类深度学习模型能否在预测流失的同时，准确估计出有意义的潜在情绪——满意度与期望值？
• RQ3 所估计的满意度与期望值是否在物理上可解释，并与真实用户行为模式一致？
• RQ4 与基于传统分类方法的行为序列相比，BMM-UCP 方法是否能提升模型性能与泛化能力？
• RQ5 所学习的潜在情绪是否可用于推导出对用户留存与游戏设计具有实际意义的洞察？

主要发现

• LaFee 模型在长期序列学习任务中优于基线模型，展现出在行为序列上更优的泛化能力。
• BMM-UCP 方法成功将流失预测转化为回归问题，使模型能更好地利用序列行为数据，并减少对人工特征工程的依赖。
• 所估计的满意度与期望值状态具有物理意义：满意度与游戏内参与时长相关，期望值与操作间隔时间相关。
• 模型的潜在情绪与真实用户行为一致——例如，高满意度可维持高期望值，而低满意度则导致期望值迅速下降并最终引发流失。
• 该模型可实现实时估计用户满意度与期望值，为游戏运营者提供可操作的洞察，用于调整游戏参数或实施个性化推荐。
• 实证分析证实，所学习的潜在情绪与预期的心理动态一致，例如在休息期后，期望值可实现恢复。