[论文解读] Knowing your FATE: Friendship, Action and Temporal Explanations for User Engagement Prediction on Social Apps

Xianfeng Tang, Yozen Liu+4 more|arXiv (Cornell University)|Jun 10, 2020

Recommender Systems and Techniques参考文献 43被引用 6

一句话总结

该论文提出FATE，一种用于社交应用中用户参与度预测的端到端可解释神经框架，通过张量化图神经网络与混合注意力机制的LSTM，整合好友关系网络、用户行为及时间动态。在Snapchat数据集上，FATE相比SOTA方法实现约10%更低的误差和约20%更快的训练/推理速度，同时提供参与度驱动因素的局部与全局解释。

ABSTRACT

With the rapid growth and prevalence of social network applications (Apps) in recent years, understanding user engagement has become increasingly important, to provide useful insights for future App design and development. While several promising neural modeling approaches were recently pioneered for accurate user engagement prediction, their black-box designs are unfortunately limited in model explainability. In this paper, we study a novel problem of explainable user engagement prediction for social network Apps. First, we propose a flexible definition of user engagement for various business scenarios, based on future metric expectations. Next, we design an end-to-end neural framework, FATE, which incorporates three key factors that we identify to influence user engagement, namely friendships, user actions, and temporal dynamics to achieve explainable engagement predictions. FATE is based on a tensor-based graph neural network (GNN), LSTM and a mixture attention mechanism, which allows for (a) predictive explanations based on learned weights across different feature categories, (b) reduced network complexity, and (c) improved performance in both prediction accuracy and training/inference time. We conduct extensive experiments on two large-scale datasets from Snapchat, where FATE outperforms state-of-the-art approaches by ${\approx}10\%$ error and ${\approx}20\%$ runtime reduction. We also evaluate explanations from FATE, showing strong quantitative and qualitative performance.

研究动机与目标

• 解决社交网络应用中用户参与度预测缺乏可解释模型的问题。
• 基于未来指标期望，提出一种灵活的用户参与度定义，可适配多样化的业务场景。
• 设计统一框架，联合建模好友影响、应用内用户行为及时间动态，以提升预测性能与可解释性。
• 通过注意力机制与期望最大化（Expectation-Maximization）实现参与度驱动因素的局部（用户级）与全局（应用级）解释。
• 通过张量化架构降低模型复杂度，提升训练与推理效率。

提出的方法

• FATE采用基于张量的图卷积网络（GCN）建模社交图中好友影响与用户交互模式。
• 采用基于张量的LSTM捕捉时间动态与用户行为序列，同时区分不同行为的重要性。
• 通过混合注意力机制，整合好友、行为与时间组件的特征权重，生成可解释的预测结果。
• 利用期望最大化（Expectation-Maximization）推导全局重要性分数与局部解释的注意力权重。
• 张量化设计相比标准GNN与LSTM变体显著减少参数量，提升训练与推理速度。
• 框架端到端训练，联合优化参与度预测与解释质量。

实验结果

研究问题

• RQ1 如何灵活定义用户参与度，以适应社交应用中多样的业务目标？
• RQ2 好友网络、应用内用户行为与时间动态在多大程度上共同影响用户参与度？
• RQ3 统一的深度学习模型能否同时实现高预测准确率与有意义、可解释的参与度驱动因素分析？
• RQ4 FATE基于注意力的重要性评分与XGBoost及标准LSTM相比，在捕捉时间模式与行为相关性方面表现如何？
• RQ5 基于张量的架构是否能在不损失性能或可解释性的情况下提升模型效率？

主要发现

• 在两个大规模Snapchat数据集上，FATE相比SOTA方法将预测误差降低了约10%。
• 由于其高效的张量化架构，FATE相比SOTA模型实现了约20%的运行时间减少。
• FATE的局部好友重要性评分与实际用户会话时间模式高度相关，表明高重要性好友表现出相似的活跃行为。
• 模型的时间注意力机制比标准LSTM更有效地捕捉用户行为的周期性，后者无法有效分离不同的时间模式。
• FATE的解释在定性与定量上均优于XGBoost与LSTM，具有更均衡且有意义的特征重要性分布。
• FATE中的张量化GCN与LSTM组件在保持高预测准确率的同时，降低了模型复杂度，提升了训练与推理速度。