[论文解读] Recurrent Coevolutionary Feature Embedding Processes for Recommendation

Hanjun Dai, Yichen Wang+2 more|arXiv (Cornell University)|Apr 24, 2017

Recommender Systems and Techniques参考文献 22被引用 7

一句话总结

本文提出了一种递归共进化特征嵌入过程模型，将RNN与多维点过程相结合，以捕捉推荐系统中用户与项目特征之间非线性、随时间演变的相互影响。与最先进方法相比，该模型在多种真实世界数据集上显著提升了用户行为预测性能。

ABSTRACT

Recommender systems often use latent features to explain the behaviors of users and capture the properties of items. As users interact with different items over time, user and item features can influence each other, evolve and co-evolve over time. To accurately capture the fine grained nonlinear coevolution of these features, we propose a recurrent coevolutionary feature embedding process model, which combines recurrent neural network (RNN) with a multi-dimensional point process model. The RNN learns a nonlinear representation of user and item embeddings which take into account mutual influence between user and item features, and the feature evolution over time. We also develop an efficient stochastic gradient algorithm for learning parameters. Experiments on diverse real-world datasets demonstrate significant improvements in user behavior prediction compared to state-of-the-arts.

研究动机与目标

• 在推荐系统中建模随时间演变的用户与项目特征之间的动态、相互影响关系。
• 通过时间交互捕捉用户与项目嵌入的细粒度、非线性共进化过程。
• 开发一种可扩展的学习算法，以高效地在大规模交互数据上训练共进化模型。
• 通过建模特征演化中的相互影响，提升用户行为预测的准确性。

提出的方法

• 该模型采用循环神经网络（RNN）来学习随时间演变的用户与项目嵌入的非线性表示。
• 它整合了多维点过程，将用户-项目交互的时间与顺序建模为连续时间中的事件。
• RNN通过基于交互历史更新嵌入，来捕捉用户与项目特征之间的相互影响。
• 该模型使用随机梯度算法联合优化嵌入演化与事件预测，以实现高效训练。
• 共进化过程通过参数化设计，使得用户特征的变化影响项目特征，反之亦然，形成反馈回路。
• 该框架支持用户与项目表示的端到端学习，同时建模时间动态特性。

实验结果

研究问题

• RQ1 在顺序交互的驱动下，用户与项目特征如何以非线性方式随时间共同演化？
• RQ2 建模用户与项目特征之间的相互影响在多大程度上能提升行为预测的准确性？
• RQ3 递归神经网络能否有效捕捉用户与项目嵌入的时序动态特性？
• RQ4 在真实世界数据集上，所提出的模型与最先进方法相比，在用户行为预测方面表现如何？

主要发现

• 所提出的模型在多种真实世界数据集上均显著提升了用户行为预测性能。
• 将RNN与多维点过程结合，有效实现了用户与项目特征非线性共进化的建模。
• 与独立处理特征的模型相比，该模型更有效地捕捉了用户与项目特征之间的相互影响。
• 随机梯度学习算法使得在大规模交互数据上实现高效训练成为可能。
• 结果表明，建模特征共进化可获得比静态或独立演化嵌入更优的预测性能。