[论文解读] Context-aware Sequential Recommendation

Qiang Liu, Shu Wu+3 more|arXiv (Cornell University)|Sep 19, 2016

Recommender Systems and Techniques参考文献 13被引用 23

一句话总结

该论文提出上下文感知循环神经网络（CA-RNN），一种新颖的模型，通过根据时间、位置和行为间隔等上下文因素动态调整输入矩阵和转移矩阵，显著提升了在淘宝和Movielens-1M数据集上最先进的方法的性能。

ABSTRACT

Since sequential information plays an important role in modeling user behaviors, various sequential recommendation methods have been proposed. Methods based on Markov assumption are widely-used, but independently combine several most recent components. Recently, Recurrent Neural Networks (RNN) based methods have been successfully applied in several sequential modeling tasks. However, for real-world applications, these methods have difficulty in modeling the contextual information, which has been proved to be very important for behavior modeling. In this paper, we propose a novel model, named Context-Aware Recurrent Neural Networks (CA-RNN). Instead of using the constant input matrix and transition matrix in conventional RNN models, CA-RNN employs adaptive context-specific input matrices and adaptive context-specific transition matrices. The adaptive context-specific input matrices capture external situations where user behaviors happen, such as time, location, weather and so on. And the adaptive context-specific transition matrices capture how lengths of time intervals between adjacent behaviors in historical sequences affect the transition of global sequential features. Experimental results show that the proposed CA-RNN model yields significant improvements over state-of-the-art sequential recommendation methods and context-aware recommendation methods on two public datasets, i.e., the Taobao dataset and the Movielens-1M dataset.

研究动机与目标

• 解决现有序列推荐模型在捕捉真实用户行为中丰富上下文信息方面的局限性。
• 识别并建模两类不同的上下文：输入上下文（如时间、位置等外部条件）和转移上下文（连续行为之间的时间间隔）。
• 开发一个统一框架，将两类上下文整合到循环神经网络架构中，以提升序列预测性能。
• 证明联合建模输入和转移上下文相比仅考虑单一类型上下文的模型具有更优性能。

提出的方法

• 用基于外部情境因素（如一天中的时间、位置和天气）变化的自适应、上下文特定输入矩阵，替代传统RNN中的固定输入矩阵。
• 引入基于连续用户行为之间时间间隔自适应的上下文特定转移矩阵，以捕捉时间依赖的转移动态。
• 使用贝叶斯个性化排序（BPR）进行优化，以最大化用户偏好预测的排序性能。
• 应用通过时间反向传播（BPTT）进行端到端训练，实现基于梯度的上下文感知表征学习。
• 设计模块化架构，通过独立的自适应矩阵机制显式建模输入和转移上下文。
• 通过消融研究评估CA-RNN-input和CA-RNN-transition变体，以分离每类上下文的贡献。

实验结果

研究问题

• RQ1 输入上下文（如时间、位置和天气）如何影响序列推荐中的用户行为预测？
• RQ2 转移上下文（即连续行为之间的时间间隔）在序列依赖建模中的影响程度如何？
• RQ3 统一的基于RNN的模型能否有效整合输入和转移上下文以提升推荐准确性？
• RQ4 CA-RNN与最先进序列推荐和上下文感知推荐模型相比性能如何？
• RQ5 在上下文感知RNN框架中，学习表征的最优维度是多少？

主要发现

• CA-RNN显著优于最先进序列推荐模型，在淘宝数据集上相比RNN的Recall@1指标相对提升91.8%。
• 在Movielens-1M数据集上，CA-RNN相比RNN将Recall@1提升19.1%，NDCG提升9.5%，表明在各类指标上均保持一致增益。
• 与RNN相比，CA-RNN在淘宝数据集上实现MAP的相对提升60.4%，NDCG提升31.5%，凸显其在排序性能上的有效性。
• 在淘宝数据集上，CA-RNN-input优于CA-RNN-transition；而在Movielens-1M数据集上，CA-RNN-transition表现更优，表明上下文类型对数据特征具有依赖性。
• 该模型在不同嵌入维度下均保持强性能，淘宝数据集最优维度为d=20，Movielens-1M为d=10，显示出对超参数设置的鲁棒性。
• 即使在非最优维度下，CA-RNN仍持续优于传统RNN，证实了上下文感知自适应在表征学习中的价值。