[论文解读] Fusing Similarity Models with Markov Chains for Sparse Sequential Recommendation

Ruining He, Julian McAuley|arXiv (Cornell University)|Sep 28, 2016

Recommender Systems and Techniques参考文献 17被引用 95

一句话总结

本文提出 Fossil 方法，通过融合项目相似性模型与一阶马尔可夫链，提升稀疏数据集下的个性化序列推荐性能。通过学习用户特定的权重，平衡长期偏好与短期序列动态，Fossil 在数据稀疏条件下优于最先进方法，同时捕捉到有意义的个性化与序列模式。

ABSTRACT

Predicting personalized sequential behavior is a key task for recommender systems. In order to predict user actions such as the next product to purchase, movie to watch, or place to visit, it is essential to take into account both long-term user preferences and sequential patterns (i.e., short-term dynamics). Matrix Factorization and Markov Chain methods have emerged as two separate but powerful paradigms for modeling the two respectively. Combining these ideas has led to unified methods that accommodate long- and short-term dynamics simultaneously by modeling pairwise user-item and item-item interactions. In spite of the success of such methods for tackling dense data, they are challenged by sparsity issues, which are prevalent in real-world datasets. In recent years, similarity-based methods have been proposed for (sequentially-unaware) item recommendation with promising results on sparse datasets. In this paper, we propose to fuse such methods with Markov Chains to make personalized sequential recommendations. We evaluate our method, Fossil, on a variety of large, real-world datasets. We show quantitatively that Fossil outperforms alternative algorithms, especially on sparse datasets, and qualitatively that it captures personalized dynamics and is able to make meaningful recommendations.

研究动机与目标

• 解决传统模型因用户交互数据有限而失效的稀疏序列推荐挑战。
• 在统一框架中结合长期用户偏好（通过项目相似性建模）与短期序列动态（通过马尔可夫链建模）。
• 通过利用全局序列模式为冷启动用户提供支持，提升稀疏数据集上的性能。
• 实现个性化推荐，根据用户历史长度自适应平衡长期偏好与短期转移。

提出的方法

• Fossil 使用基于相似性的方法建模用户偏好，每个用户由其交互过的项目表示，推荐基于项目-项目相似性进行。
• 引入一阶马尔可夫链以建模项目之间的序列转移，通过转移概率捕捉短期动态。
• 为每个用户学习一个个性化加权向量 η^u，平衡长期偏好（通过相似性）与短期转移（通过马尔可夫链）的贡献。
• 给定用户 u 时，项目 j 的最终推荐得分是相似性得分与马尔可夫转移得分的加权和，权重由用户自适应学习。
• 使用随机梯度下降端到端训练模型，以优化观测到的用户-项目交互的预测损失。
• 通过项目表示向量 P_i 与 Q_j 的内积计算转移可能性，实现高效推理。

实验结果

研究问题

• RQ1 如何有效融合基于相似性的模型与马尔可夫链，以提升稀疏数据集下的序列推荐性能？
• RQ2 所提出的融合方法在真实世界稀疏序列推荐基准上，相较于现有最先进模型，性能提升程度如何？
• RQ3 该模型如何适应不同交互历史长度的用户，特别是交互动作极少的冷启动用户？
• RQ4 所学习的模型捕捉了何种序列与个性化动态？这些动态是否具有语义意义？

主要发现

• Fossil 在多个最先进方法（包括 FPMC 和 FISM）中表现更优，尤其在稀疏数据集上，展现出更强的抗数据稀缺能力。
• 在大规模真实世界数据集（如 Amazon 的 Clothing, Shoes and Jewelry）上，Fossil 实现了显著的性能提升，用户行为记录超过五百万人次。
• 可视化结果表明，Fossil 学习到的转移具有语义一致性，例如推荐搭配的服饰（如手表与衬衫、珠宝与帽子），表明其捕捉到有意义的序列动态。
• 所学习的用户特定权重 η^u_0 显示，对于交互较少的用户，模型赋予序列动态更高的重要性，验证了在稀疏性下的自适应行为。
• 对于交互历史较长的用户，模型逐渐依赖长期偏好，反映出随着数据积累，个性化能力持续增强。
• 定性分析确认，Fossil 能够捕捉用户行为中的‘序列一致性’，例如按顺序推荐相关物品（如男孩服饰或商务装）。