[论文解读] Deep Context-Aware Recommender System Utilizing Sequential Latent Context

Amit Livne, Moshe Unger+2 more|arXiv (Cornell University)|Sep 9, 2019

Recommender Systems and Techniques参考文献 25被引用 16

一句话总结

本文提出了一种深度上下文感知推荐系统，通过基于LSTM的编码器-解码器网络对用户上下文序列进行建模，学习上下文序列的压缩潜在表示。通过将此序列潜在上下文整合到神经协同过滤框架中，模型显著提升了推荐准确率，在两个真实世界数据集上的hit@k指标最高提升16.3%，RMSE指标最高提升9.47%。

ABSTRACT

Context-aware recommender systems (CARSs) apply sensing and analysis of user context in order to provide personalized services. Adding context to a recommendation model is challenging, since the addition of context may increases both the dimensionality and sparsity of the model. Recent research has shown that modeling contextual information as a latent vector may address the sparsity and dimensionality challenges. We suggest a new latent modeling of sequential context by generating sequences of contextual information and reducing their contextual space to a compressed latent space.We train a long short-term memory (LSTM) encoder-decoder network on sequences of contextual information and extract sequential latent context from the hidden layer of the network in order to represent a compressed representation of sequential data. We propose new context-aware recommendation models that extend the neural collaborative filtering approach and learn nonlinear interactions between latent features of users, items, and contexts which take into account the sequential latent context representation as part of the recommendation process. We deployed our approach using two context-aware datasets with different context dimensions. Empirical analysis of our results validates that our proposed sequential latent context-aware model (SLCM), surpasses state of the art CARS models.

研究动机与目标

• 解决在上下文感知推荐系统（CARS）中建模动态、演化的用户上下文的挑战，同时缓解数据稀疏性和高维性问题。
• 通过上下文信息的序列建模，捕捉长期上下文模式，以提升推荐准确率。
• 通过用户、物品和序列潜在上下文表示之间的非线性交互，扩展神经协同过滤框架。
• 评估序列潜在上下文建模相较于静态或短期上下文表示的优越性。
• 确定上下文表示中最佳序列长度，以优化推荐性能。

提出的方法

• 在上下文特征序列上训练LSTM编码器-解码器网络，以学习序列上下文的压缩、低维潜在表示。
• LSTM编码器的隐藏状态被用作序列潜在上下文向量，捕捉用户上下文序列中的时间依赖性。
• 将序列潜在上下文整合到神经协同过滤（NCF）框架中，以建模用户、物品和上下文之间的非线性交互。
• 使用隐式反馈进行端到端训练，通过随机梯度下降优化损失函数。
• 从用户的近期交互中构建上下文序列，不依赖用户ID，从而保护隐私并实现跨用户的泛化。
• 对序列长度进行敏感性分析，以识别推荐性能最优的上下文窗口大小。

实验结果

研究问题

• RQ1 通过基于LSTM的自编码器建模序列上下文，是否能相比静态或仅当前上下文的模型，提升推荐准确率？
• RQ2 序列潜在上下文的引入如何影响排名性能（例如，top-k推荐中的hit@k）？
• RQ3 在预测准确率（RMSE、MAE）方面，上下文表示的最佳序列长度是多少？
• RQ4 所提出的序列潜在上下文模型（SLCM）在评分预测和排名任务中，相较于最先进CARS模型的表现如何？
• RQ5 该模型是否能在不依赖用户特定标识符的情况下，仍实现良好的跨用户泛化，同时捕捉有意义的上下文动态？

主要发现

• 在CARS数据集上，SLCM模型相比最佳基线模型（NeuMF）在MAE上提升15.2%，在RMSE上提升9.47%。
• 在Yelp数据集上，SLCM相比NeuMF在RMSE上提升12.3%，在MAE上也提升12.3%，RMSE为1.239，MAE为1.011。
• SLCM在RMSE和MAE上均优于其他所有神经上下文模型（ENCM、LNCM），证明了建模长期上下文序列的优势。
• 在hit@k评估中，SLCM在k=1时相比基线最高提升16.3%，在k=3时提升10.88%，在k=5时提升6.75%，表明其在top-1和top-3推荐中具有更优的排序质量。
• 最优序列长度被确定为2–3个上下文向量，因为更长的序列（5–6个）导致RMSE升高至0.344，MAE升高至0.275，性能下降。
• 在序列长度为2和3时，模型取得最佳结果，CARS数据集上的RMSE为0.336，MAE为0.243。