[论文解读] Translational Recommender Networks.

Yi Tay, Anh Tuan Luu+1 more|arXiv (Cornell University)|Jul 17, 2017

Recommender Systems and Techniques参考文献 43被引用 5

一句话总结

本文提出了一种名为 Translational Recommender Networks (TransRec) 的神经架构，通过使用带有注意力机制的潜在关系注意记忆模块（LRAM），以自适应的向量空间平移方式建模用户-物品关系。该方法仅基于隐式反馈即可揭示情感、时间与属性等隐藏关系结构，在推荐基准上实现了最先进性能，同时提升了可解释性。

ABSTRACT

Representing relationships as translations in vector space lives at the heart of many neural embedding models such as word embeddings and knowledge graph embeddings. In this work, we study the connections of this translational principle with collaborative filtering algorithms. We propose Translational Recommender Networks ( extsc{TransRec}), a new attentive neural architecture that utilizes the translational principle to model the relationships between user and item pairs. Our model employs a neural attention mechanism over a \emph{Latent Relational Attentive Memory} (LRAM) module to learn the latent relations between user-item pairs that best explains the interaction. By exploiting adaptive user-item specific translations in vector space, our model also alleviates the geometric inflexibility problem of other metric learning algorithms while enabling greater modeling capability and fine-grained fitting of users and items in vector space. The proposed architecture not only demonstrates the state-of-the-art performance across multiple recommendation benchmarks but also boasts of improved interpretability. Qualitative studies over the LRAM module shows evidence that our proposed model is able to infer and encode explicit sentiment, temporal and attribute information despite being only trained on implicit feedback. As such, this ascertains the ability of extsc{TransRec} to uncover hidden relational structure within implicit datasets.

研究动机与目标

• 将词向量与知识图谱嵌入中的平移原理，有效应用于推荐系统中的协同过滤任务。
• 解决度量学习算法在建模用户-物品交互时的几何刚性问题。
• 通过自适应平移提升向量空间中用户与物品的建模能力与细粒度拟合能力。
• 通过使模型能够从隐式反馈中推断出如情感、时间与属性等潜在关系因子，提升可解释性。
• 在多个推荐基准上实现最先进性能，同时保持可解释性。

提出的方法

• 模型采用潜在关系注意记忆（LRAM）模块，用于存储与检索用户与物品之间的潜在关系。
• 在 LRAM 上应用注意力机制，动态选择每个用户-物品对最相关的关联关系。
• 通过向量空间中的自适应平移更新用户与物品的表征，其中平移向量捕捉潜在关系。
• 该架构学习用户与物品特定的平移向量，以建模超越简单点积或余弦相似度的个性化关系。
• 模型通过隐式反馈信号端到端训练，无需显式评分或标注。
• 注意力机制使模型能够聚焦于特定关系成分（如情感或时间趋势），即使这些属性未提供显式监督。

实验结果

研究问题

• RQ1 能否将词向量与知识图谱嵌入中的平移原理有效适配到推荐系统中的协同过滤任务？
• RQ2 与固定度量学习方法相比，向量空间中自适应的、用户与物品特定的平移是否能提升建模灵活性与性能？
• RQ3 具有注意记忆模块的神经架构能否仅从隐式反馈中推断出可解释的关系因子（如情感、时间与属性）？
• RQ4 所提出的模型是否在多样化的推荐基准上均实现最先进性能，同时保持可解释性？
• RQ5 LRAM 模块在隐式数据集中能否有效捕捉并表征隐藏的关系结构？

主要发现

• TransRec 在多个推荐基准上实现最先进性能，其准确率与泛化能力均优于现有方法。
• 尽管仅基于隐式反馈进行训练，该模型仍通过 LRAM 模块显式编码了情感、时间与属性信息，展现出改进的可解释性。
• 自适应平移的使用缓解了传统度量学习算法的几何刚性，实现了更精细的用户与物品表征学习。
• 对 LRAM 模块的定性分析表明，其成功捕捉了如时间趋势与情感变化等有意义的关系模式。
• 注意力机制能有效聚焦于相关的关系组件，表明模型在无显式监督的情况下，仍能学会关注有意义的潜在关系。