[论文解读] Collaborative Metric Learning with Memory Network for Multi-Relational Recommender Systems

Zhou Xiao, Danyang Liu+2 more|arXiv (Cornell University)|Jun 24, 2019

Recommender Systems and Techniques参考文献 21被引用 6

一句话总结

本文提出多关系记忆网络（MRMN），一种端到端神经框架，利用外部记忆和注意力机制，对多种反馈类型（如点击、购买、收藏）下的细粒度、多关系用户-物品交互进行建模。通过在度量空间中学习自适应的关系向量，MRMN 在电商数据上的 HR 和 NDCG 指标上相比最先进基线模型最高提升 10%，展现出在捕捉复杂多样的用户偏好方面的优越性能。

ABSTRACT

The success of recommender systems in modern online platforms is inseparable from the accurate capture of users' personal tastes. In everyday life, large amounts of user feedback data are created along with user-item online interactions in a variety of ways, such as browsing, purchasing, and sharing. These multiple types of user feedback provide us with tremendous opportunities to detect individuals' fine-grained preferences. Different from most existing recommender systems that rely on a single type of feedback, we advocate incorporating multiple types of user-item interactions for better recommendations. Based on the observation that the underlying spectrum of user preferences is reflected in various types of interactions with items and can be uncovered by latent relational learning in metric space, we propose a unified neural learning framework, named Multi-Relational Memory Network (MRMN). It can not only model fine-grained user-item relations but also enable us to discriminate between feedback types in terms of the strength and diversity of user preferences. Extensive experiments show that the proposed MRMN model outperforms competitive state-of-the-art algorithms in a wide range of scenarios, including e-commerce, local services, and job recommendations.

研究动机与目标

• 解决现有推荐系统依赖单一反馈类型所带来的局限性，该方法无法捕捉细粒度的用户偏好。
• 在统一框架中对多种反馈类型（如点击、购买、购物车、收藏）下的多样化和复杂用户-物品交互进行建模。
• 通过外部记忆和注意力机制，在度量空间中学习自适应的多关系向量，以提升推荐性能。
• 通过注意力加权的记忆访问实现反馈类型关系的可解释性建模。
• 通过有效利用来自多种交互类型的丰富隐式反馈数据，缓解数据稀疏性问题。

提出的方法

• MRMN 使用外部记忆库，为每种反馈类型存储用户和物品特定的关系向量，实现细粒度偏好建模。
• 注意力机制根据用户、物品和反馈类型的嵌入动态选择相关记忆槽，实现关系的自适应学习。
• 模型使用度量学习优化三元组损失，并对每种反馈类型施加边界约束，其中边界值可学习或根据反馈重要性设定。
• 通过记忆增强的注意力机制和度量学习目标，利用反向传播更新用户和物品嵌入。
• 该框架支持使用单一统一架构进行多种用户行为（如购买、点击）的多任务预测。
• 针对不同反馈类型的边界值（λ^τ）进行调优，以反映其感知重要性，对更关键的反馈类型分配更高的值。

实验结果

研究问题

• RQ1 如何有效将多种隐式反馈类型整合到统一的推荐模型中，以提升个性化推荐？
• RQ2 与单关系或非关系学习相比，多关系度量学习在多大程度上提升了推荐性能？
• RQ3 具有注意力机制的外部记忆能否提升对多样化反馈类型下复杂细粒度用户-物品交互的建模能力？
• RQ4 不同反馈类型如何贡献于偏好表征？其相对重要性是否可被学习或校准？
• RQ5 注意力权重能为用户与物品之间学习到的关系动态提供哪些洞察？

主要发现

• 在天猫电商数据集上，MRMN 在 HR 和 NDCG 指标上相比竞争性最先进模型最高提升 10%，展现出显著的性能提升。
• 使用多关系度量学习（MRML）相比单关系（LRML）和非关系（CML）基线模型带来显著性能提升，尤其在稀疏数据集上表现更优。
• 记忆增强的注意力机制使 MRMN 在性能上优于 LRML，表明自适应记忆访问在捕捉复杂交互方面的有效性。
• 注意力权重可视化显示，更受欢迎的反馈类型（如购买、点击）在记忆槽之间表现出更丰富多变的记忆使用模式，证实了多关系学习能力。
• 为更重要的反馈类型（如购买优于点击）分配更高的边界值可带来更好的性能，验证了模型学习反馈类型关系的能力。
• 该模型在多种场景下均实现一致的性能提升，包括电商、本地服务（新美业）、餐饮推荐（大众点评），展现出广泛的适用性。