[论文解读] Transfer Meets Hybrid: A Synthetic Approach for Cross-Domain Collaborative Filtering with Text

Guangneng Hu, Yu Zhang+1 more|arXiv (Cornell University)|Jan 22, 2019

Recommender Systems and Techniques参考文献 53被引用 9

一句话总结

本文提出TMH，一种新颖的深度神经网络模型，通过联合利用非结构化文本内容与跨领域知识迁移，实现跨领域协同过滤。通过整合用于注意力文本特征提取的记忆网络与用于选择性知识迁移的迁移网络，TMH在两个真实世界数据集上实现了最先进性能，显著缓解冷启动问题，并在排序指标上超越基线模型。

ABSTRACT

Collaborative filtering (CF) is the key technique for recommender systems (RSs). CF exploits user-item behavior interactions (e.g., clicks) only and hence suffers from the data sparsity issue. One research thread is to integrate auxiliary information such as product reviews and news titles, leading to hybrid filtering methods. Another thread is to transfer knowledge from other source domains such as improving the movie recommendation with the knowledge from the book domain, leading to transfer learning methods. In real-world life, no single service can satisfy a user's all information needs. Thus it motivates us to exploit both auxiliary and source information for RSs in this paper. We propose a novel neural model to smoothly enable Transfer Meeting Hybrid (TMH) methods for cross-domain recommendation with unstructured text in an end-to-end manner. TMH attentively extracts useful content from unstructured text via a memory module and selectively transfers knowledge from a source domain via a transfer network. On two real-world datasets, TMH shows better performance in terms of three ranking metrics by comparing with various baselines. We conduct thorough analyses to understand how the text content and transferred knowledge help the proposed model.

研究动机与目标

• 通过整合辅助文本信息与跨领域知识，解决协同过滤中的数据稀疏性与冷启动问题。
• 构建一个端到端的深度学习框架，同时利用物品的文本内容，并将源领域中的有用知识迁移至目标领域。
• 在用户-物品交互的引导下，实现有效且选择性的知识迁移，同时对非结构化文本中的语义内容进行注意力提取。
• 通过联合建模内容信号与跨领域信号，提升低数据场景下的推荐性能，尤其针对冷门用户与冷门物品。

提出的方法

• 采用记忆网络（MNet）利用注意力机制，从非结构化文本（如评论、新闻标题）中注意力地提取并匹配与用户偏好相关的语义内容。
• 提出一种新型迁移网络（TNet），基于用户-物品交互生成的注意力权重，选择性地将源领域物品的知识迁移至目标领域。
• 使用共享的特征交互层，融合由记忆网络与迁移网络学习到的高层表示，实现联合预测。
• 采用排序损失端到端训练整个模型，以优化Top-N推荐性能。
• 在MNet与TNet中均引入注意力机制，分别实现对关键词汇与相关源物品的动态聚焦。
• 将矩阵分解风格的用户与物品嵌入与深度神经网络结合，以建模复杂的用户-物品交互关系。

实验结果

研究问题

• RQ1 在数据稀疏的跨领域设置下，联合建模非结构化文本内容与跨领域知识迁移是否能提升推荐性能？
• RQ2 记忆网络的注意力机制与迁移网络的选择性知识迁移在性能提升中分别起到何种作用？
• RQ3 所提模型在多大程度上缓解了交互数据极少的用户与物品的冷启动问题？
• RQ4 同时整合文本内容与跨领域知识是否比单独使用任一组件更有效？

主要发现

• 在Amazon与Mobile两个数据集上，TMH在NDCG@10、MAP与Recall@10指标上均显著优于多个强基线模型，包括仅使用记忆机制的LCMR与仅使用迁移机制的CSN。
• 消融实验表明，移除记忆组件导致的性能下降程度高于移除迁移组件，表明文本内容提供了更丰富的信息或在推荐中更为关键。
• 在Amazon数据集上，与纯协同过滤模型（MLP）相比，TMH将交互少于7次的冷门用户（冷用户）漏检数减少了12.1%；在Mobile数据集上，对于交互少于10次的用户，该减少比例达到20.9%。
• 迁移网络贡献显著：在Mobile数据集上，若移除该组件，NDCG@10性能下降4.3%，凸显其在知识迁移中的关键作用。
• 该模型通过利用文本语义与跨领域知识，有效缓解了冷门用户与冷门物品的问题，尤其显著提升了交互历史极短的用户与物品的推荐效果。
• MNet与TNet中的注意力机制均至关重要：任一组件被移除均导致性能明显下降，证实了在混合迁移框架中两个组件的必要性。