[论文解读] Side Information Fusion for Recommender Systems over Heterogeneous Information Network

Huan Zhao, Quanming Yao+3 more|arXiv (Cornell University)|Jan 8, 2018

Recommender Systems and Techniques参考文献 14被引用 6

一句话总结

该论文提出了一种新颖的框架，通过异质信息网络（HINs）中的元图（metagraphs）融合辅助信息，以捕捉用户与物品之间的复杂语义相似性。该框架引入了两种模型——'MF + FM' 和分层注意力融合（HAF）——联合学习来自多个元图的潜在特征，在四个真实世界数据集上显著提升了推荐准确率，优于当前最先进方法。

ABSTRACT

Collaborative filtering (CF) has been one of the most important and popular recommendation methods, which aims at predicting users' preferences (ratings) based on their past behaviors. Recently, various types of side information beyond the explicit ratings users give to items, such as social connections among users and metadata of items, have been introduced into CF and shown to be useful for improving recommendation performance. However, previous works process different types of information separately, thus failing to capture the correlations that might exist across them. To address this problem, in this work, we study the application of heterogeneous information network (HIN) to enhance CF-based recommendation methods. However, we face challenging issues in HIN-based recommendation, i.e., how to capture similarities of complex semantics between users and items in a HIN, and how to effectively fuse these similarities to improve final recommendation performance. To address these issues, we apply metagraph to similarity computation and solve the information fusion problem with a ``matrix factorization (MF) + factorization machine (FM)'' framework. For the MF part, we obtain the user-item similarity matrix from each metagraph and then apply low-rank matrix approximation to obtain latent features for both users and items. For the FM part, we apply FM with Group lasso (FMG) on the features obtained from the MF part to train the recommending model and, at the same time, identify the useful metagraphs. Besides FMG, a two-stage method, we further propose an end-to-end method, hierarchical attention fusing (HAF), to fuse metagraph based similarities for the final recommendation. Experimental results on four large real-world datasets show that the two proposed frameworks significantly outperform existing state-of-the-art methods in terms of recommendation performance.

研究动机与目标

• 解决现有协同过滤方法孤立处理辅助信息类型（如社交、文本、元数据）的局限性，避免跨类型相关性的损失。
• 通过引入元图克服传统元路径在建模异质信息网络（HINs）中复杂多跳关系时的语义局限性。
• 构建统一框架，融合多种元图衍生的相似性，以提升用户-物品推荐性能。
• 通过分层注意力机制实现元图重要性与特征融合的端到端有效学习。
• 在多种真实世界数据集上，证明所提模型在推荐准确率方面优于现有最先进方法。

提出的方法

• 使用元图——HIN 中节点类型与边类型的序列——定义用户与物品之间的复杂语义路径，例如：User → Review → Aspect → User → Business。
• 对每个元图的用户-物品相似度矩阵应用矩阵分解（MF）并结合核范数正则化，以无监督方式提取用户与物品的低秩潜在特征。
• 采用组套索正则化的因子分解机（FMG）融合来自不同元图的潜在特征，实现对信息丰富元图的自动选择。
• 提出一种端到端深度学习模型——分层注意力融合（HAF）——通过节点级与元图级注意力机制，动态加权并组合基于元图的嵌入表示。
• 在节点级别使用多头注意力机制，在元图级别使用可学习注意力向量，以优先关注相关语义路径。
• 使用随机梯度下降进行模型优化，并结合早停策略，同时调整嵌入维度、注意力头数量和注意力向量大小等超参数。

实验结果

研究问题

• RQ1 如何在统一框架中有效融合多种类型的辅助信息（如社交、文本、元数据），以提升协同过滤性能？
• RQ2 元图（超越传统元路径）在推荐任务中，能在多大程度上捕捉异质信息网络中的复杂语义关系？
• RQ3 可学习的融合机制（如分层注意力）是否能优于人工设计或正则化融合策略，在组合基于元图的特征时表现更优？
• RQ4 在真实推荐场景中，哪些类型的元图（如涉及评论与方面）最能预测用户偏好？
• RQ5 嵌入维度与注意力头数量等超参数如何影响所提 HAF 模型的性能？

主要发现

• 所提 HAF 模型在全部四个数据集（Amazon、Yelp、Diginom 及另一数据集）上均取得最佳性能，测试 RMSE 值显著低于当前最先进基线方法。
• 在 Amazon 数据集上，HAF 的测试 RMSE 达到 0.852，较第二好的方法提升 5.7%，证明其在捕捉复杂语义关系方面的有效性。
• 采用组套索正则化的 MF+FM 框架能有效识别并优先选择最具信息量的元图，提升泛化能力并减少无关辅助信息带来的噪声。
• HAF 中的分层注意力机制学会为语义丰富的元图（如 U→R→A→U→B，即 User→Review→Aspect→User→Business）分配更高的注意力权重，这些元图对捕捉文本与评分相似性至关重要。
• 超参数消融实验表明，最优性能对应输出嵌入维度为 32，Amazon 上使用 3 个注意力头，Yelp 上使用 4 个注意力头，元图级别注意力向量大小为 32。
• 注意力权重的可视化结果证实，涉及文本内容（如评论中提及的方面）的元图始终被赋予最高重要性，与 Amazon 和 Yelp 等平台中文本内容对推荐结果的显著影响一致。