[论文解读] Deep Collaborative Filtering with Multi-Aspect Information in Heterogeneous Networks

Chuan Shi, Xiaotian Han+5 more|arXiv (Cornell University)|Sep 14, 2019

Recommender Systems and Techniques参考文献 64被引用 8

一句话总结

本文提出 NeuACF 和 NeuACF++，这两种基于深度神经网络的模型，利用异构信息网络中的多方面信息以改进协同过滤。通过元路径提取方面级相似度矩阵，并与深度神经网络及自注意力机制融合，这些模型在真实世界数据集上实现了最先进性能，显著优于现有的潜在因子模型和神经网络模型。

ABSTRACT

Recently, recommender systems play a pivotal role in alleviating the problem of information overload. Latent factor models have been widely used for recommendation. Most existing latent factor models mainly utilize the interaction information between users and items, although some recently extended models utilize some auxiliary information to learn a unified latent factor for users and items. The unified latent factor only represents the characteristics of users and the properties of items from the aspect of purchase history. However, the characteristics of users and the properties of items may stem from different aspects, e.g., the brand-aspect and category-aspect of items. Moreover, the latent factor models usually use the shallow projection, which cannot capture the characteristics of users and items well. In this paper, we propose a Neural network based Aspect-level Collaborative Filtering model (NeuACF) to exploit different aspect latent factors. Through modelling the rich object properties and relations in recommender system as a heterogeneous information network, NeuACF first extracts different aspect-level similarity matrices of users and items respectively through different meta-paths, and then feeds an elaborately designed deep neural network with these matrices to learn aspect-level latent factors. Finally, the aspect-level latent factors are fused for the top-N recommendation. Moreover, to fuse information from different aspects more effectively, we further propose NeuACF++ to fuse aspect-level latent factors with self-attention mechanism. Extensive experiments on three real world datasets show that NeuACF and NeuACF++ significantly outperform both existing latent factor models and recent neural network models.

研究动机与目标

• 解决现有协同过滤模型仅依赖用户-物品交互历史、无法捕捉用户多方面偏好与物品特征的局限性。
• 提出一种系统化方法，从推荐系统中多样化的对象类型与交互中提取方面级特征。
• 利用深度神经网络从多个方面学习稳健的非线性潜在因子，以提升推荐准确性。
• 通过注意力机制有效融合多方面潜在因子，以优先考虑具有信息量的方面。
• 证明所提出的模型在性能上优于现有的潜在因子模型与基于深度学习的推荐方法。

提出的方法

• 模型构建异构信息网络（HIN）以表示推荐系统中多样化对象（如用户、物品、品牌等）及其关系。
• 使用不同的元路径提取用户和物品的方面级相似度矩阵，以捕捉品牌、类别等不同方面。
• 通过深度神经网络处理这些方面级相似度矩阵，以学习非线性、方面特定的潜在因子。
• NeuACF 通过逐元素平均或拼接后接最终预测层，融合学习到的方面级潜在因子。
• NeuACF++ 通过引入自注意力机制，在聚合过程中动态加权不同方面的重要性，从而增强融合效果。
• 模型通过负采样和随机梯度下降进行端到端训练，以优化预测损失。

实验结果

研究问题

• RQ1 建模用户偏好与物品属性的多个方面（而不仅限于购买历史）是否能提升推荐性能？
• RQ2 如何利用元路径从异构信息网络中系统性地提取方面级特征？
• RQ3 当输入为方面级相似度矩阵时，深度神经网络能否有效学习用户与物品之间的非线性关系？
• RQ4 基于注意力的方面级潜在因子融合是否优于简单的平均或拼接？
• RQ5 超参数（如维度、深度和负采样比例）如何影响模型性能？

主要发现

• NeuACF 和 NeuACF++ 在三个真实世界数据集（ML100K、Amazon 和另一个未指明的数据集）上显著优于传统潜在因子模型与近期基于深度学习的模型。
• NeuACF++ 在 ML100K 上于每条正样本使用 64 个负样本时性能达到峰值，在 Amazon 上则为 128 个，表明适度的负采样可提升泛化能力。
• NeuACF++ 在 ML100K 上的最佳隐藏层数为 5 层，在 Amazon 上为 3 层，表明更深的网络在某些情况下可能过拟合或难以学习恒等映射。
• 两种模型的最佳潜在因子维度约为 16–32，超过此范围后性能下降，原因可能是过拟合或噪声增加。
• NeuACF++ 中的自注意力机制能够更有效地融合方面级因子，从而在所有数据集上均持续优于 NeuACF。
• 结果表明，结合深度神经网络与注意力机制的多方面建模，是显著提升 Top-N 推荐准确性的强大方法。