[论文解读] DeepCF: A Unified Framework of Representation Learning and Matching Function Learning in Recommender System

Zhi‐Hong Deng, Ling Huang+3 more|arXiv (Cornell University)|Jan 15, 2019

Recommender Systems and Techniques参考文献 27被引用 21

一句话总结

本文提出 DeepCF，一种统一的深度学习框架，将推荐系统协同过滤中的表征学习与匹配函数学习相结合。通过将两种方法的用户-物品表征拼接，并使用全连接层学习匹配分数，DeepCF 在四个隐式反馈基准数据集上实现了最先进性能，在 HR 与 NDCG 指标上均优于现有方法。

ABSTRACT

In general, recommendation can be viewed as a matching problem, i.e., match proper items for proper users. However, due to the huge semantic gap between users and items, it's almost impossible to directly match users and items in their initial representation spaces. To solve this problem, many methods have been studied, which can be generally categorized into two types, i.e., representation learning-based CF methods and matching function learning-based CF methods. Representation learning-based CF methods try to map users and items into a common representation space. In this case, the higher similarity between a user and an item in that space implies they match better. Matching function learning-based CF methods try to directly learn the complex matching function that maps user-item pairs to matching scores. Although both methods are well developed, they suffer from two fundamental flaws, i.e., the limited expressiveness of dot product and the weakness in capturing low-rank relations respectively. To this end, we propose a general framework named DeepCF, short for Deep Collaborative Filtering, to combine the strengths of the two types of methods and overcome such flaws. Extensive experiments on four publicly available datasets demonstrate the effectiveness of the proposed DeepCF framework.

研究动机与目标

• 为解决现有协同过滤方法的局限性：仅依赖表征学习（表达能力有限）或仅依赖匹配函数学习（低秩关系捕捉能力弱）。
• 将基于表征学习的协同过滤方法与基于匹配函数学习的方法统一为单一端到端深度学习框架，以提升推荐性能。
• 设计一种模型，结合两种方法的优势——灵活建模复杂函数关系，高效捕捉低秩用户-物品关系——并利用隐式反馈数据。
• 通过在真实世界隐式反馈数据集上的大量实验，验证该框架的有效性。

提出的方法

• 该框架结合两种不同表征：一种来自基于表征学习的方法（如深度矩阵分解），另一种来自基于匹配函数学习的方法（如基于 MLP 的用户-物品交互建模）。
• 将这两种表征拼接，形成每个用户-物品对的联合表征。
• 使用全连接层处理联合表征，学习非线性匹配分数，实现特征的自适应加权。
• 采用点对损失与负采样进行训练，负样本按每个正样本对独立采样。
• 在联合训练前，对两个组件分别进行预训练，以确保初始表征的多样性与鲁棒性。
• 最终模型 CFNet 采用逐元素乘积与参数化神经层，以增强特征交互并提升性能。

实验结果

研究问题

• RQ1 将表征学习与匹配函数学习相结合，能否使推荐性能超越当前最先进方法？
• RQ2 来自两种不同学习范式的联合表征，如何影响模型捕捉复杂非线性关系与低秩相似性的能力？
• RQ3 在统一框架中，对两个组件进行预训练的影响是什么？
• RQ4 模型性能对超参数（如负采样比例与预测因子数量）的敏感性如何？
• RQ5 所提出的 DeepCF 框架能否在不同类型隐式反馈数据集上实现良好泛化？

主要发现

• 在 ml-1m 数据集上，采用预训练的 CFNet 模型在 HR@10 达到 0.7253，NDCG@10 达到 0.4416，优于未使用预训练的版本。
• 最优负采样比例在 3 至 7 之间，HR@10 在采样比为 3 时达到峰值，NDCG@10 在采样比为 6 时达到峰值。
• 在大多数数据集上，使用 64 个预测因子可获得最佳性能，仅在 AMusic 数据集上，16 个因子表现最优。
• 在所有数据集上，采用预训练的 CFNet 均显著优于未预训练版本，证实了预训练在学习多样化表征中的价值。
• 与基线方法相比，元素级乘积与参数化神经层的结合显著提升了模型性能。
• 该模型在四个多样化数据集（ml-1m、lastfm、AMusic、AToy）上均表现出强泛化能力，验证了 DeepCF 框架的鲁棒性。