[论文解读] Representation Learning for cold-start recommendation

Gabriella Contardo, Ludovic Denoyer+1 more|arXiv (Cornell University)|Dec 22, 2014

Recommender Systems and Techniques参考文献 13被引用 7

一句话总结

本文提出了一种归纳式矩阵分解模型，用于冷启动推荐，通过从稀疏评分中联合学习最优面试项目和用户表征。通过在潜在空间中将用户嵌入建模为累积平移，该方法实现了对新用户的快速、准确推荐，并在四个数据集上优于基线方法。

ABSTRACT

A standard approach to Collaborative Filtering (CF), i.e. prediction of user ratings on items, relies on Matrix Factorization techniques. Representations for both users and items are computed from the observed ratings and used for prediction. Unfortunatly, these transductive approaches cannot handle the case of new users arriving in the system, with no known rating, a problem known as user cold-start. A common approach in this context is to ask these incoming users for a few initialization ratings. This paper presents a model to tackle this twofold problem of (i) finding good questions to ask, (ii) building efficient representations from this small amount of information. The model can also be used in a more standard (warm) context. Our approach is evaluated on the classical CF problem and on the cold-start problem on four different datasets showing its ability to improve baseline performance in both cases.

研究动机与目标

• 解决协同过滤中的冷启动问题，即新用户缺乏历史评分。
• 开发一种方法，同时选择对用户有信息量的项目用于面试，并从稀疏反馈中构建有效的用户表征。
• 设计一种归纳模型，可泛化至未见用户，且无需重新训练，与归纳式矩阵分解不同。
• 通过统一的表征学习，弥合冷启动与热启动推荐之间的差距。
• 通过端到端优化项目选择与表征学习，提升低数据场景下的推荐准确性。

提出的方法

• 通过将用户表征函数整合到损失目标中，将冷启动问题形式化为表示学习任务。
• 在潜在空间中将用户表征建模为累积平移，其中每个选定项目上的评分都会贡献一个学习到的向量位移。
• 使用可微分损失函数，通过随机梯度下降联合优化项目选择与表征学习。
• 采用潜在空间平移机制：对于面试集中的每个项目，根据评分将一个学习到的嵌入向量加到用户的表征上。
• 应用L2正则化矩阵分解，并采用结构化目标，以最小化观测评分上的预测误差，同时学习最优项目集。
• 通过统一的归纳框架支持冷启动（新用户）和热启动（现有用户）场景。

实验结果

研究问题

• RQ1 联合优化面试项目选择与用户表征学习是否能提升冷启动推荐性能？
• RQ2 所提出的归纳模型在处理仅有极少反馈的新用户时，与归纳式矩阵分解相比表现如何？
• RQ3 与静态或启发式项目选择相比，学习最优面试项目集在多大程度上提升了推荐准确性？
• RQ4 该模型是否能在单一统一框架内泛化至冷启动与热启动设置？
• RQ5 潜在空间中的基于平移的用户表征机制是否在稀疏数据上比标准矩阵分解具有更好的泛化能力？

主要发现

• 所提出的归纳方法（IAM）在四个真实世界数据集（包括MovieLens 1M和Netflix）上优于基线协同过滤方法。
• 与静态面试选择和标准矩阵分解相比，该模型在冷启动用户上的推荐准确性（以RMSE和MAE衡量）有显著提升。
• 联合学习面试项目集与用户表征比分别优化项目选择与表征学习的性能更优。
• 该方法在热启动场景中也表现出色，证明了在冷用户与热用户场景下的稳定性。
• 基于平移的用户表征机制实现了快速推理，并能无需重新训练高效集成新用户反馈。
• 实证结果表明，模型自适应选择信息性项目并从少量评分中构建稳健表征的能力，是其成功的关键。