[论文解读] Rank and Rate: Multi-task Learning for Recommender Systems

Guy Hadash, Oren Sar Shalom+1 more|arXiv (Cornell University)|Jul 31, 2018

Recommender Systems and Techniques参考文献 21被引用 15

一句话总结

该论文提出了一种新颖的多任务学习框架——Rank and Rate（RnR），通过联合优化两个任务（即用户对项目的交互决策（排序）和评分预测）来建模用户的两阶段决策过程，使用共享的用户和项目嵌入。该方法在最先进基线模型上显著提升了推荐性能，在MovieLens 1M数据集上Recall@10最高达到12.36%，在Yelp数据集上达到4.00%，证明了在协同过滤中建模用户行为的顺序性具有重要价值。

ABSTRACT

The two main tasks in the Recommender Systems domain are the ranking and rating prediction tasks. The rating prediction task aims at predicting to what extent a user would like any given item, which would enable to recommend the items with the highest predicted scores. The ranking task on the other hand directly aims at recommending the most valuable items for the user. Several previous approaches proposed learning user and item representations to optimize both tasks simultaneously in a multi-task framework. In this work we propose a novel multi-task framework that exploits the fact that a user does a two-phase decision process - first decides to interact with an item (ranking task) and only afterward to rate it (rating prediction task). We evaluated our framework on two benchmark datasets, on two different configurations and showed its superiority over state-of-the-art methods.

研究动机与目标

• 解决传统单任务推荐模型将排序与评分预测独立处理所带来的局限性。
• 将用户行为的顺序性——即先选择项目（排序），再为其打分（评分预测）——建模为两阶段决策过程。
• 通过多任务学习在排序与评分预测任务之间共享表示，从而提升推荐性能。
• 证明在尊重用户决策动态的前提下，将显式评分信号整合到多任务框架中，可实现更优的泛化能力和准确性。
• 提供一种通用、即插即用的框架，可增强任何现有的排序与评分预测算法，且无需修改网络架构。

提出的方法

• 提出一种多任务学习框架，通过共享用户和项目嵌入，联合训练排序模型（如CDAE或BPR）与评分预测模型（如SVD）。
• 将用户决策过程建模为两个顺序阶段：(1) 交互选择（排序）与(2) 显式评分分配（评分预测），并为每个阶段使用不同的损失函数。
• 采用加权组合的排序与评分预测损失，其中超参数α控制两个任务之间的权衡。
• 使用协同去噪自编码器（CDAE）进行排序任务，通过用户身份和去噪正则化，从部分观测中重建用户交互历史。
• 当不使用显式评分时，采用贝叶斯个性化排序（BPR）进行排序，通过优化已观测与未观测项目之间的成对排序来实现。
• 使用SVD进行评分预测，通过最小化预测评分与实际评分之间的平方误差，结合用户和项目偏置。
• 在共享嵌入空间中，联合优化用户和项目向量，以提升两个任务的表示质量。

实验结果

研究问题

• RQ1 将用户的两阶段决策过程——即先选择项目，再打分——建模为联合任务，是否能相比将排序与评分预测视为独立任务，显著提升推荐性能？
• RQ2 通过在排序与评分预测任务之间共享表示的多任务学习，是否能比单任务或基线多任务方法带来更好的泛化能力与性能？
• RQ3 在建模用户行为顺序性的多任务框架中引入显式评分信号，对标准推荐指标（如Recall@k和MRR@k）的性能有何影响？
• RQ4 所提出的框架是否可在不同数据集上有效应用，并适用于多种底层排序与评分模型（如CDAE+SVD、BPR+SVD），而无需架构修改？
• RQ5 两阶段建模方法在多大程度上能缓解协同过滤中的数据稀疏性与选择偏差问题？

主要发现

• 所提出的Rank and Rate（RnR）框架在MovieLens 1M数据集上实现了12.36%的Recall@10，显著优于次佳方法（Vanilla CDAE+SVD为10.40%）和流行度基线（2.78%）。
• 在Yelp 2018数据集上，RnR实现了4.00%的Recall@10，超过Vanilla CDAE+SVD基线（3.18%）和流行度基线（1.66%），表明在不同领域中均具有一致的性能增益。
• RnR框架在MovieLens 1M上的MRR@10提升至0.0497，是最佳单任务基线（SVD为0.0120）的两倍以上，表明其排序质量更优。
• 该方法在所有评估指标和数据集上均持续优于基线的多任务学习与单任务学习方法，证实了建模两阶段决策过程的有效性。
• 性能增益主要归因于该框架能够通过任务感知的共享表示，有效利用用户行为的顺序性——即先选择项目，再进行评分。
• 该框架具有通用性且适用于多种模型：无论采用CDAE+SVD还是BPR+SVD，RnR均优于其对应的基线多任务方法，展现出广泛的适用性。