[论文解读] User-specific Adaptive Fine-tuning for Cross-domain Recommendations

Lei Chen, Fajie Yuan+4 more|arXiv (Cornell University)|Jun 15, 2021

Recommender Systems and Techniques参考文献 40被引用 4

一句话总结

本文提出用户特定自适应微调（UAF），一种新颖的跨域推荐方法，通过策略网络按用户动态选择微调预训练模型的层。UAF 显著提升了冷启动用户推荐的准确性和鲁棒性，尤其在数据稀缺条件下表现优异，优于全局微调和现有的迁移学习基线方法，在多个数据集和任务上均取得更优结果。

ABSTRACT

Making accurate recommendations for cold-start users has been a longstanding and critical challenge for recommender systems (RS). Cross-domain recommendations (CDR) offer a solution to tackle such a cold-start problem when there is no sufficient data for the users who have rarely used the system. An effective approach in CDR is to leverage the knowledge (e.g., user representations) learned from a related but different domain and transfer it to the target domain. Fine-tuning works as an effective transfer learning technique for this objective, which adapts the parameters of a pre-trained model from the source domain to the target domain. However, current methods are mainly based on the global fine-tuning strategy: the decision of which layers of the pre-trained model to freeze or fine-tune is taken for all users in the target domain. In this paper, we argue that users in RS are personalized and should have their own fine-tuning policies for better preference transfer learning. As such, we propose a novel User-specific Adaptive Fine-tuning method (UAF), selecting which layers of the pre-trained network to fine-tune, on a per-user basis. Specifically, we devise a policy network with three alternative strategies to automatically decide which layers to be fine-tuned and which layers to have their parameters frozen for each user. Extensive experiments show that the proposed UAF exhibits significantly better and more robust performance for user cold-start recommendation.

研究动机与目标

• 解决推荐系统中的冷启动问题，即用户在目标领域交互数据不足的情况。
• 克服全局微调策略的局限性，后者对所有用户一视同仁，而未考虑其与源域的相似性差异。
• 开发一种个性化微调机制，根据用户需求自适应调整迁移学习策略，以最大化偏好迁移效果。
• 通过仅选择性地更新每名用户相关的层，提升低数据场景下的抗过拟合能力。
• 证明所提方法在推荐之外的其他下游任务中的通用性，包括用户画像预测任务。

提出的方法

• 在大规模源域数据集上训练一个深度序列推荐模型（NextItNet）作为预训练主干模型。
• 引入一个策略网络，为每个独立用户预测应微调预训练模型的哪些层，以及哪些层应保持冻结。
• 实现策略网络的三种变体：硬门控（UAF-Hard）、软门控（UAF-Soft）和强化学习驱动（UAF-RL），以确定逐层微调决策。
• 利用策略网络的输出在微调过程中应用动态的逐层掩码，实现对预训练模型的用户特定自适应。
• 通过反向传播端到端联合训练策略网络与推荐模型，使其能够学习每名用户的最优微调策略。
• 将策略网络中的原始 NextItNet 主干替换为 GRU，以评估方法的灵活性与性能，结果表明性能相当。

实验结果

研究问题

• RQ1 与全局微调策略相比，用户特定的微调策略是否能提升跨域推荐性能？
• RQ2 在典型冷启动用户常见的低数据场景下，UAF 表现如何？
• RQ3 当训练数据稀缺时，UAF 是否比标准微调更有效地防止过拟合？
• RQ4 所提方法能否泛化到推荐之外的其他下游任务，如用户画像预测？
• RQ5 该策略网络设计在不同架构和任务上的鲁棒性与灵活性如何？

主要发现

• 在 ColdRec-1 和 ColdRec-2 上，UAF-Hard、UAF-Soft 和 UAF-RL 在 MRR@5 和 HR@5 上显著优于 Finetune-All 和 PeterRec，其中在 ColdRec-1 上 MRR@5 最高提升达 6.1%。
• UAF 方法比标准微调更有效地防止过拟合，学习曲线显示性能持续提升至第 9 个 epoch，而 Finetune-All 在第 5 个 epoch 后开始下降。
• 采用 GRU 架构的策略网络（UAF-GRU 变体）在性能上与原始 NextItNet 基础的策略网络相当，证明了该方法在架构上的灵活性。
• 在用户画像预测任务（性别、年龄、生活状态）中，UAF 表现优于基线方法，所有三个数据集上均取得更高的准确率和 F1 分数，证实了其通用性。
• 消融实验证实，与固定全局策略相比，用户特定的微调策略能带来更优性能，验证了个性化在迁移学习中核心贡献的有效性。