[论文解读] Parameter-Efficient Transfer from Sequential Behaviors for User Modeling and Recommendation

Fajie Yuan, Xiangnan He+2 more|arXiv (Cornell University)|Jan 13, 2020

Recommender Systems and Techniques参考文献 42被引用 9

一句话总结

该论文提出 PeterRec，一种参数高效的迁移学习框架，可在无需微调主网络的情况下，将预训练的序列用户行为模型适配到多种下游推荐任务中。通过注入小型可训练的‘模型补丁’（grafting onto fixed pre-trained representations），PeterRec 在显著减少参数更新和内存使用的同时，实现了与全量微调相当的性能，尤其在低数据环境下表现优异。

ABSTRACT

Inductive transfer learning has had a big impact on computer vision and NLP domains but has not been used in the area of recommender systems. Even though there has been a large body of research on generating recommendations based on modeling user-item interaction sequences, few of them attempt to represent and transfer these models for serving downstream tasks where only limited data exists. In this paper, we delve on the task of effectively learning a single user representation that can be applied to a diversity of tasks, from cross-domain recommendations to user profile predictions. Fine-tuning a large pre-trained network and adapting it to downstream tasks is an effective way to solve such tasks. However, fine-tuning is parameter inefficient considering that an entire model needs to be re-trained for every new task. To overcome this issue, we develop a parameter efficient transfer learning architecture, termed as PeterRec, which can be configured on-the-fly to various downstream tasks. Specifically, PeterRec allows the pre-trained parameters to remain unaltered during fine-tuning by injecting a series of re-learned neural networks, which are small but as expressive as learning the entire network. We perform extensive experimental ablation to show the effectiveness of the learned user representation in five downstream tasks. Moreover, we show that PeterRec performs efficient transfer learning in multiple domains, where it achieves comparable or sometimes better performance relative to fine-tuning the entire model parameters. Codes and datasets are available at https://github.com/fajieyuan/sigir2020_peterrec.

研究动机与目标

• 解决在标注数据有限的情况下，将序列行为中的用户表征迁移到下游任务的挑战。
• 开发一种参数高效的迁移方法，避免在微调过程中重新训练整个预训练模型。
• 通过单一通用用户表征实现在多个领域和任务间的有效迁移。
• 降低多任务推荐场景下的内存和计算成本。
• 证明基于序列交互的自监督预训练能够生成可迁移的用户表征。

提出的方法

• 采用两阶段训练流程：首先在用户交互序列上使用自监督的下一项预测任务，预训练一个序列神经网络（如 NextItNet 风格）。
• 引入‘模型补丁’（MP）模块——插入在预训练网络残差块中的小型可训练前馈网络。
• MP 与残差路径并行插入，学习将固定预训练特征适配到下游任务。
• 在微调过程中，仅更新 MP 参数；所有预训练权重保持冻结，从而实现高参数效率。
• 在归一化层之前插入 MP，以保持残差块结构完整并避免梯度不稳定。
• 通过为每个目标任务仅训练一个新的小型 MP，框架支持对新任务的即时适应。

实验结果

研究问题

• RQ1 在序列用户行为上进行自监督预训练是否能生成可迁移到多样化下游任务的通用用户表征？
• RQ2 在低数据或多领域设置下，参数高效的微调方法是否能优于全量微调？
• RQ3 模型补丁的架构与放置位置如何影响性能与稳定性？
• RQ4 在任务间共享参数是否能在不损失准确率的前提下提升效率？
• RQ5 在数据稀缺条件下，所提方法是否具有鲁棒性？

主要发现

• PeterRec 在全部五个下游任务中表现与全量微调（FineAll）相当，包括跨域推荐和用户画像预测。
• 仅使用 5% 的训练数据时，PeterRec 在最优性能上仍比 FineAll 高出 1.5%，展现出更优的泛化能力与稳定性。
• 即使使用正则化和 Dropout，PeterRec 的过拟合现象也显著低于 FineAll。
• 在归一化层之前插入模型补丁（图 3b）性能最佳，有效保持了残差块结构与梯度流动。
• 与多任务学习（MTL）相比，PeterRec 更具内存效率，因其仅需存储少量任务特定的 MP 参数，而非完整的模型。
• 预训练模型质量更优（如 PeterRecon）并不总能带来更好的迁移性能，表明下游任务对齐比上游预训练质量更为关键。