[论文解读] Learning to Recommend via Meta Parameter Partition

Liang Zhao, Yang Wang+2 more|arXiv (Cornell University)|Dec 4, 2019

Recommender Systems and Techniques参考文献 38被引用 4

一句话总结

本文提出一种两阶段元学习方法，将模型参数划分为固定（用户无关）和自适应（用户特定）组件，以高效解决推荐系统中的用户冷启动问题。通过解耦参数学习，该方法降低了存储和计算成本，同时支持持续适应；实验表明，相比基线方法，AUC绝对提升4.94%，其中2.48%来自离线元训练，额外2.46%来自在线元微调。

ABSTRACT

In this paper we propose to solve an important problem in recommendation -- user cold start, based on meta leaning method. Previous meta learning approaches finetune all parameters for each new user, which is both computing and storage expensive. In contrast, we divide model parameters into fixed and adaptive parts and develop a two-stage meta learning algorithm to learn them separately. The fixed part, capturing user invariant features, is shared by all users and is learned during offline meta learning stage. The adaptive part, capturing user specific features, is learned during online meta learning stage. By decoupling user invariant parameters from user dependent parameters, the proposed approach is more efficient and storage cheaper than previous methods. It also has potential to deal with catastrophic forgetting while continually adapting for streaming coming users. Experiments on production data demonstrates that the proposed method converges faster and to a better performance than baseline methods. Meta-training without online meta model finetuning increases the AUC from 72.24% to 74.72% (2.48% absolute improvement). Online meta training achieves a further gain of 2.46\% absolute improvement comparing with offline meta training.

研究动机与目标

• 解决个性化推荐系统中因新用户交互历史极少而导致的用户冷启动问题。
• 通过解耦用户无关与用户特定的模型参数，降低基于元学习的推荐系统中的计算与存储开销。
• 在持续适应流式用户的同时，通过参数划分缓解灾难性遗忘问题。
• 利用离线与在线元学习阶段，在少样本设置下提升推荐性能。

提出的方法

• 将模型参数划分为固定（跨用户共享）和自适应（用户特定）组件，以分离用户无关与用户依赖的特征。
• 通过历史用户数据在离线阶段进行元学习，训练固定参数，以学习鲁棒的初始化。
• 利用每个新用户的有限交互数据，在线微调自适应参数，以实现模型个性化。
• 采用两阶段训练流程：首先元训练固定参数；其次针对每个新用户进行在线元微调自适应参数。
• 在在线适应过程中固定中间隐藏层（第2至第4层），同时允许嵌入层和分类器层更新，以实现用户特定的适应。
• 使用AUC作为主要评估指标，以衡量离线与在线阶段的点击率预测性能。

实验结果

研究问题

• RQ1 将参数划分为固定与自适应组件，是否能提升冷启动推荐中的效率与性能？
• RQ2 与全参数微调相比，解耦元学习在收敛速度与AUC性能方面表现如何？
• RQ3 通过增量用户数据进行在线元微调，相较于离线元训练，能在多大程度上进一步提升模型性能？
• RQ4 在在线适应过程中，应固定哪些网络层以在泛化与个性化之间取得最佳平衡？

主要发现

• 所提方法在AUC上实现了4.94%的绝对提升，从基线的72.24%提高至77.18%。
• 仅离线元训练即带来2.48%的AUC提升（至74.72%），证明元初始化相比标准联合训练具有显著优势。
• 在线元微调在离线元训练基础上额外带来2.46%的AUC绝对提升，表明随着用户数据增加，性能持续改善。
• 在在线适应过程中固定第2与第3个隐藏层可获得最高性能，表明这些层捕捉了用户无关特征。
• 该模型收敛速度更快，性能优于传统元学习与基线方法，尤其在仅有8–10次交互记录的用户上表现更优。
• 消融实验证实，元初始化、参数解耦与在线学习均对最终性能提升有显著贡献。