[论文解读] Multi-Gradient Descent for Multi-Objective Recommender Systems

Nikola Milojkovic, Diego Antognini+3 more|arXiv (Cornell University)|Dec 9, 2019

Recommender Systems and Techniques参考文献 31被引用 23

一句话总结

本文提出用于推荐系统的多梯度下降（MGDRec），一种随机多梯度下降方法，通过梯度归一化联合优化多个潜在无关或量纲不同的目标（如语义相关性、收益和内容质量），实现对多个目标的联合优化。该方法在平衡冲突目标的同时，保持了各项目标的性能，即使在非可微或量纲差异显著的目标上也表现优异，且性能接近理论最优解，优于现有最先进方法。

ABSTRACT

Recommender systems need to mirror the complexity of the environment they are applied in. The more we know about what might benefit the user, the more objectives the recommender system has. In addition there may be multiple stakeholders - sellers, buyers, shareholders - in addition to legal and ethical constraints. Simultaneously optimizing for a multitude of objectives, correlated and not correlated, having the same scale or not, has proven difficult so far. We introduce a stochastic multi-gradient descent approach to recommender systems (MGDRec) to solve this problem. We show that this exceeds state-of-the-art methods in traditional objective mixtures, like revenue and recall. Not only that, but through gradient normalization we can combine fundamentally different objectives, having diverse scales, into a single coherent framework. We show that uncorrelated objectives, like the proportion of quality products, can be improved alongside accuracy. Through the use of stochasticity, we avoid the pitfalls of calculating full gradients and provide a clear setting for its applicability.

研究动机与目标

• 解决推荐系统中联合优化多个常存在冲突的目标的挑战，包括相关与无关目标，且目标量纲不同。
• 克服传统方法（如顺序优化、加权求和方法或进化算法）在多目标设置下无法扩展或缺乏一致性的局限。
• 通过将多梯度下降扩展至随机次梯度设置，实现对非可微目标（如优质或冷门内容占比）的有效优化。
• 形式化随机优化在多目标推荐中的应用，为实际部署提供清晰且可扩展的框架。
• 证明梯度归一化可将本质不同的目标整合进单一、连贯的优化框架，从而提升整体解的质量。

提出的方法

• 提出一种随机多梯度下降算法（MGDRec），通过次梯度同时优化多个目标，使方法可应用于非可微目标。
• 引入梯度归一化，对量纲不同的目标梯度进行对齐，确保优化过程中各目标贡献均衡，避免高梯度幅值目标主导优化过程。
• 采用随机次梯度下降方法（SMSGDA），避免完整梯度计算带来的计算负担，实现对大规模数据集的可扩展性。
• 使用注入微小正值的终端用户偏好向量，引导模型推荐优质或冷门内容，同时不损害语义相关性。
• 通过梯度融合实现目标的加权聚合，将各目标的梯度在归一化空间中结合，以计算单一更新步骤。
• 采用一种训练过程，对 α 参数施加约束，防止模型过度拟合于优质内容，从而在各目标间保持平衡。

实验结果

研究问题

• RQ1 多梯度下降能否有效扩展至联合优化推荐系统中语义相关性与内容质量等无关目标？
• RQ2 当目标具有显著不同的量纲或为非可微目标时，梯度归一化如何提升多目标优化的性能？
• RQ3 使用 MGDRec 训练的单一模型在多个指标上能否同时优于单目标模型或加权求和基线？
• RQ4 将非可微目标（如优质内容占比）纳入优化是否会损害性能，能否通过随机次梯度方法缓解此问题？
• RQ5 所提方法能否获得接近理论最优解的解？该理论最优解定义为各单一目标最优值的交集。

主要发现

• MGDRec 搭配梯度归一化，在相关目标（如语义相关性与收益）和无关目标（如语义相关性与内容质量）上均优于现有最先进方法。
• 在融合 Amazon Movies 数据的 Movielens 数据集上，MGDRec 搭配梯度归一化在所有指标上均表现最佳，甚至在语义相关性和收益上优于单目标模型。
• 该方法显著提升了推荐中优质内容（如纪录片）的比例——表明语义相关性的小幅下降可带来优质内容包含率的大幅提高。
• 梯度归一化至关重要：未使用归一化的 MGD 性能与单目标优化相当，证实其在实现多目标学习平衡中的必要性。
• 加权求和基线同样从梯度归一化中受益，表明归一化可提升不同聚合策略下的整体性能。
• MGDRec 搭配随机次梯度下降（SMSGDA）成功优化了非可微目标（如内容质量），证明该方法在非光滑、可微函数之外仍具备鲁棒性。