[论文解读] Deep Bayesian Multi-Target Learning for Recommender Systems

Qi Wang, JI Zhi-hui+2 more|arXiv (Cornell University)|Feb 25, 2019

Domain Adaptation and Few-Shot Learning参考文献 11被引用 4

一句话总结

本文提出深度贝叶斯多目标学习（DBMTL），一种通过贝叶斯网络显式捕捉目标事件之间因果关系的多目标推荐框架。通过深度神经网络学习目标之间的有向依赖关系，DBMTL在多种指标上均表现更优，包括点击率（CTR）、转化率和用户参与度，在淘宝直播数据的离线与在线A/B测试中，均优于现有的多任务学习（MTL）和单目标模型。

ABSTRACT

With the increasing variety of services that e-commerce platforms provide, criteria for evaluating their success become also increasingly multi-targeting. This work introduces a multi-target optimization framework with Bayesian modeling of the target events, called Deep Bayesian Multi-Target Learning (DBMTL). In this framework, target events are modeled as forming a Bayesian network, in which directed links are parameterized by hidden layers, and learned from training samples. The structure of Bayesian network is determined by model selection. We applied the framework to Taobao live-streaming recommendation, to simultaneously optimize (and strike a balance) on targets including click-through rate, user stay time in live room, purchasing behaviors and interactions. Significant improvement has been observed for the proposed method over other MTL frameworks and the non-MTL model. Our practice shows that with an integrated causality structure, we can effectively make the learning of a target benefit from other targets, creating significant synergy effects that improve all targets. The neural network construction guided by DBMTL fits in with the general probabilistic model connecting features and multiple targets, taking weaker assumption than the other methods discussed in this paper. This theoretical generality brings about practical generalization power over various targets distributions, including sparse targets and continuous-value ones.

研究动机与目标

• 解决电商业务推荐系统中多目标优化的挑战，即需在点击率（CTR）、停留时长、转化率等多重性能指标之间实现平衡。
• 克服现有多任务学习（MTL）框架的局限性，后者通常假设目标共享或相互独立，而未建模因果依赖关系。
• 构建一个统一的概率框架，可泛化于多种目标类型，包括稀疏目标与连续值目标。
• 将因果结构学习整合至深度神经网络中，以增强相关目标间的协同效应，并提升模型泛化能力。
• 在淘宝直播的真实场景中验证DBMTL的有效性，其性能显著优于基线MTL与非MTL模型。

提出的方法

• 将目标事件建模为贝叶斯网络中的节点，有向边表示从数据中学习到的因果关系。
• 使用深度神经网络层参数化目标节点的条件概率分布，实现特征-目标与目标-目标依赖关系的端到端学习。
• 通过模型选择确定最优贝叶斯网络结构，偏好自然的因果方向（如 CTR → 其他行为）以及高熵目标作为父节点。
• 将共享深度神经网络提取的特征表示与目标特定的头模块结合，实现多项目标的联合优化。
• 采用联合似然目标函数进行模型训练，以尊重贝叶斯网络的条件独立性假设。
• 应用参数共享与结构正则化，通过利用更密集的辅助目标信息，提升稀疏目标的泛化能力。

实验结果

研究问题

• RQ1 与标准MTL方法相比，显式建模多个推荐目标之间的因果关系是否能提升在多样化指标上的性能？
• RQ2 贝叶斯网络的结构——特别是因果链的方向——如何影响多目标学习中的模型性能？
• RQ3 DBMTL在不同目标类型（包括二值化目标，如点击、转化；以及连续值目标，如用户停留时长）上的泛化能力如何？
• RQ4 引入因果结构是否能增强目标间的协同效应，特别是在优化稀疏或低熵目标时？
• RQ5 所提出的框架是否能在真实在线推荐系统中超越现有MTL模型（如ESMM与基线MTL）？

主要发现

• 在淘宝直播的两周A/B测试中，DBMTL相较基线MTL实现了在线CTR提升4.41%、CGR提升3.06%、CFR提升2.91%、CLR提升10.23%、CCR提升5.95%、AST提升4.99%。
• 自然因果结构（CTR → 其他行为）在所有指标上表现最佳，证实尊重现实世界因果顺序可提升学习效率。
• 在CTR-AST（连续值目标）场景下，DBMTL显著优于ESMM，证明其在不同目标分布下的泛化能力。
• 熵值更高（正负样本比例更均衡）的目标作为父节点时表现更优，验证了优先选择高熵父节点的设计原则。
• 通过利用更密集的非稀疏目标（如CTR）的信息，DBMTL在稀疏目标（如CFR）上取得了更强的性能增益，证实了辅助信号整合的优势。
• 得益于其灵活且假设较少的概率建模方式，DBMTL在二值化、稀疏及连续值目标等多种目标类型上均表现出稳健的性能。