[论文解读] Delayed Feedback Modeling for the Entire Space Conversion Rate Prediction

Yanshi Wang, Jie Zhang+2 more|arXiv (Cornell University)|Nov 24, 2020

Image and Video Quality Assessment参考文献 20被引用 4

一句话总结

该论文提出ESDF，一种新颖的深度学习框架，通过在完整的曝光空间中建模用户行为序列，联合解决电子商务转化率（CVR）预测中的数据稀疏性、样本选择偏差和延迟反馈问题。通过将CTR与基于离散天数时间槽的生存分析方法结合，ESDF在工业数据集上相较ESMM基线实现了6.68%的GAUC相对提升。

ABSTRACT

Estimating post-click conversion rate (CVR) accurately is crucial in E-commerce. However, CVR prediction usually suffers from three major challenges in practice: i) data sparsity: compared with impressions, conversion samples are often extremely scarce; ii) sample selection bias: conventional CVR models are trained with clicked impressions while making inference on the entire space of all impressions; iii) delayed feedback: many conversions can only be observed after a relatively long and random delay since clicks happened, resulting in many false negative labels during training. Previous studies mainly focus on one or two issues while ignoring the others. In this paper, we propose a novel neural network framework ESDF to tackle the above three challenges simultaneously. Unlike existing methods, ESDF models the CVR prediction from a perspective of entire space, and combines the advantage of user sequential behavior pattern and the time delay factor. Specifically, ESDF utilizes sequential behavior of user actions on the entire space with all impressions to alleviate the sample selection bias problem. By sharing the embedding parameters between CTR and CVR networks, data sparsity problem is greatly relieved. Different from conventional delayed feedback methods, ESDF does not make any special assumption about the delay distribution. We discretize the delay time by day slot and model the probability based on survival analysis with deep neural network, which is more practical and suitable for industrial situations. Extensive experiments are conducted to evaluate the effectiveness of our method. To the best of our knowledge, ESDF is the first attempt to unitedly solve the above three challenges in CVR prediction area.

研究动机与目标

• 解决CVR预测中的三大核心挑战：数据稀疏性、样本选择偏差与延迟反馈。
• 统一建模整个曝光空间中的CVR预测，而非仅针对点击曝光。
• 在不依赖延迟分布参数假设的前提下，保持工业部署可行性。
• 通过利用用户序列行为模式，提升模型泛化能力与预测精度。
• 通过发布工业CVR数据集的公开采样版本，为未来研究提供支持。

提出的方法

• ESDF采用多任务学习框架，联合训练CTR与CTCVR（点击转化率）头，通过参数共享缓解数据稀疏性问题。
• 在所有曝光（包括点击与非点击）上建模用户行为序列，从而减少样本选择偏差。
• 采用离散天数时间槽对时间延迟因素进行建模，通过深度神经网络近似生存概率，无需假设特定分布。
• 通过优化观测到的转化时间的对数似然，结合生存分析原理实现端到端训练。
• 框架为CTR与CVR任务共享嵌入主干网络，增强表征学习与泛化能力。
• 将延迟时间离散化为7个天数时间槽，并预测转化落入每个时间槽的概率，支持实际部署。

实验结果

研究问题

• RQ1 统一的深度学习框架能否同时有效解决CVR预测中的数据稀疏性、样本选择偏差与延迟反馈问题？
• RQ2 与仅建模点击曝光相比，建模整个曝光空间在多大程度上提升了CVR预测性能？
• RQ3 基于生存分析的非参数、离散时间延迟模型在多大程度上优于指数分布等参数假设？
• RQ4 引入用户序列行为模式是否显著提升了模型的泛化能力与对延迟反馈的鲁棒性？
• RQ5 发布包含曝光、点击与延迟转化标签的工业CVR数据集采样版本，能否加速未来工业CVR建模研究？

主要发现

• 在产品数据集上，ESDF相较ESMM基线实现了6.68%的GAUC相对提升，这一增益在工业应用中具有显著意义。
• 在公开数据集上，ESDF将ROC AUC提升0.0132点，相较ESMM实现4.93%的相对提升。
• 在公开数据集与产品数据集上，ESDF分别优于强基线模型DFM 0.82%与3.16%的相对提升。
• ESDF中的时间延迟模型在延迟反馈样本上表现出更稳定且精确的性能，尤其在公开数据集上，DFM的指数分布假设导致性能不稳定。
• 简单移除延迟样本（NAIVE）在对数损失上表现劣于ESMM，表明丢弃延迟反馈会加剧分布偏移，损害模型精度。
• 本次发布的工业数据集公开采样版本是首个包含曝光、点击与延迟转化标签的CVR建模资源。