[论文解读] Entire Space Multi-Task Modeling via Post-Click Behavior Decomposition for Conversion Rate Prediction

Hong Wen, Jing Zhang+5 more|arXiv (Cornell University)|Oct 15, 2019

Recommender Systems and Techniques参考文献 39被引用 9

一句话总结

本文提出 ESM²，一种新颖的深度学习模型，通过将点击后用户行为分解为确定性（DAction）和其它（OAction）动作，以提升转化率（CVR）预测性能。通过在全空间多任务学习框架中将这些动作建模为监督信号，ESM² 有效缓解了样本选择偏差（Sample Selection Bias）与数据稀疏性（Data Sparsity）问题，在离线与在线基准测试中均达到最先进性能。

ABSTRACT

Recommender system, as an essential part of modern e-commerce, consists of two fundamental modules, namely Click-Through Rate (CTR) and Conversion Rate (CVR) prediction. While CVR has a direct impact on the purchasing volume, its prediction is well-known challenging due to the Sample Selection Bias (SSB) and Data Sparsity (DS) issues. Although existing methods, typically built on the user sequential behavior path ``impression$ o$click$ o$purchase'', is effective for dealing with SSB issue, they still struggle to address the DS issue due to rare purchase training samples. Observing that users always take several purchase-related actions after clicking, we propose a novel idea of post-click behavior decomposition. Specifically, disjoint purchase-related Deterministic Action (DAction) and Other Action (OAction) are inserted between click and purchase in parallel, forming a novel user sequential behavior graph ``impression$ o$click$ o$D(O)Action$ o$purchase''. Defining model on this graph enables to leverage all the impression samples over the entire space and extra abundant supervised signals from D(O)Action, which will effectively address the SSB and DS issues together. To this end, we devise a novel deep recommendation model named Elaborated Entire Space Supervised Multi-task Model ($ESM^{2}$). According to the conditional probability rule defined on the graph, it employs multi-task learning to predict some decomposed sub-targets in parallel and compose them sequentially to formulate the final CVR. Extensive experiments on both offline and online environments demonstrate the superiority of $ESM^{2}$ over state-of-the-art models. The source code and dataset will be released.

研究动机与目标

• 解决电子商务推荐系统中转化率（CVR）预测面临的样本选择偏差（SSB）与数据稀疏性（DS）双重挑战。
• 克服现有模型仅依赖 '曝光 → 点击 → 购买' 路径的局限，该路径因购买标签样本不足而表现受限。
• 利用丰富的点击后行为（如加入购物车或收藏至心愿单）作为确定性、带标签的信号，以增强监督信号。
• 构建统一模型，通过组合从分解后的用户行为图中提取的子任务，预测 CVR，确保对所有曝光样本的泛化能力。
• 通过引入更丰富的序列监督，提升模型泛化能力与性能，尤其针对高频点击后行为的用户。

提出的方法

• 提出一种新颖的用户行为图：'曝光 → 点击 → D(O)Action → 购买'，其中 DAction 与 OAction 为互不相交、与购买相关的动作，插入在点击之后。
• 在图的子路径上定义条件概率规则，将 CVR 分解为四个隐变量概率：曝光后点击率（post-view CTR）、点击后转化率（CTCVR）、DAction 转化率与 OAction 转化率。
• 设计 ESM²，一种深度神经网络，通过共享特征表示的多任务学习，联合预测这四个子任务。
• 采用基于归一化的嵌入方法处理密集数值特征，而非使用独热编码离散化，以保留特征精度并提升表示能力。
• 在所有曝光样本上进行训练，实现全空间监督，通过避免仅依赖点击样本，降低样本选择偏差。
• 将最终的 CVR 估计值表示为子任务概率的乘积，确保与条件概率分解的一致性。

实验结果

研究问题

• RQ1 能否将点击后行为（如加入购物车或收藏至心愿单）作为确定性、带标签的信号，以提升 CVR 预测性能？
• RQ2 将点击后阶段分解为多种动作类型，是否能降低数据稀疏性，并在低数据场景下提升模型泛化能力？
• RQ3 包含这些分解动作的全空间多任务学习框架，是否能在离线与在线设置中均优于现有模型（如 ESMM）？
• RQ4 模型在不同点击后行为频率的用户群体中表现如何，特别是高频行为用户？
• RQ5 如何最优配置数值特征的嵌入方式并选择点击后动作，以最大化模型性能？

主要发现

• 当同时将 '加入购物车' 与 '心愿单收藏' 动作作为 DAction 时，ESM² 的 CVR AUC 达到 0.8486，优于单一动作变体与基线模型。
• 在购买行为更频繁的用户群体中，ESM² 相较于 ESMM 的相对收益持续提升：分别实现 0.72%、0.81%、1.13% 与 1.30% 的 CVR AUC 提升。
• 使用 Tanh 激活函数的归一化数值特征相比独热编码，AUC 提升 0.004，证明其具备更优的特征表示能力。
• 将嵌入维度提升至 128 后性能进一步提升，但超过该值后无进一步增益，表明模型在该容量下趋于饱和。
• 模型在所有曝光样本上保持强泛化能力，通过全空间训练有效缓解了样本选择偏差。
• 在线 A/B 测试验证，ESM² 显著提升转化率与核心业务指标，证实其在真实场景中的有效性。