[论文解读] End-to-End User Behavior Retrieval in Click-Through RatePrediction Model

Qiwei Chen, Changhua Pei+4 more|arXiv (Cornell University)|Aug 10, 2021

Recommender Systems and Techniques参考文献 39被引用 16

一句话总结

本文提出 ETA（端到端目标注意力），一种新颖的方法，用于在点击率（CTR）预测中端到端检索长期用户行为序列。通过利用基于 SimHash 的局部敏感哈希实现低复杂度、实时检索，ETA 消除了两阶段模型中的信息差距和训练-推理差异，相较于最先进模型，在线上 A/B 测试中实现 3.1% 的 GMV 提升。

ABSTRACT

Click-Through Rate (CTR) prediction is one of the core tasks in recommender systems (RS). It predicts a personalized click probability for each user-item pair. Recently, researchers have found that the performance of CTR model can be improved greatly by taking user behavior sequence into consideration, especially long-term user behavior sequence. The report on an e-commerce website shows that 23\% of users have more than 1000 clicks during the past 5 months. Though there are numerous works focus on modeling sequential user behaviors, few works can handle long-term user behavior sequence due to the strict inference time constraint in real world system. Two-stage methods are proposed to push the limit for better performance. At the first stage, an auxiliary task is designed to retrieve the top-$k$ similar items from long-term user behavior sequence. At the second stage, the classical attention mechanism is conducted between the candidate item and $k$ items selected in the first stage. However, information gap happens between retrieval stage and the main CTR task. This goal divergence can greatly diminishing the performance gain of long-term user sequence. In this paper, inspired by Reformer, we propose a locality-sensitive hashing (LSH) method called ETA (End-to-end Target Attention) which can greatly reduce the training and inference cost and make the end-to-end training with long-term user behavior sequence possible. Both offline and online experiments confirm the effectiveness of our model. We deploy ETA into a large-scale real world E-commerce system and achieve extra 3.1\% improvements on GMV (Gross Merchandise Value) compared to a two-stage long user sequence CTR model.

研究动机与目标

• 解决两阶段 CTR 模型中因使用长期用户行为序列而导致的性能下降问题，该问题源于信息差距和模型差异。
• 实现长期行为序列建模的端到端训练与推理，消除对离线辅助检索模型的依赖。
• 通过基于 SimHash 的局部敏感哈希，将 top-k 检索的计算复杂度从 O(L×B×d) 降低至 O(L×B)。
• 在大规模推荐系统中满足严格的在线服务等级协议（SLAs）的同时，保持高预测精度。
• 通过离线与线上评估，在真实电商场景中证明端到端检索的有效性。

提出的方法

• 提出 ETA，一种端到端 CTR 模型，将长期用户行为序列检索直接集成到主训练与推理流程中。
• 使用 SimHash 为每个物品嵌入生成固定长度的指纹，支持基于汉明距离的高效相似性搜索。
• 以 O(L×B) 的汉明距离计算替代昂贵的点积或 L2 距离检索，显著降低检索复杂度。
• 将用户长期行为序列中检索到的 top-k 项整合到目标注意力机制中，实现动态用户兴趣建模。
• 采用可微分的检索机制，使检索目标与主 CTR 预测任务对齐，消除目标差异。
• 在训练与推理阶段均支持实时检索，无需依赖过时的离线倒排索引。

实验结果

研究问题

• RQ1 与两阶段方法相比，长期用户行为序列的端到端检索是否能提升 CTR 预测性能？
• RQ2 如何降低检索复杂度，以实现在大规模生产系统中的实时在线检索？
• RQ3 消除检索与 CTR 预测之间的信息差距是否能带来可测量的模型性能提升？
• RQ4 在变化序列长度与指纹位长的情况下，检索精度、推理延迟与模型性能之间存在何种权衡？
• RQ5 基于 SimHash 的检索是否能在显著降低计算成本的前提下，实现与传统内积检索相当或更优的性能？

主要发现

• ETA 在线上 A/B 测试中相较于最先进两阶段模型，实现 3.1% 的商品交易总额（GMV）提升。
• 基础 ETA 模型（v0）在 19ms 推理时间内达到 0.7361 AUC，优于基线 avg(1024) 模型（0.7311 AUC，14ms），且相比完整序列注意力模型（v4）将推理成本降低 46%。
• 将 SimHash 替换为内积检索（v3）使 AUC 提升 0.07%，但推理时间增加 68%，不满足在线 SLA 约束。
• 增加 SimHash 指纹位长可提升 AUC，但当位长超过嵌入维度两倍后，增益趋于边际化。
• 模型在不同用户行为序列长度下均保持强劲性能，其中 v2.3（2048 长度序列）达到 0.7394 AUC 与 23ms 推理时间。
• ETA 实现了端到端训练，使检索与 CTR 目标完全对齐，消除了两阶段模型中过时嵌入与目标差异的问题。