[论文解读] Kalman Filtering Attention for User Behavior Modeling in CTR Prediction

Hu Liu, Jing Lu+9 more|arXiv (Cornell University)|Oct 2, 2020

Recommender Systems and Techniques参考文献 28被引用 9

一句话总结

本文提出了一种新型注意力机制——卡尔曼滤波注意力（KFAtt），通过将加权池化建模为最大后验概率（MAP）估计，实现对用户行为的建模，用于点击率（CTR）预测。通过引入全局先验和频率上限机制，KFAtt克服了传统注意力机制的局限性——注意力感受野受限以及对频繁行为的偏见，从而在京东（JD.com）100亿规模的生产数据集上，通过在线A/B测试实现了4.4%的CTR提升。

ABSTRACT

Click-through rate (CTR) prediction is one of the fundamental tasks for e-commerce search engines. As search becomes more personalized, it is necessary to capture the user interest from rich behavior data. Existing user behavior modeling algorithms develop different attention mechanisms to emphasize query-relevant behaviors and suppress irrelevant ones. Despite being extensively studied, these attentions still suffer from two limitations. First, conventional attentions mostly limit the attention field only to a single user's behaviors, which is not suitable in e-commerce where users often hunt for new demands that are irrelevant to any historical behaviors. Second, these attentions are usually biased towards frequent behaviors, which is unreasonable since high frequency does not necessarily indicate great importance. To tackle the two limitations, we propose a novel attention mechanism, termed Kalman Filtering Attention (KFAtt), that considers the weighted pooling in attention as a maximum a posteriori (MAP) estimation. By incorporating a priori, KFAtt resorts to global statistics when few user behaviors are relevant. Moreover, a frequency capping mechanism is incorporated to correct the bias towards frequent behaviors. Offline experiments on both benchmark and a 10 billion scale real production dataset, together with an Online A/B test, show that KFAtt outperforms all compared state-of-the-arts. KFAtt has been deployed in the ranking system of a leading e commerce website, serving the main traffic of hundreds of millions of active users everyday.

研究动机与目标

• 为解决传统注意力机制仅将注意力限制在单个用户历史行为上的局限性，该局限性在用户搜索全新、无关需求时失效。
• 纠正现有注意力机制中对频繁行为的偏见，避免其掩盖稀有但相关的查询。
• 设计一种理论基础坚实的注意力机制，利用全局统计信息和频率上限，实现更鲁棒的用户兴趣建模。
• 构建一种高效、低延迟的行为建模模块，适用于工业级在线CTR预测系统。

提出的方法

• KFAtt将用户兴趣估计建模为MAP问题，将历史行为视为未观测到的用户兴趣的噪声测量值。
• KFAtt-base变体引入全局先验，在相关行为较少时稳定预测，实现在低数据场景下的无偏估计。
• KFAtt-freq扩展将同一查询下的行为视为来自单一传感器的重复测量，通过频率上限机制纠正对高频查询的偏见。
• 在MAP公式中，根据查询频率和行为相关性动态调整系统误差方差，实现注意力权重的自适应调整。
• 提出两阶段行为建模模块：使用Transformer编码器进行序列建模，使用KFAtt解码器进行目标特定兴趣提取。
• 基于KFAtt的模块经过优化，实现低延迟推理，性能与DIN和Transformer相当，同时在准确率上更胜一筹。

实验结果

研究问题

• RQ1 在历史行为稀疏或无关时，注意力机制中引入全局先验是否能提升用户兴趣估计的性能？
• RQ2 在用户行为建模中，注意力机制中的频率上限是否能降低对高频、可能无关查询的偏见？
• RQ3 通过卡尔曼滤波实现加权池化的MAP公式是否能在CTR预测中超越标准注意力机制？
• RQ4 在高吞吐量、严格延迟约束的真实工业大规模场景中，KFAtt的性能表现如何？

主要发现

• 在京东生产系统上，KFAtt-freq通过在线A/B测试实现了4.4%的CTR提升，相当于每年额外带来1亿美元的广告收入。
• 在1000亿规模的真实数据集上，KFAtt-trans-freq优于所有基线模型，包括Transformer，在基础模型上实现了0.017的AUC增益。
• 离线实验表明，KFAtt-trans-freq在生产数据集上取得了最高的AUC（0.766），显著优于求和池化（0.749）及其他SOTA模型。
• 基于KFAtt的模块保持了低延迟，TP99延迟与DIN和Transformer相当，显著低于DIEN，具备生产部署能力。
• 将KFAtt集成到原始注意力、DIN和Transformer注意力机制中均能持续提升性能，验证了其强大的可适配性。
• 该方法能有效缓解在新查询和低频查询上的性能下降问题，而这类问题在真实电商系统中极为常见。