[论文解读] Personalized Re-ranking for Recommendation

Changhua Pei, Yi Zhang+7 more|arXiv (Cornell University)|Apr 15, 2019

Recommender Systems and Techniques参考文献 44被引用 11

一句话总结

本文提出了一种基于Transformer架构的个性化重排序模型（PRM），通过显式建模推荐列表中项目之间的相互作用，结合用户特定的偏好嵌入，提升排序质量。该方法在在线指标上实现显著改进，相较于最先进基线模型，GMV绝对提升6.29%，点击率提升0.69%。

ABSTRACT

Ranking is a core task in recommender systems, which aims at providing an ordered list of items to users. Typically, a ranking function is learned from the labeled dataset to optimize the global performance, which produces a ranking score for each individual item. However, it may be sub-optimal because the scoring function applies to each item individually and does not explicitly consider the mutual influence between items, as well as the differences of users' preferences or intents. Therefore, we propose a personalized re-ranking model for recommender systems. The proposed re-ranking model can be easily deployed as a follow-up modular after any ranking algorithm, by directly using the existing ranking feature vectors. It directly optimizes the whole recommendation list by employing a transformer structure to efficiently encode the information of all items in the list. Specifically, the Transformer applies a self-attention mechanism that directly models the global relationships between any pair of items in the whole list. We confirm that the performance can be further improved by introducing pre-trained embedding to learn personalized encoding functions for different users. Experimental results on both offline benchmarks and real-world online e-commerce systems demonstrate the significant improvements of the proposed re-ranking model.

研究动机与目标

• 解决现有排序模型将项目孤立处理、忽略推荐列表中项目间相互影响的局限性。
• 将用户个性化引入重排序过程，以应对用户偏好与意图的差异，如价格敏感性或多样性需求。
• 开发一种高效、可扩展的重排序框架，可作为插件模块部署在任意现有排序模型之后，仅使用原始特征向量，无需微调基础模型。
• 证明自注意力机制在建模长距离项目相互作用方面的能力，且不会因编码距离增加而性能退化，优于基于RNN的方法。
• 发布一个大规模真实电商重排序数据集，以支持未来个性化排序与重排序研究。

提出的方法

• 采用Transformer编码器与自注意力机制，建模推荐列表中所有项目之间的全局、双向相互作用，捕捉任意位置项目间的依赖关系。
• 将用户特定的嵌入向量融入输入表示，个性化注意力机制，使模型能够适应不同用户的偏好与意图。
• 使用预训练的用户嵌入向量增强项目相互作用建模的个性化程度，提升对多样化用户行为的表征质量。
• 采用端到端的列表级排序损失进行训练，优化Top-k性能指标，如在标注点击数据上的NDCG与MAP。
• 引入位置嵌入以保留列表中的位置偏差信息，确保模型能有效建模项目位置对用户行为的固有影响。
• 将模型作为模块化重排序层部署在任意基础排序模型之后，仅使用原始特征向量，无需重新训练基础模型。

实验结果

研究问题

• RQ1 基于Transformer的重排序模型能否有效捕捉推荐列表中的全局项目-项目相互作用，优于因长序列导致梯度退化的RNN基线方法？
• RQ2 在重排序过程中引入用户特定个性化是否能显著提升在多样化用户偏好与意图下的排序性能？
• RQ3 预训练用户嵌入在多大程度上增强了模型捕捉细微项目相互作用的能力，并改善下游排序指标？
• RQ4 所提出的重排序模型能否在大规模在线系统中有效部署，是否带来点击率与GMV等关键业务指标的可测量提升？
• RQ5 模型学习到的注意力权重是否反映与项目属性（如类别、价格）及位置效应相关的有意义、可解释的模式？

主要发现

• PRM-Personalized-Pretrain模型在离线电商重排序数据集上的MAP指标相比PRM-BASE模型绝对提升4.5%。
• 在线A/B测试显示，PRM-Personalized-Pretrain模型相比基线DNN-based LTR模型，GMV绝对提升6.29%，展现出显著的业务影响。
• 与最先进DLCM重排序方法相比，该模型点击率绝对提升0.69%，浏览项目数绝对提升0.50%。
• 注意力权重可视化结果表明，模型学习到了有意义的模式：类别或价格相近的项目间注意力更高，表明其有效建模了基于属性的相互作用。
• 自注意力机制成功捕捉了位置影响，即使在长距离下，排名靠前的项目对排名靠后的项目仍具有更强影响，验证了其对列表级动态的建模能力。
• 消融实验表明，移除位置嵌入后注意力权重趋于均匀，证实了位置偏差在包含位置嵌入时被有效建模。