[论文解读] Context-aware Reranking with Utility Maximization for Recommendation

Yunjia Xi, Weiwen Liu+6 more|arXiv (Cornell University)|Oct 18, 2021

Recommender Systems and Techniques参考文献 31被引用 4

一句话总结

本文提出CRUM，一种上下文感知的重排序框架，通过建模反事实上下文（即假设重排序列表中项目的排列位置和对齐方式）来最大化重排序后的效用。该方法使用双向LSTM和图注意力网络估计列表级效用，并采用成对重排序机制高效寻找最优的项目交换，显著优于公开数据集和工业数据集上的最先进模型，在相关性和效用指标上表现优异。

ABSTRACT

As a critical task for large-scale commercial recommender systems, reranking has shown the potential of improving recommendation results by uncovering mutual influence among items. Reranking rearranges items in the initial ranking lists from the previous ranking stage to better meet users' demands. However, rather than considering the context of initial lists as most existing methods do, an ideal reranking algorithm should consider the counterfactual context -- the position and the alignment of the items in the reranked lists. In this work, we propose a novel pairwise reranking framework, Context-aware Reranking with Utility Maximization for recommendation (CRUM), which maximizes the overall utility after reranking efficiently. Specifically, we first design a utility-oriented evaluator, which applies Bi-LSTM and graph attention mechanism to estimate the listwise utility via the counterfactual context modeling. Then, under the guidance of the evaluator, we propose a pairwise reranker model to find the most suitable position for each item by swapping misplaced item pairs. Extensive experiments on two benchmark datasets and a proprietary real-world dataset demonstrate that CRUM significantly outperforms the state-of-the-art models in terms of both relevance-based metrics and utility-based metrics.

研究动机与目标

• 解决现有重排序方法在重排序前评估效用的局限性，这些方法依赖于初始列表的上下文，而非重排序后的反事实上下文。
• 通过考虑重排序列表中位置变化和项目间相互影响，建模项目排列的真实效用。
• 开发一种高效且可扩展的重排序框架，在不穷举所有n!种排列的情况下最大化整体效用。
• 通过聚焦于反事实上下文而非初始列表上下文，降低对初始排序列表质量的依赖。

提出的方法

• 提出一种基于反事实上下文（即重排序后假设的位置和邻近项目）的效用导向评估器，利用双向LSTM和图注意力网络估计列表级效用。
• 引入位置感知图嵌入，以编码重排序列表中项目间的关系和位置信息，提升上下文建模能力。
• 设计一种成对重排序器，识别并交换位置不当的项目对，以提升整体效用，通过贪心优化避免指数级搜索。
• 使用隐式反馈联合训练评估器与重排序器，效用估计由反事实列表配置引导。
• 在训练过程中采用采样策略，通过交换项目对高效生成候选重排序列表，平衡性能与计算成本。
• 采用两阶段学习流程：首先，评估器学习在各种反事实上下文中预测效用；其次，重排序器基于这些预测结果学习优化列表。

实验结果

研究问题

• RQ1 如何通过考虑重排序后的上下文而非重排序前的上下文，使重排序模型更准确地估计项目排列的真实效用？
• RQ2 与依赖初始列表上下文相比，建模反事实上下文（即重排序后的项目位置和对齐方式）在多大程度上能提升推荐性能？
• RQ3 成对重排序策略是否能在不穷举所有排列的情况下有效优化列表级效用？
• RQ4 所提出的框架对质量较差的初始排序列表有多大的鲁棒性？是否降低了对初始排序器质量的依赖？

主要发现

• CRUM在两个公开数据集（Yahoo和MSLR）以及一个专有的工业数据集上，均显著优于最先进模型，在基于相关性的指标（如MAP）和基于效用的指标（如CTR）上表现优异。
• 消融实验表明，移除双向LSTM或图注意力机制会导致性能下降，证明二者在建模反事实上下文方面具有关键作用。
• 即使初始排序质量较差（如随机排序或倒序排列），模型仍能保持稳定性能，表明其对初始排序器质量的依赖性较低。
• 每列表采样10对即可在性能与训练成本之间达到最佳平衡，且指标在超过10个样本后趋于稳定。
• 成对重排序器在无需指数级复杂度的情况下高效提升了效用，展现出在真实场景中的可扩展性与有效性。
• 即使在强基线模型（如PRM和DLCM）表现不佳的情况下，CRUM在基于效用的指标上仍表现出色，尤其在提升收入和点击率方面优势明显。