[论文解读] Beyond Greedy Ranking: Slate Optimization via List-CVAE

Ray Jiang, Sven Gowal+2 more|arXiv (Cornell University)|Mar 5, 2018

Face and Expression Recognition被引用 16

一句话总结

该论文提出List-CVAE，一种条件变分自编码器，通过建模用户响应条件下项目之间的联合分布，直接生成最优文档列表，绕过贪心排序。在模拟数据和真实世界数据上，其性能优于贪心方法和自回归基线模型，即使在训练数据中缺乏最优列表的情况下，也展现出强大的泛化能力。

ABSTRACT

The conventional solution to the recommendation problem greedily ranks individual document candidates by prediction scores. However, this method fails to optimize the slate as a whole, and hence, often struggles to capture biases caused by the page layout and document interdepedencies. The slate recommendation problem aims to directly find the optimally ordered subset of documents (i.e. slates) that best serve users' interests. Solving this problem is hard due to the combinatorial explosion in all combinations of document candidates and their display positions on the page. Therefore we propose a paradigm shift from the traditional viewpoint of solving a ranking problem to a direct slate generation framework. In this paper, we introduce List Conditional Variational Auto-Encoders (List-CVAE), which learns the joint distribution of documents on the slate conditioned on user responses, and directly generates full slates. Experiments on simulated and real-world data show that List-CVAE outperforms popular comparable ranking methods consistently on various scales of documents corpora.

研究动机与目标

• 解决贪心排序在捕捉列表推荐中位置偏差和上下文偏差方面的局限性。
• 开发一种可扩展的端到端框架，实现直接列表生成，避免在大规模候选集下产生组合爆炸。
• 即使在训练数据中最优列表稀少或缺失的情况下，也能实现对最优列表的有效泛化。
• 提供一种灵活的条件生成建模方法，联合学习文档之间的交互作用与版面效应。

提出的方法

• 该模型使用条件变分自编码器（CVAE）学习在给定用户响应向量条件下，列表中项目联合分布。
• 它将整个列表编码到共享潜在空间中，捕捉项目之间的位置和上下文依赖关系。
• 解码器通过从条件分布中采样来生成列表，使用负采样优化的k头Softmax层，以实现对大规模文档池的扩展。
• 使用预训练的文档嵌入以提升效率和泛化能力，使200万篇文档的训练时间在单张GPU上控制在4分钟以内。
• 推理过程通过条件化于期望的用户响应向量，直接生成高质量列表，无需候选过滤。

实验结果

研究问题

• RQ1 通过联合建模文档交互作用与版面偏差，条件生成模型是否能在列表推荐中超越贪心排序？
• RQ2 当最优列表在训练数据中缺失或极为稀少时，模型对最优列表的泛化能力如何？
• RQ3 在大规模推荐场景中，该模型在多大程度上捕捉了文档之间的复杂交互作用与位置效应？
• RQ4 基于CVAE的可扩展框架能否在处理数百万篇文档的同时，保持高性能和快速推理？

主要发现

• List-CVAE在模拟数据和真实世界数据集上均持续优于贪心和自回归基线模型，达到接近最优的用户响应水平。
• 在200万篇文档语料上，List-CVAE实现了平均每列表接近5次购买的响应，展现出强大的规模化性能。
• 即使仅在总响应≤最大可能值40%（h=40%）的列表上进行训练，List-CVAE在1000次训练步内已超越所有贪心基线。
• 该模型能有效泛化到未见过的最优列表，即使在训练过程中未接触过接近最优的示例，也能生成高质量推荐。
• 通过使用负采样优化的k头Softmax，模型在单张GPU上对200万篇文档的训练和推理时间均控制在4分钟以内，证明了其高度可扩展性。