[论文解读] Learning-to-Rank with Partitioned Preference: Fast Estimation for the Plackett-Luce Model

Jiaqi Ma, Xinyang Yi+5 more|arXiv (Cornell University)|Jun 9, 2020

Multi-Criteria Decision Making被引用 4

一句话总结

该论文提出了一种针对分块偏好（partitioned preference）的快速数值积分方法，用于学习排序（learning-to-rank），基于Plackett-Luce模型，并利用具有Gumbel分布效用的随机效用模型，将似然计算复杂度从O(N + S!)降低至O(N + S³)。该方法实现了大规模数据上的可扩展、高精度列表学习排序，相较于现有基线方法，在合成数据和真实世界极端多标签分类任务中均表现更优。

ABSTRACT

We investigate the Plackett-Luce (PL) model based listwise learning-to-rank (LTR) on data with partitioned preference, where a set of items are sliced into ordered and disjoint partitions, but the ranking of items within a partition is unknown. Given $N$ items with $M$ partitions, calculating the likelihood of data with partitioned preference under the PL model has a time complexity of $O(N+S!)$, where $S$ is the maximum size of the top $M-1$ partitions. This computational challenge restrains most existing PL-based listwise LTR methods to a special case of partitioned preference, top-$K$ ranking, where the exact order of the top $K$ items is known. In this paper, we exploit a random utility model formulation of the PL model, and propose an efficient numerical integration approach for calculating the likelihood and its gradients with a time complexity $O(N+S^3)$. We demonstrate that the proposed method outperforms well-known LTR baselines and remains scalable through both simulation experiments and applications to real-world eXtreme Multi-Label classification tasks.

研究动机与目标

• 为解决在分块偏好下计算Plackett-Luce似然的计算不可行性，其中分块内项目顺序未知但分块整体有序。
• 在真实世界数据中实现基于部分排序（如点击反馈或序数评分）的可扩展列表学习排序，使用Plackett-Luce模型。
• 开发一种高效方法，用于在Plackett-Luce模型下计算分块偏好下的似然和梯度，克服精确计算中O(N + S!)的复杂度。
• 在合成数据和真实世界极端多标签分类数据集上，验证该方法的有效性和可扩展性。

提出的方法

• 该方法通过使用具有Gumbel分布效用的随机效用模型重新表述Plackett-Luce模型，使对数似然和梯度可分析地表示为一维积分之和。
• 应用数值积分近似这些一维积分，实现似然和梯度计算的O(N + S³)时间复杂度。
• 该方法利用Gumbel分布的无记忆性（memoryless property），将高维积分分解为可处理的一维分量。
• 该方法设计为与随机优化兼容，支持在大规模数据上端到端训练神经网络排序模型。
• 形式上证明了数值误差有界，且时间复杂度在所需误差容限ε下为O(N + 1/ε × S³)。
• 该方法还与广义排名拆分（generalized rank-breaking）框架相关讨论，提示可能在该框架中实现改进。

实验结果

研究问题

• RQ1 我们能否高效计算在分块偏好下Plackett-Luce的似然及其梯度，其中分块内项目顺序未知？
• RQ2 所提出的数值积分方法是否在可扩展性上显著优于具有O(N + S!)复杂度的精确计算？
• RQ3 该方法是否能在具有部分反馈的真实世界排序任务中超越现有的列表学习和成对学习排序基线？
• RQ4 在标签集合大且部分有序的极端多标签分类数据集上，该方法表现如何？

主要发现

• 所提出的PL-Partition方法在所有XML分类数据集上显著优于基于Softmax的列表学习基线PL-LB，证明了正确效用函数优化的重要性。
• 在标签集合较大的数据集上（D-1K, W-31K, D-200K），PL-Partition优于成对方法RankSVM和RankNet，表明在标签集合增大时性能更优。
• PL-Partition在Precision@k上表现与SLEEC相当，且在Propensity-Scored Precision@k上显著优于SLEEC，表明其在尾部和中部标签上泛化能力更强。
• 在合成实验中，该方法保持高精度，比Hino et al. (2010)的下界近似方法更准确地恢复了真实Plackett-Luce参数。
• O(N + S³)的时间复杂度使得在百万量级项目集合上高效训练神经网络排序模型成为可能，证实了其可扩展性。