[论文解读] PiRank: Scalable Learning To Rank via Differentiable Sorting

Robin M. E. Swezey, Aditya Grover+2 more|arXiv (Cornell University)|Dec 12, 2020

Domain Adaptation and Few-Shot Learning被引用 8

一句话总结

PiRank 通过基于 NeuralSort 的可微分、温度可控的排序算子松弛，提出了一种用于学习排序（LTR）的代理损失函数，实现了端到端的梯度优化。在零温度极限下，它能精确恢复标准排序指标（如 NDCG），并通过受合并排序启发的分治策略高效扩展至大规模列表，优于 MSLR-WEB30K 和 Yahoo! C14 等工业级基准上的现有方法。

ABSTRACT

A key challenge with machine learning approaches for ranking is the gap between the performance metrics of interest and the surrogate loss functions that can be optimized with gradient-based methods. This gap arises because ranking metrics typically involve a sorting operation which is not differentiable w.r.t. the model parameters. Prior works have proposed surrogates that are loosely related to ranking metrics or simple smoothed versions thereof, and often fail to scale to real-world applications. We propose PiRank, a new class of differentiable surrogates for ranking, which employ a continuous, temperature-controlled relaxation to the sorting operator based on NeuralSort [1]. We show that PiRank exactly recovers the desired metrics in the limit of zero temperature and further propose a divide and-conquer extension that scales favorably to large list sizes, both in theory and practice. Empirically, we demonstrate the role of larger list sizes during training and show that PiRank significantly improves over comparable approaches on publicly available internet-scale learning-to-rank benchmarks.

研究动机与目标

• 为解决 NDCG 和 ARP 等排序指标的不可微性问题，这些指标会阻碍学习排序（LTR）模型中的梯度优化。
• 开发一种代理损失函数，能紧密逼近真实排序指标，同时保持可微性以实现高效训练。
• 将 LTR 训练扩展至大规模列表长度（工业应用中常见），而传统方法因计算复杂度过高而失效。
• 研究训练列表大小对模型泛化能力及在不同测试列表大小下的性能影响。
• 提供一种可扩展的可微分框架，在大规模列表长度下仍能保持对下游指标的高度保真度。

提出的方法

• PiRank 基于 NeuralSort 提供的连续、温度可控的排序算子松弛，实现可微分排序优化。
• 该方法构建的代理损失在温度趋近于零时，能精确收敛至目标排序指标（如 NDCG）。
• 采用分治策略，递归地对子列表应用松弛，并仅传播前 k 个元素，从而降低计算复杂度。
• 该方法实现 O(L^{1+1/d}) 的时间复杂度（d 为深度），支持大规模列表长度 L 的高效扩展。
• 框架在 TensorFlow 中实现，并与 TensorFlow Ranking 集成，支持大规模数据集的端到端训练。
• 使用温度退火策略，在训练过程中平衡梯度方差与优化稳定性。

实验结果

研究问题

• RQ1 如何构建一种可微分代理损失，使其在零温度极限下精确恢复标准排序指标（如 NDCG）？
• RQ2 当在更大测试列表上评估时，训练列表大小对模型性能有何影响？
• RQ3 可微分排序松弛能否在不牺牲指标保真度的前提下，高效扩展至极大规模列表长度（如 L > 100）？
• RQ4 PiRank 在多种排序指标和基准上与现有 LTR 方法相比表现如何？
• RQ5 分治松弛策略是否能在显著降低计算成本的同时保持高性能？

主要发现

• 在 MSLR-WEB30K 和 Yahoo! C14 基准上，PiRank 在 16 项排序指标及其变体中，有 9 项显著优于所有基线方法，包括 NDCG@k、MRR、OPA 和 ARP。
• 更大的训练列表长度（L_train）在更大测试列表（L_test）上始终带来性能提升，尤其当 L_test ≫ k 时提升最为显著。
• 当训练列表长度为 L_train = 100 而非 L_train = 10 时，NDCG@k 的相对性能提升达 10-15%，尤其在大 L_test 情况下表现更优。
• 分治策略将训练时间从 O(L^2) 降低至 O(L^{1+1/d})，使 L_train = 15^3（3375 个元素）的训练仅增加 3 倍时间（d=3），实现高效扩展。
• PiRank 的梯度估计与真实指标值高度一致，随着温度降低，松弛损失 1−ℓ_PiRank-NDCG@k 与实际 NDCG@k 紧密跟踪。
• 该方法在多种指标上均保持高性能，MRR 随 L_train 增大而单调提升，而 OPA 和 ARP 则表现出更复杂的改进模式。