[论文解读] Inductive Pairwise Ranking: Going Beyond the n log(n) Barrier

U. N. Niranjan, Arun Rajkumar|arXiv (Cornell University)|Feb 9, 2017

Multi-Criteria Decision Making被引用 6

一句话总结

本文提出归纳成对排序（IPR）算法，该算法利用项目特征信息，在特征低秩（FLR）模型下实现可证明的样本高效排序。通过结合噪声归纳矩阵补全与近似成对排序，IPR 将样本复杂度从标准的 Ω(n log n) 降低至低至 Ω(log n)，显著提升了在实际场景中仅需极少成对比较时的效率。

ABSTRACT

We study the problem of ranking a set of items from nonactively chosen pairwise preferences where each item has feature information with it. We propose and characterize a very broad class of preference matrices giving rise to the Feature Low Rank (FLR) model, which subsumes several models ranging from the classic Bradley-Terry-Luce (BTL) (Bradley and Terry 1952) and Thurstone (Thurstone 1927) models to the recently proposed blade-chest (Chen and Joachims 2016) and generic low-rank preference (Rajkumar and Agarwal 2016) models. We use the technique of matrix completion in the presence of side information to develop the Inductive Pairwise Ranking (IPR) algorithm that provably learns a good ranking under the FLR model, in a sample-efficient manner. In practice, through systematic synthetic simulations, we confirm our theoretical findings regarding improvements in the sample complexity due to the use of feature information. Moreover, on popular real-world preference learning datasets, with as less as 10% sampling of the pairwise comparisons, our method recovers a good ranking.

研究动机与目标

• 为解决在归纳设定下从成对比较中排序项目的问题，其中项目侧信息（特征）可用，但标准方法未能有效利用这些信息。
• 开发一种可证明样本高效的算法，将所需成对比较次数降低至基于比较排序的经典 Ω(n log n) 下限以下。
• 在统一的特征低秩（FLR）框架下，整合并推广现有的排序模型，如 BTL、Thurstone、blade-chest 及通用低秩偏好模型。
• 通过理论分析与实验验证，证明引入特征信息可显著降低样本复杂度，尤其在高维但低秩的设定下表现突出。
• 实现训练后对未见项目的泛化能力，这是推荐系统和产品选择等实际排序应用中的关键需求。

提出的方法

• IPR 算法使用噪声归纳矩阵补全方法，从部分观测的成对比较中估计偏好矩阵，并将项目特征作为辅助信息引入。
• 其将偏好矩阵建模为特征诱导空间中的低秩矩阵，假设潜在偏好结构由依赖于特征的低秩矩阵所决定。
• 该方法采用正则化优化框架，联合估计项目得分，并通过特征矩阵的低秩分解利用特征之间的相关性。
• 采用两阶段方法：首先，利用带特征正则化的矩阵补全估计偏好矩阵；其次，通过近似成对排序子程序从估计矩阵中计算排序结果。
• 算法使用奇异值阈值化与核范数正则化控制模型复杂度，确保泛化能力。
• 理论保证基于归纳矩阵补全理论工具推导，表明在 O(max(log n / ε², d⁴ log³n / (ε³n²))) 次成对比较下，以高概率实现 ε-准确恢复。

实验结果

研究问题

• RQ1 我们能否设计一种可证明高效的成对排序算法，利用项目特征将样本复杂度降低至 Ω(n log n) 以下？
• RQ2 在偏好模型中引入特征相关性是否能提升合成与真实世界排序任务中的样本效率？
• RQ3 所提出的 IPR 算法是否能在训练后泛化至未见项目，而不同于非归纳方法？
• RQ4 当仅提供 10% 的成对比较时，IPR 与非归纳基线方法（如 LRPR）相比表现如何？
• RQ5 特征模型（如 FLR）在多大程度上能涵盖现有模型（如 BTL、Thurstone 和 blade-chest）？

主要发现

• 仅需对成对比较进行约 10% 的采样，IPR 算法即可在 Sushi 和 Car 等真实世界数据集上恢复高质量排序，优于非归纳基线方法。
• 在合成数据上，IPR 在不同比较次数（m）、每对项目比较次数（K）及特征维度（d）下，始终优于非归纳的 LRPR 算法。
• IPR 的理论样本复杂度为 O(max(log n / ε², d⁴ log³n / (ε³n²)))，当 d ≪ n 时可低至 O(log n)，突破了经典 n log n 的障碍。
• 在 Sushi 数据集中，IPR 在五次运行中均成功将前四道菜（如 'amaebi' 和 'ikura'）排在前四名，而 LRPR 未能保持一致表现。
• 在 Car 数据集中，IPR 准确捕捉到用户对轿车优于 SUV 及非混合动力车优于混合动力车的偏好，符合现实世界趋势。
• 即使真实秩未知且截断被省略，IPR 仍优于 LRPR，表明其对模型误设具有强鲁棒性。