[论文解读] Approximate Ranking from Pairwise Comparisons

Reinhard Heckel, Max Simchowitz+2 more|arXiv (Cornell University)|Jan 4, 2018

Machine Learning and Algorithms被引用 7

一句话总结

本文提出了一种主动排序算法，利用自适应成对比较的置信区间，以接近最优的样本复杂度恢复近似排序。结果表明，与精确排序相比，近似排序显著减少了所需比较次数，在广泛适用的比较模型下，其高概率恢复性能接近信息论下限的对数因子范围。

ABSTRACT

A common problem in machine learning is to rank a set of n items based on pairwise comparisons. Here ranking refers to partitioning the items into sets of pre-specified sizes according to their scores, which includes identification of the top-k items as the most prominent special case. The score of a given item is defined as the probability that it beats a randomly chosen other item. Finding an exact ranking typically requires a prohibitively large number of comparisons, but in practice, approximate rankings are often adequate. Accordingly, we study the problem of finding approximate rankings from pairwise comparisons. We analyze an active ranking algorithm that counts the number of comparisons won, and decides whether to stop or which pair of items to compare next, based on confidence intervals computed from the data collected in previous steps. We show that this algorithm succeeds in recovering approximate rankings using a number of comparisons that is close to optimal up to logarithmic factors. We also present numerical results, showing that in practice, approximation can drastically reduce the number of comparisons required to estimate a ranking.

研究动机与目标

• 解决当精确排序所需样本量过大时，从成对比较中学习排序的挑战。
• 开发一种主动学习算法，基于置信区间自适应选择待比较的成对项目，以最小化所需比较次数。
• 为近似排序建立理论保证，包括高概率恢复能力和样本复杂度的近似最优性。
• 分析算法在常见参数模型（如Bradley-Terry-Luce和强随机传递性）下的性能。
• 研究标准方法失效的病态情形，并提出随机化策略以提升样本效率。

提出的方法

• 算法维护每个项目Borda得分的置信区间，Borda得分定义为击败一个均匀随机其他项目的概率。
• 在每一步中，选择相对得分不确定性最高的项目对进行下一次比较。
• 使用Hoeffding型大偏差不等式计算置信区间，并确定何时停止或继续。
• 当置信区间允许对预设集合（如前k名项目）进行可靠划分时，算法停止。
• 对于BTL等参数模型，该方法利用参数空间的结构以高效地精炼估计。
• 在得分几乎相等的病态情形下，采用随机猜测策略打破对称性，降低样本复杂度。

实验结果

研究问题

• RQ1 与精确排序相比，近似排序是否能减少所需的成对比较次数？
• RQ2 在一般比较模型下，主动近似排序的最优样本复杂度是多少？
• RQ3 算法性能如何随项目间得分差距变化而变化，特别是在接近前k名阈值时？
• RQ4 能否使算法对项目得分几乎相等的病态分布具有鲁棒性？
• RQ5 在主动学习设置下，近似精度与样本复杂度之间存在何种权衡？

主要发现

• 所提出的主动排序算法以接近信息论下限对数因子范围内的比较次数，实现了近似排序的高概率恢复。
• 对于前k名选择问题，样本复杂度近似为 ∑_{i=1}^k 1/(τ_i - τ_{k+1})² + ∑_{i=k+1}^n 1/(τ_k - τ_i)²，忽略对数因子。
• 即使在Bradley-Terry-Luce和强随机传递性等参数模型下，该算法的样本复杂度仍接近最优。
• 在得分差异极小的病态情形下，通过引入随机猜测策略，可显著提升算法性能。
• 理论下限与上界仅相差对数因子，证实了算法样本复杂度的近似最优性。
• 数值结果表明，近似方法在实践中可大幅减少所需比较次数，尤其在精确排序不可行时效果显著。