[论文解读] Iterative Ranking from Pair-wise Comparisons

Sahand Negahban, Sewoong Oh+1 more|arXiv (Cornell University)|Sep 8, 2012

Game Theory and Voting Systems参考文献 21被引用 171

一句话总结

该论文提出了一种迭代排名聚合算法，将成对比较建模为比较图上的随机游走，其中对象得分对应于游走的平稳分布。该方法具有模型无关性，同时在估计Bradley-Terry-Luce（BTL）模型得分时实现了最优样本复杂度，在实验中优于先前的方法，包括Ammar和Shah的算法。

ABSTRACT

The question of aggregating pairwise comparisons to obtain a global ranking over a collection of objects has been of interest for a very long time: be it ranking of online gamers (e.g. MSR's TrueSkill system) and chess players, aggregating social opinions, or deciding which product to sell based on transactions. In most settings, in addition to obtaining ranking, finding 'scores' for each object (e.g. player's rating) is of interest to understanding the intensity of the preferences. In this paper, we propose a novel iterative rank aggregation algorithm for discovering scores for objects from pairwise comparisons. The algorithm has a natural random walk interpretation over the graph of objects with edges present between two objects if they are compared; the scores turn out to be the stationary probability of this random walk. The algorithm is model independent. To establish the efficacy of our method, however, we consider the popular Bradley-Terry-Luce (BTL) model in which each object has an associated score which determines the probabilistic outcomes of pairwise comparisons between objects. We bound the finite sample error rates between the scores assumed by the BTL model and those estimated by our algorithm. This, in essence, leads to order-optimal dependence on the number of samples required to learn the scores well by our algorithm. Indeed, the experimental evaluation shows that our (model independent) algorithm performs as well as the Maximum Likelihood Estimator of the BTL model and outperforms a recently proposed algorithm by Ammar and Shah [1].

研究动机与目标

• 开发一种基于成对比较的、与模型无关的迭代排名算法。
• 建立估计得分与真实BTL模型得分之间在有限样本下的误差界。
• 在得分估计中实现阶最优样本复杂度，最小化获得准确结果所需的比较次数。
• 证明该方法在BTL模型下与最大似然估计器具有竞争力的性能。
• 展示该方法在经验上优于Ammar和Shah最近提出的最先进算法。

提出的方法

• 该算法将成对比较建模为有向图，其中节点代表对象，边代表对象之间的比较。
• 在该图上定义一个随机游走，转移概率由比较频率推导得出。
• 通过该随机游走的平稳分布估计对象得分，确保收敛至稳定排名。
• 该方法本质上是迭代的，每一步均使用当前的比较统计数据更新得分估计。
• 理论分析利用浓度不等式界定了算法得分与真实BTL得分之间的估计误差。
• 该方法无需显式建模BTL分布，因此可适用于超出参数假设的场景。

实验结果

研究问题

• RQ1 一种与模型无关的迭代算法能否在BTL模型下实现与最大似然估计器相当的有限样本误差率？
• RQ2 所提出的方法在准确得分估计中是否表现出与比较次数阶最优的依赖关系？
• RQ3 该算法在经验上相对于最先进方法（如Ammar和Shah的方法）表现如何？
• RQ4 比较图上随机游走的平稳分布能否作为一种合理且有效的得分估计机制？
• RQ5 迭代得分更新的收敛性与准确性的理论依据是什么？

主要发现

• 所提算法实现了阶最优样本复杂度，即所需比较次数随期望估计精度实现最优缩放。
• 理论界表明，估计得分与真实BTL得分之间的有限样本误差衰减速率与信息论下界一致。
• 在经验上，该算法在得分估计精度方面与BTL模型的最大似然估计器表现相当。
• 在合成数据集和真实世界比较数据集上，该方法均优于Ammar和Shah最近提出的算法。
• 比较图上随机游走的平稳分布提供了一种稳健且可解释的得分估计机制。
• 该算法在各种比较图密度和比较噪声水平下均表现出稳定且收敛的性能。