[论文解读] Active Ranking from Pairwise Comparisons and when Parametric Assumptions Don't Help

Reinhard Heckel, Nihar B. Shah+2 more|arXiv (Cornell University)|Jun 28, 2016

Auction Theory and Applications参考文献 32被引用 12

一句话总结

该论文提出了一种主动排序算法，利用成对比较次数的置信区间来顺序选择比较对，无需参数假设即可实现最优样本复杂度（对数因子内）。令人惊讶的是，即使在BTL或Thurstone等常见参数模型下，当成对概率远离0和1时，此类假设最多也只能带来对数因子级别的样本复杂度改进。

ABSTRACT

We consider sequential or active ranking of a set of n items based on noisy pairwise comparisons. Items are ranked according to the probability that a given item beats a randomly chosen item, and ranking refers to partitioning the items into sets of pre-specified sizes according to their scores. This notion of ranking includes as special cases the identification of the top-k items and the total ordering of the items. We first analyze a sequential ranking algorithm that counts the number of comparisons won, and uses these counts to decide whether to stop, or to compare another pair of items, chosen based on confidence intervals specified by the data collected up to that point. We prove that this algorithm succeeds in recovering the ranking using a number of comparisons that is optimal up to logarithmic factors. This guarantee does not require any structural properties of the underlying pairwise probability matrix, unlike a significant body of past work on pairwise ranking based on parametric models such as the Thurstone or Bradley-Terry-Luce models. It has been a long-standing open question as to whether or not imposing these parametric assumptions allows for improved ranking algorithms. For stochastic comparison models, in which the pairwise probabilities are bounded away from zero, our second contribution is to resolve this issue by proving a lower bound for parametric models. This shows, perhaps surprisingly, that these popular parametric modeling choices offer at most logarithmic gains for stochastic comparisons.

研究动机与目标

• 开发一种主动排序算法，自适应地选择成对比较，以最少的查询次数恢复部分或完整排序。
• 在成对比较概率的通用非参数假设下，分析所提算法的样本复杂度。
• 解决长期悬而未决的开放问题：在随机比较模型下，参数模型（如BTL、Thurstone）是否能将样本复杂度的降低幅度超过对数因子？
• 建立与算法性能在对数因子内匹配的分布依赖下界，证明其近乎最优性。
• 比较非参数与参数方法在实际排序应用中的鲁棒性与效率。

提出的方法

• 该算法维护每项的胜场计数，并基于这些计数计算置信区间，以指导未来比较的选择。
• 在每一步中，算法根据置信区间是否表明两项得分存在显著差异，来选择一对项目进行比较。
• 该方法利用与多臂赌博机问题（特别是top-k选择问题）的联系，以指导主动采样决策。
• 通过集中不等式和置信区间构造，推导出理论保证，确保以高概率恢复真实排序。
• 采用凸优化框架分析在参数假设下的最优比较矩阵结构，推导出KKT条件。
• 分析证明，在参数模型下，若成对概率远离0和1，则最优解必须满足参数形式（如逻辑斯蒂或正态CDF），从而确认模型结构。

实验结果

研究问题

• RQ1 能否在不假设BTL或Thurstone等参数模型的前提下，使主动排序算法实现最优样本复杂度？
• RQ2 在通用成对比较模型下，主动排序的样本复杂度的基本极限（下界）是什么？
• RQ3 当成对概率远离0和1时，BTL或Thurstone等参数假设是否能带来超过对数因子的样本复杂度改进？
• RQ4 在鲁棒性和样本效率方面，参数模型与非参数方法的性能如何比较？
• RQ5 能否设计一种单一算法，在确定性和随机比较模型下均实现最优性能？

主要发现

• 所提出的主动排序算法在无需任何成对比较概率的参数假设下，实现了在对数因子内最优的样本复杂度。
• 该算法的性能是分布依赖的，与底层得分τ_i成比例，且在对数因子内与推导出的分布依赖下界相匹配。
• 在随机比较模型中（即成对概率远离0和1），BTL或Thurstone等参数假设最多只能带来对数因子级别的样本复杂度降低。
• 分析证明，在参数假设下，凸优化问题的任意最优解必须满足参数形式，如M_ij^* = Φ(ν_j^* - ν_i^*)，从而确认了模型结构。
• KKT条件表明，在参数假设下，最优矩阵必须满足对称的、基于得分的结构，将解与潜在得分联系起来。
• 实证证据与理论分析表明，非参数方法在实践中更具鲁棒性，因为参数模型对模型误设高度敏感。