[论文解读] On Sample Complexity Upper and Lower Bounds for Exact Ranking from Noisy Comparisons

Wenbo Ren, Jia Liu+1 more|arXiv (Cornell University)|Sep 7, 2019

Multi-Criteria Decision Making被引用 5

一句话总结

本文在最小假设下，为从噪声比较中实现精确排序建立了紧致的样本复杂度上下界，提出了一类自适应算法，无需事先了解噪声水平，且在多种设置下几乎达到最优样本复杂度。该工作首次在任意噪声分布下，为成对比较和列表比较提供了通用的下界，证明了所提算法在多样化场景中几乎达到最优样本复杂度。

ABSTRACT

This paper studies the problem of finding the exact ranking from noisy comparisons. A comparison over a set of $m$ items produces a noisy outcome about the most preferred item, and reveals some information about the ranking. By repeatedly and adaptively choosing items to compare, we want to fully rank the items with a certain confidence, and use as few comparisons as possible. Different from most previous works, in this paper, we have three main novelties: (i) compared to prior works, our upper bounds (algorithms) and lower bounds on the sample complexity (aka number of comparisons) require the minimal assumptions on the instances, and are not restricted to specific models; (ii) we give lower bounds and upper bounds on instances with unequal noise levels; and (iii) this paper aims at the exact ranking without knowledge on the instances, while most of the previous works either focus on approximate rankings or study exact ranking but require prior knowledge. We first derive lower bounds for pairwise ranking (i.e., compare two items each time), and then propose (nearly) optimal pairwise ranking algorithms. We further make extensions to listwise ranking (i.e., comparing multiple items each time). Numerical results also show our improvements against the state of the art.

研究动机与目标

• 推导出在最小假设下，从噪声成对比较和列表比较中实现精确排序所需比较次数的通用、实例无关的下界。
• 设计自适应算法，实现几乎最优的样本复杂度，且无需事先了解噪声水平或比较概率。
• 探究列表比较是否相比成对比较能降低样本复杂度。
• 在最小假设下建立样本复杂度的理论极限，避免使用如Plackett-Luce或强随机传递性等限制性模型。
• 通过证明在多样化噪声配置下边界的紧致性，弥合理论下界与实际算法之间的差距。

提出的方法

• 通过多臂赌博机问题中多重假设的约化，推导出基于信息论的样本复杂度下界。
• 提出自适应成对排序算法，根据累积的比较结果动态选择项目对，以最小化不确定性。
• 通过设计可同时比较多个项目的算法，将框架扩展至列表比较，以加速收敛。
• 引入一种新颖的从硬币识别问题到排序问题的约化技术，实现紧致下界的推导。
• 使用最小分离参数 $\tilde{\Delta}_i$ 和成对差异 $\Delta_{i,j}$ 来刻画区分项目排序难度。
• 应用集中不等式和基于熵的论证，界定实现 $\delta$-正确排序所需的期望比较次数。

实验结果

研究问题

• RQ1 在最小假设下，从噪声成对比较中实现精确排序，其比较次数的根本下界是什么？
• RQ2 自适应算法是否能在一般设置下实现与推导出的下界相匹配的样本复杂度，而无需假设特定的噪声模型？
• RQ3 在最小化比较次数方面，列表比较的样本复杂度与成对比较相比如何？
• RQ4 项目对之间异质噪声水平对精确排序样本复杂度有何影响？
• RQ5 所提算法在任意比较概率分布下，能在多大程度上实现近似最优？

主要发现

• 本文首次在不假设Plackett-Luce或强随机传递性等特定模型的前提下，建立了从噪声比较中实现精确排序的通用样本复杂度下界。
• 所提出的自适应成对排序算法实现的样本复杂度几乎与推导出的下界一致，证明了在多样化噪声配置下的近似最优性。
• 对于列表比较，本文表明每次比较使用多个项目可降低样本复杂度，尽管具体提升程度取决于噪声结构。
• 在约化为硬币识别问题的条件下，下界呈 $\tilde{\Omega}(\sum_{k} \Delta_{q_{2k-1},q_{2k}}^{-2} \log \log \Delta_{q_{2k-1},q_{2k}}^{-1}) + \Omega(\min \sum \Delta_{i,j}^{-2} \log \delta_k^{-1})$ 的形式。
• 实验结果表明，所提算法在数值评估中显著优于现有最先进方法，尤其在异质噪声水平设置下表现更优。
• 分析证明，即使在不了解比较概率的情况下，算法仍能以接近理论极限的样本复杂度实现 $\delta$-正确排序，仅相差对数因子。