[论文解读] Noisy Sorting Without Resampling

Mark Braverman, Elchanan Mossel|ArXiv.org|Jul 6, 2007

Game Theory and Voting Systems参考文献 7被引用 151

一句话总结

本文提出了一种多项式时间算法，用于无重采样的噪声排序，在噪声成对比较下实现了高概率恢复接近真实顺序的排名。该算法运行时间为 $ n^{O(\bar{\gamma}^{-4})} $，采样复杂度为 $ O_{\gamma}(n\log n) $，并表明最优排名与真实顺序之间的总位移为 $ \Theta(n) $，最大位移为 $ \Theta(\log n) $。

ABSTRACT

In this paper we study noisy sorting without re-sampling. In this problem there is an unknown order $a_{π(1)} < ... < a_{π(n)}$ where $π$ is a permutation on $n$ elements. The input is the status of $n \choose 2$ queries of the form $q(a_i,x_j)$, where $q(a_i,a_j) = +$ with probability at least $1/2+\ga$ if $π(i) > π(j)$ for all pairs $i eq j$, where $\ga > 0$ is a constant and $q(a_i,a_j) = -q(a_j,a_i)$ for all $i$ and $j$. It is assumed that the errors are independent. Given the status of the queries the goal is to find the maximum likelihood order. In other words, the goal is find a permutation $σ$ that minimizes the number of pairs $σ(i) > σ(j)$ where $q(σ(i),σ(j)) = -$. The problem so defined is the feedback arc set problem on distributions of inputs, each of which is a tournament obtained as a noisy perturbations of a linear order. Note that when $\ga < 1/2$ and $n$ is large, it is impossible to recover the original order $π$. It is known that the weighted feedback are set problem on tournaments is NP-hard in general. Here we present an algorithm of running time $n^{O(γ^{-4})}$ and sampling complexity $O_γ(n \log n)$ that with high probability solves the noisy sorting without re-sampling problem. We also show that if $a_{σ(1)},a_{σ(2)},...,a_{σ(n)}$ is an optimal solution of the problem then it is ``close'' to the original order. More formally, with high probability it holds that $\sum_i |σ(i) - π(i)| = Θ(n)$ and $\max_i |σ(i) - π(i)| = Θ(\log n)$. Our results are of interest in applications to ranking, such as ranking in sports, or ranking of search items based on comparisons by experts.

研究动机与目标

• 解决在成对比较存在噪声且无法重采样的情况下排序项目的问题，这是现实世界排名应用中的常见情形。
• 设计一种高效算法，在噪声比较下找到最大似然顺序，最小化错位数。
• 建立计算排名与真实底层顺序之间接近程度的理论保证。
• 分析在无重采样条件下，噪声水平 $ \gamma $、采样复杂度与近似精度之间的权衡。

提出的方法

• 该算法在大小为 $ \Theta(\log n) $ 的区间上使用二叉搜索树结构，将当前已排序集合划分为重叠的子区间，以定位新元素的插入点。
• 通过与相邻区间中的元素进行 $ k = O(\gamma^{-2}) $ 次比较执行多数测试，以高概率确定正确的插入区间。
• 采用递归插入过程，每一步中算法以至少 0.99 的概率向正确区间移动，使用 $ c_2 \log n $ 步收敛到大小为 2 的叶区间。
• 该方法确保最终插入位置与真实位置的偏差在 $ O(\gamma^{-4} \log n) $ 之内，利用二项尾部的集中不等式。
• 算法通过重叠区域维护区间树结构，即使单个比较存在噪声，也能实现基于比较的鲁棒定位。
• 该方法结合了概率分析与组合优化，使用切尔诺夫不等式控制每个阶段的误差概率。

实验结果

研究问题

• RQ1 当成对比较存在噪声且无法重复时，我们能否恢复接近真实顺序的排名？
• RQ2 在噪声比较下，实现高概率恢复真实顺序所需的最少比较次数是多少？
• RQ3 从位移度量来看，最优解与真实顺序有多接近？
• RQ4 是否存在一种多项式时间算法，解决无重采样噪声排序问题，并实现非平凡的近似保证？

主要发现

• 该算法运行时间为 $ n^{O(\gamma^{-4})} $，使用 $ O_{\gamma}(n\log n) $ 次比较，实现了最优排名的高概率恢复。
• 以高概率，最优排名与真实顺序之间的总位移为 $ \Theta(n) $，意味着平均位置误差为常数。
• 任何项目在最优排名与真实顺序中的最大位移为 $ \Theta(\log n) $，表明最坏情况下的误差为对数级。
• 该方法确保每一步插入成功将正确区间缩小，每步成功概率至少为 0.99，使用 $ c_2 \log n $ 步，其中 $ c_2 = O(\beta + 1) $。
• 该算法的正确性依赖于集中不等式，表明在 $ c_2 \log n $ 步后，偏离正确区间的概率至多为 $ n^{-\beta-1} $。
• 该方法对噪声具有鲁棒性：即使 $ \gamma $ 较小，算法仍通过每次测试使用 $ k = O(\gamma^{-2}) $ 次比较进行重复多数测试，保持高精度。