[论文解读] Sync-Rank: Robust Ranking, Constrained Ranking and Rank Aggregation via Eigenvector and Semidefinite Programming Synchronization

Mihai Cucuringu|arXiv (Cornell University)|Apr 5, 2015

Advanced Statistical Methods and Models参考文献 52被引用 12

一句话总结

本文提出 Sync-Rank，一种鲁棒的排序方法，将带有噪声和不完整的成对比较的排序问题建模为 SO(2) 上的群同步问题，利用特征向量和半定规划（SDP）松弛实现高效且可证明准确的解法。该方法在真实世界数据集（英超联赛、NCAA 篮球赛、Halo 2 游戏）上达到最先进性能，并支持约束排序、排序聚合以及局部一致部分排序的检测。

ABSTRACT

We consider the classic problem of establishing a statistical ranking of a set of n items given a set of inconsistent and incomplete pairwise comparisons between such items. Instantiations of this problem occur in numerous applications in data analysis (e.g., ranking teams in sports data), computer vision, and machine learning. We formulate the above problem of ranking with incomplete noisy information as an instance of the group synchronization problem over the group SO(2) of planar rotations, whose usefulness has been demonstrated in numerous applications in recent years. Its least squares solution can be approximated by either a spectral or a semidefinite programming (SDP) relaxation, followed by a rounding procedure. We perform extensive numerical simulations on both synthetic and real-world data sets, showing that our proposed method compares favorably to other algorithms from the recent literature. Existing theoretical guarantees on the group synchronization problem imply lower bounds on the largest amount of noise permissible in the ranking data while still achieving exact recovery. We propose a similar synchronization-based algorithm for the rank-aggregation problem, which integrates in a globally consistent ranking pairwise comparisons given by different rating systems on the same set of items. We also discuss the problem of semi-supervised ranking when there is available information on the ground truth rank of a subset of players, and propose an algorithm based on SDP which recovers the ranks of the remaining players. Finally, synchronization-based ranking, combined with a spectral technique for the densest subgraph problem, allows one to extract locally-consistent partial rankings, in other words, to identify the rank of a small subset of players whose pairwise comparisons are less noisy than the rest of the data, which other methods are not able to identify.

研究动机与目标

• 解决大规模数据中因成对比较不完整、有噪声且不一致所带来的排序挑战。
• 构建一个统一框架，利用同步原理整合鲁棒排序、约束排序与排序聚合。
• 在高噪声水平下，基于群同步的理论保证，实现对真实排序的精确或近似恢复。
• 检测局部一致的部分排序，即某些项目子集的比较显著比网络其余部分更可靠。
• 通过结合谱方法与基于 SDP 的优化，超越现有方法（如 Rank-Centrality 和 Least-Squares），实现全局一致性。

提出的方法

• 将排序问题建模为 SO(2) 上的同步问题，将成对比较视为相对角度的噪声测量。
• 通过成对比较导出的矩阵的主特征向量，利用角同步问题的谱松弛方法计算初始排序估计。
• 应用半定规划（SDP）松弛以提升鲁棒性与准确性，尤其在高噪声或稀疏场景下。
• 采用舍入过程从连续的 SDP 解中恢复离散排序，确保与观测数据的一致性。
• 在半监督排序中通过带等式约束的 SDP 强制实施已知的真实排序。
• 通过分析残差矩阵的随机游走拉普拉斯矩阵的首个非平凡特征向量，检测局部一致的部分排序，识别出噪声较低的密集子图。

实验结果

研究问题

• RQ1 SO(2) 上的群同步能否有效用于建模和求解不完整且有噪声的成对比较的排序问题？
• RQ2 所提出的 SDP 与谱松弛方法在准确性和鲁棒性方面，与 Rank-Centrality 和 Least-Squares 等最先进方法相比如何？
• RQ3 基于同步的排序方法能否检测到隐藏的、局部一致的部分排序，即一小部分项目具有显著更可靠的比较？
• RQ4 能否基于现有的同步理论，为在噪声条件下实现真实排序的精确恢复提供理论保证？
• RQ5 如何通过半定规划高效地将已知排名的硬约束整合到排序过程中？

主要发现

• Sync-Rank 在英超联赛足球赛、NCAA 篮球赛和 Halo 2 比赛数据等真实世界数据集上，相较于 Rank-Centrality、Least-Squares 和 Serial-Rank，在各种噪声模型和图稀疏度水平下均表现更优。
• 在噪声水平受群同步文献中推导的理论保证限制下，该方法实现了对真实排序的精确恢复。
• 谱方法与 SDP 松弛提供了一种非迭代、模型无关的算法，计算高效，对稀疏和非均匀分布的数据具有鲁棒性。
• 基于 SDP 的方法结合硬约束，可在已知部分选手排名的情况下成功恢复完整排序，同时保持与约束的一致性。
• 所提出的方法通过识别噪声较低的密集子图，能够检测局部一致的部分排序，这是标准排序算法所不具备的能力。
• 基于 SVD 的排序变体可借助随机矩阵理论进行理论分析，预示未来可能获得可证明的性能边界。