[论文解读] Spectral MLE: Top-$K$ Rank Aggregation from Pairwise Comparisons

Yuxin Chen, Changho Suh|arXiv (Cornell University)|Apr 27, 2015

Game Theory and Voting Systems参考文献 44被引用 65

一句话总结

本文提出 Spectral MLE，一种在 Bradley-Terry-Luce (BTL) 模型下近乎线性时间的 top-$K$ 排名聚合算法。该方法结合谱初始化与迭代坐标式最大似然估计 (MLE) 精炼，实现极小化样本复杂度，当比较次数超过理论下界时可实现完美的 top-$K$ 识别，该下界与第 $K$ 位与第 $(K+1)$ 位项目间得分差距的平方成反比。

ABSTRACT

This paper explores the preference-based top-$K$ rank aggregation problem. Suppose that a collection of items is repeatedly compared in pairs, and one wishes to recover a consistent ordering that emphasizes the top-$K$ ranked items, based on partially revealed preferences. We focus on the Bradley-Terry-Luce (BTL) model that postulates a set of latent preference scores underlying all items, where the odds of paired comparisons depend only on the relative scores of the items involved. We characterize the minimax limits on identifiability of top-$K$ ranked items, in the presence of random and non-adaptive sampling. Our results highlight a separation measure that quantifies the gap of preference scores between the $K^{ ext{th}}$ and $(K+1)^{ ext{th}}$ ranked items. The minimum sample complexity required for reliable top-$K$ ranking scales inversely with the separation measure irrespective of other preference distribution metrics. To approach this minimax limit, we propose a nearly linear-time ranking scheme, called \emph{Spectral MLE}, that returns the indices of the top-$K$ items in accordance to a careful score estimate. In a nutshell, Spectral MLE starts with an initial score estimate with minimal squared loss (obtained via a spectral method), and then successively refines each component with the assistance of coordinate-wise MLEs. Encouragingly, Spectral MLE allows perfect top-$K$ item identification under minimal sample complexity. The practical applicability of Spectral MLE is further corroborated by numerical experiments.

研究动机与目标

• 解决在高维设置下，从不完整、含噪声的成对比较中识别 top-$K$ 排名项目的挑战。
• 刻画在随机、非自适应采样下，可靠识别 top-$K$ 所需样本复杂度的根本极小化极限。
• 开发一种高效算法，以极低计算成本逼近这些极小化极限。
• 量化第 $K$ 位与第 $(K+1)$ 位项目间偏好得分差距对准确恢复所需样本量的影响。

提出的方法

• Spectral MLE 首先使用谱方法获得最小化平方损失的初始得分估计，确保 $\ell_2$-保真性。
• 然后通过坐标式最大似然估计 (MLE) 迭代精炼每个得分分量，以提升逐点精度。
• 该算法利用 Bradley-Terry-Luce (BTL) 模型，其中成对比较结果仅取决于项目间相对偏好得分。
• 它引入一个分离度量 $\Delta_K = w_K - w_{K+1}$，用于量化第 $K$ 位与第 $(K+1)$ 位项目间的得分差距，该度量决定了所需的样本复杂度。
• 理论分析利用 KL 散度与 Chernoff 不等式推导出误差概率的极小化下界，表明样本复杂度与 $\sim 1/\Delta_K^2$ 成正比。
• 应用 Bernstein 不等式控制比较统计量的集中性，确保估计误差的高概率保证。

实验结果

研究问题

• RQ1 可靠识别 top-$K$ 排名项目所需的最少成对比较次数是多少？
• RQ2 第 $K$ 位与第 $(K+1)$ 位项目间的偏好得分差距如何影响 top-$K$ 恢复的样本复杂度？
• RQ3 能否设计一种近乎线性时间的算法，在 BTL 模型下实现极小化最优性能？
• RQ4 比较图的结构（稀疏性）与得分分布如何相互作用，影响可识别性？

主要发现

• top-$K$ 识别的极小化样本复杂度与得分差距 $\Delta_K = w_K - w_{K+1}$ 的平方成反比，即 $\sim 1/\Delta_K^2$。
• 当每对项目间的重复比较次数超过极小化下界（至多常数因子）时，Spectral MLE 即可实现完美的 top-$K$ 识别。
• 该算法的样本复杂度在对数因子范围内达到极小化最优，与通过信息论方法推导出的理论下界一致。
• 分离度量 $\Delta_K$ 是可识别性的关键决定因素，差距越小，所需比较次数显著增加。
• 数值实验表明，Spectral MLE 在准确率与运行时间方面均优于现有方法，实现近乎线性时间复杂度。
• 理论保证在随机、非自适应采样下成立，使该方法适用于大规模实际应用。