[论文解读] Minimax-optimal Inference from Partial Rankings

Bruce Hajek, Sewoong Oh+1 more|arXiv (Cornell University)|Jun 21, 2014

Game Theory and Voting Systems参考文献 19被引用 31

一句话总结

该论文在普莱克特-卢克模型下，针对部分排名中的全局偏好估计建立了极小极大最优推断，表明Cramér-Rao下界取决于比较图拉普拉斯矩阵的谱隙。论文证明了随机物品分配与排名分解方案在对数因子范围内达到极小极大最优性，且最大似然估计器与理论下界一致。

ABSTRACT

This paper studies the problem of inferring a global preference based on the partial rankings provided by many users over different subsets of items according to the Plackett-Luce model. A question of particular interest is how to optimally assign items to users for ranking and how many item assignments are needed to achieve a target estimation error. For a given assignment of items to users, we first derive an oracle lower bound of the estimation error that holds even for the more general Thurstone models. Then we show that the Cramér-Rao lower bound and our upper bounds inversely depend on the spectral gap of the Laplacian of an appropriately defined comparison graph. When the system is allowed to choose the item assignment, we propose a random assignment scheme. Our oracle lower bound and upper bounds imply that it is minimax-optimal up to a logarithmic factor among all assignment schemes and the lower bound can be achieved by the maximum likelihood estimator as well as popular rank-breaking schemes that decompose partial rankings into pairwise comparisons. The numerical experiments corroborate our theoretical findings.

研究动机与目标

• 量化在高维设置下，为实现目标估计误差所需物品分配的数量，前提为部分排名。
• 在系统控制用户-物品分配的前提下，于总分配预算固定时，确定最优的物品分配策略。
• 评估将部分排名转换为成对比较的排名分解方案相对于最优推断的性能退化程度。
• 推导适用于更广泛 Thurstone 模型类（而不仅限于普莱克特-卢克模型）的Oracle下界，以限制估计误差。
• 在随机分配下，建立最大似然估计与排名分解方案的极小极大最优性，对数因子范围内成立。

提出的方法

• 推导适用于 Thurstone 家族中所有模型（包括普莱克特-卢克模型）和所有估计器的Oracle下界，以限制估计误差。
• 分析Cramér-Rao下界，表明其与用户-物品分配所诱导的比较图拉普拉斯矩阵的谱隙成反比。
• 提出一种物品到用户的随机分配方案，并证明其在对数因子范围内达到极小极大最优性。
• 利用矩阵集中不等式（矩阵 Bernstein）控制经验拉普拉斯矩阵与其期望之间的偏差，从而确保谱隙控制。
• 应用 Hoeffding 不等式与矩阵 Hessian 分析，以限制对数似然函数的梯度与 Hessian 矩阵，从而支持误差分析。
• 证明在所提出的随机分配下，最大似然估计与排名分解方案均以对数因子为界达到相同的极小极大率。

实验结果

研究问题

• RQ1 在普莱克特-卢克模型下，从部分排名中恢复全局偏好的估计误差的根本极限是什么？
• RQ2 比较图拉普拉斯矩阵的谱隙如何影响极小极大估计误差？
• RQ3 随机物品分配方案是否能在估计误差方面达到极小极大最优性，其性能上限因子是多少？
• RQ4 当使用排名分解方案将部分排名转换为成对比较时，性能退化程度如何？
• RQ5 最大似然估计器在部分排名推断中是否为极小极大最优？其是否与推导出的下界一致？

主要发现

• 估计误差被一个与比较图拉普拉斯矩阵谱隙成反比的量下界限制，且该下界适用于 Thurstone 模型类中的所有估计器。
• 普莱克特-卢克模型的 Cramér-Rao 下界与比较图拉普拉斯矩阵的谱隙成反比。
• 在随机物品分配下，比较图拉普拉斯矩阵的谱隙集中在 $ \frac{mk}{2(n-1)} $ 附近，从而确保良好的估计性能。
• 最大似然估计器在对数因子范围内达到极小极大最优估计误差率，与推导出的下界一致。
• 在相同随机分配方案下，将部分排名分解为成对比较的排名分解方案，同样在对数因子范围内达到极小极大最优性。
• 数值实验表明，理论估计误差界与谱隙行为与实际性能表现一致。