[论文解读] A Nearly Instance Optimal Algorithm for Top-k Ranking under the Multinomial Logit Model

Xi Chen, Yuanzhi Li+1 more|arXiv (Cornell University)|Jul 25, 2017

Auction Theory and Applications参考文献 25被引用 3

一句话总结

该论文提出了一种在多项式对数（MNL）模型下，使用多路比较的近乎实例最优的主动学习算法，用于顶层-$k$排序，且无需事先了解项目偏好得分。该算法自适应地选择大小至多为$l$的比较集合，以最小化样本复杂度，其样本复杂度与紧致下界仅相差对数因子，证明了在所有实例中均近乎最优。

ABSTRACT

We study the active learning problem of top-$k$ ranking from multi-wise comparisons under the popular multinomial logit model. Our goal is to identify the top-$k$ items with high probability by adaptively querying sets for comparisons and observing the noisy output of the most preferred item from each comparison. To achieve this goal, we design a new active ranking algorithm without using any information about the underlying items' preference scores. We also establish a matching lower bound on the sample complexity even when the set of preference scores is given to the algorithm. These two results together show that the proposed algorithm is nearly instance optimal (similar to instance optimal [FLN03], but up to polylog factors). Our work extends the existing literature on rank aggregation in three directions. First, instead of studying a static problem with fixed data, we investigate the top-$k$ ranking problem in an active learning setting. Second, we show our algorithm is nearly instance optimal, which is a much stronger theoretical guarantee. Finally, we extend the pairwise comparison to the multi-wise comparison, which has not been fully explored in ranking literature.

研究动机与目标

• 解决在动态自适应设置下，以最少比较次数识别顶层-$k$项目的主动学习问题。
• 设计一种算法，实现近乎实例最优的样本复杂度，且无需事先了解偏好得分。
• 将先前从成对比较扩展到多路比较，量化比较集合大小$l$的作用。
• 即使在已知偏好得分的情况下，也建立样本复杂度的匹配下界，证明所提算法的紧致性。
• 通过展示近乎实例最优性，提供强于现有方法的理论保证，避免在困难实例上性能下降。

提出的方法

• 该算法根据先前收集的比较结果，自适应地选择大小至多为$l$的比较集合，且无需了解底层偏好得分。
• 它采用一种新颖的主动学习策略，通过强调与第$k$名附近项目相关的比较，聚焦于区分顶层-$k$项目与其余项目。
• 该方法基于多项式对数（MNL）模型，其中选择某项目的概率与$\exp(\mu_i)$成正比，其中$\mu_i$为该项目的偏好得分。
• 该算法的设计基于对样本复杂度的紧致分析，利用信息论论证和比较历史来界定错误概率。
• 关键技术组件是扰动论证：将原始得分下正确识别顶层-$k$项目的概率，与当$i \leq k$时$\theta_i = \theta_{k+1}$的情况进行比较，以推导下界。
• 理论分析表明，该算法的样本复杂度与信息论下界仅相差对数因子，证明了近乎实例最优性。

实验结果

研究问题

• RQ1 在MNL模型下，是否能设计一种主动排序算法，在无需事先了解偏好得分的情况下，实现近乎实例最优的样本复杂度？
• RQ2 在多路比较中，样本复杂度如何随比较集合大小$l$变化？与成对比较相比是否具有显著优势？
• RQ3 即使已知完整的偏好得分集合，是否存在识别顶层-$k$项目所需比较数目的基本下界？
• RQ4 所提算法是否能在所有实例上保持良好性能，避免现有方法在困难实例上性能下降的问题？
• RQ5 与随机或固定比较策略相比，自适应查询选择在最小化样本复杂度方面起到何种作用？

主要发现

• 所提算法的样本复杂度与信息论下界仅相差对数因子，证明其近乎实例最优。
• 即使已知完整的偏好得分集合，该样本复杂度的下界依然成立，证明了边界的紧致性。
• 该算法在所有实例上表现良好，避免了现有方法在困难实例上性能下降的问题。
• 当$l > 2$时，多路比较在样本复杂度尺度上并未提供显著优势，除非实例本身非常简单，这由样本复杂度的缩放规律所揭示。
• 分析证明，当$c < 1/2$时，任何算法都无法在少于$\frac{cn}{l}$次比较内以超过$7/8$的概率识别顶层-$k$项目，这在稀疏比较场景下建立了强有力的负面结果。
• 该方法在无需任何底层偏好得分知识的情况下实现近乎最优性，使其在实际应用中更具实用性。