[论文解读] PAC Ranking from Pairwise and Listwise Queries: Lower Bounds and Upper Bounds

Wenbo Ren, Jia Liu+1 more|arXiv (Cornell University)|Jun 8, 2018

Data Management and Algorithms参考文献 19被引用 10

一句话总结

该论文在MNL模型下，针对$l$-wise查询提出了自适应PAC排序算法，用于top-$k$和总排序，其样本复杂度在对数因子范围内达到最优。该研究建立了紧致的下界，并在理论和实证性能上均优于最先进方法，尤其在$l > 2$的列表式设置中表现更优。所提出的算法相较于现有方法显著降低了查询复杂度，尤其当$l$较大时优势明显。

ABSTRACT

This paper explores the adaptive (active) PAC (probably approximately correct) top-$k$ ranking (i.e., top-$k$ item selection) and total ranking problems from $l$-wise ($l\geq 2$) comparisons under the multinomial logit (MNL) model. By adaptively choosing sets to query and observing the noisy output of the most favored item of each query, we want to design ranking algorithms that recover the top-$k$ or total ranking using as few queries as possible. For the PAC top-$k$ ranking problem, we derive a lower bound on the sample complexity (aka number of queries), and propose an algorithm that is sample-complexity-optimal up to an $O(\log(k+l)/\log{k})$ factor. When $l=2$ (i.e., pairwise comparisons) or $l=O(poly(k))$, this algorithm matches the lower bound. For the PAC total ranking problem, we derive a tight lower bound, and propose an algorithm that matches the lower bound. When $l=2$, the MNL model reduces to the popular Plackett-Luce (PL) model. In this setting, our results still outperform the state-of-the-art both theoretically and numerically. We also compare our algorithms with the state-of-the-art using synthetic data as well as real-world data to verify the efficiency of our algorithms.

研究动机与目标

• 为在MNL模型下使用$l$-wise查询的主动排序中最小化查询复杂度提供解决方案。
• 推导PAC top-$k$和总排序问题在样本复杂度上的理论下界。
• 设计自适应算法，实现样本复杂度最优性（对数因子范围内）。
• 在合成数据和真实世界数据集上评估所提算法的性能，尤其在成对方法表现不佳的列表式设置中。
• 证明传统成对排序算法在列表式场景中泛化能力不足，并提供一种有原则的替代方案。

提出的方法

• 通过信息论分析，推导出在MNL模型下PAC top-$k$排序的样本复杂度下界。
• 提出TNKS（Top-$k$ Noisy Knowledge Search）算法用于PAC top-$k$排序，该算法基于偏好分数的置信区间自适应选择$l$个项目的查询集合。
• 开发PDTR（Pairwise-Driven Total Ranking）算法用于总排序，采用锦标赛式淘汰策略并结合自适应查询选择。
• 使用多项式对数几率（MNL）模型对用户偏好进行建模，其中从一组中选择某项的概率与其指数偏好得分成正比。
• 引入归一化处理，使所有项目中的最大偏好得分设为1，确保模型的尺度不变性。
• 利用数据集中的经验边际分布模拟查询结果，并在真实世界数据上验证算法性能。

实验结果

研究问题

• RQ1 在MNL模型下，实现PAC top-$k$排序所需的$l$-wise查询数量的信息论下界是多少？
• RQ2 自适应算法能否实现PAC top-$k$排序的样本复杂度最优性？其性能如何随$l$和$k$变化？
• RQ3 在MNL模型下，PAC总排序的最紧致下界是什么？是否存在算法能与之匹配？
• RQ4 在$l > 2$的列表式设置中，所提算法与最先进成对排序方法相比表现如何？
• RQ5 尽管理论上的上界随$l$增大而提高，自适应列表式排序算法的性能是否仍随$l$增大而提升？

主要发现

• 所提出的TNKS算法在样本复杂度上实现PAC top-$k$排序的最优性，误差因子为$O(\log(k+l)/\log k)$，且当$l=2$或$l=O(\text{poly}(k))$时与下界完全匹配。
• 对于总排序，所提出的PDTR算法与推导出的紧致样本复杂度下界完全一致，确立了阶最优性。
• 在合成数据上，TNKS显著优于现有方法，尤其当$l=5$时，显示出对更大$l$的优越可扩展性。
• 在PrefLib的真实世界数据集上，TNKS在top-$k$排序中始终优于基线方法，且在$l=4$时性能差距更大。
• 在$l=4$时，PDTR在总排序中显著优于Borda排序，而在$l=2$时仍保持竞争力，证实了列表式设计的优势。
• 结果表明，将列表式问题转化为成对问题（如通过FEMAB）难以扩展，专用的列表式算法对效率至关重要。