[论文解读] Ranking with Features: Algorithm and A Graph Theoretic Analysis

Aadirupa Saha, Arun Rajkumar|arXiv (Cornell University)|Aug 11, 2018

Data Management and Algorithms被引用 3

一句话总结

本文提出了特征-Bradley-Terry-Luce（f-BTL）模型及fBTL-LS算法，通过利用项目特征来改进成对比较中的排序性能。通过利用特征表示建模依赖关系，该方法将样本复杂度降低至O(α log α)，其中α为独立项目的数量，显著低于标准BTL模型中的O(n log n)界。

ABSTRACT

We consider the problem of ranking a set of items from pairwise comparisons in the presence of features associated with the items. Recent works have established that $O(n\log(n))$ samples are needed to rank well when there is no feature information present. However, this might be sub-optimal in the presence of associated features. We introduce a new probabilistic preference model called feature-Bradley-Terry-Luce (f-BTL) model that generalizes the standard BTL model to incorporate feature information. We present a new least squares based algorithm called fBTL-LS which we show requires much lesser than $O(n\log(n))$ pairs to obtain a good ranking -- precisely our new sample complexity bound is of $O(α\log α)$, where $α$ denotes the number of `independent items' of the set, in general $α<< n$. Our analysis is novel and makes use of tools from classical graph matching theory to provide tighter bounds that sheds light on the true complexity of the ranking problem, capturing the item dependencies in terms of their feature representations. This was not possible with earlier matrix completion based tools used for this problem. We also prove an information theoretic lower bound on the required sample complexity for recovering the underlying ranking, which essentially shows the tightness of our proposed algorithms. The efficacy of our proposed algorithms are validated through extensive experimental evaluations on a variety of synthetic and real world datasets.

研究动机与目标

• 解决现有排序方法在存在项目特征时样本复杂度高达O(n log n)的低效问题。
• 以一种能够通过项目特征表示捕捉项目间依赖关系的方式建模偏好关系。
• 开发一种新算法，通过利用特征信息实现更优的样本复杂度。
• 基于图匹配理论，为改进的样本复杂度提供理论基础。
• 建立紧致的信息论下界，以验证所提方法的最优性。

提出的方法

• 提出特征-Bradley-Terry-Luce（f-BTL）模型，作为标准BTL模型的推广，以整合项目特征。
• 设计fBTL-LS算法，一种基于最小二乘法的方法，利用特征信息估计偏好得分。
• 应用经典图匹配理论工具，推导出更紧的样本复杂度界。
• 引入“独立项目”（α）的概念，基于特征结构刻画排序问题的真实复杂度。
• 推导出O(α log α)的样本复杂度界，其中α ≪ n，反映对总项目数依赖性的降低。
• 证明信息论下界，证实所提样本复杂度的紧致性。

实验结果

研究问题

• RQ1 能否通过引入项目特征，减少准确排序所需的成对比较次数？
• RQ2 项目特征的结构如何影响排序算法的样本复杂度？
• RQ3 图匹配理论能否为偏好学习提供比矩阵补全方法更紧的界？
• RQ4 在具备特征信息的条件下，所提出的fBTL-LS算法是否具有样本最优性？
• RQ5 特征增强排序的样本复杂度的根本极限（下界）是什么？

主要发现

• fBTL-LS算法实现了O(α log α)的样本复杂度，其中α为独立项目的数量，相较于标准模型中的O(n log n)有显著降低。
• 利用图匹配理论可获得更紧的界，通过特征表示捕捉项目依赖关系，优于以往基于矩阵补全的方法。
• 由于有效利用了特征结构，该方法在α ≪ n时展现出更高的样本效率。
• 建立了信息论下界，表明O(α log α)的样本复杂度在渐近意义上是紧致的。
• 在合成数据集和真实世界数据集上的大量实验验证了fBTL-LS在多样化设置下的优越性能与鲁棒性。