[논문 리뷰] Ranking with Features: Algorithm and A Graph Theoretic Analysis

Aadirupa Saha, Arun Rajkumar|arXiv (Cornell University)|2018. 08. 11.

Data Management and Algorithms인용 수 3

한 줄 요약

이 논문은 항목 특징을 활용하여 쌍별 비교로부터의 랭킹을 향상시키기 위해 특징-브래들리-털리-루크(의 f-BTL) 모델과 fBTL-LS 알고리즘을 도입한다. 특징 표현을 통해 의존성을 모델링함으로써, 표본 복잡도를 O(α log α)로 감소시켜 표준 BTL 모델의 O(n log n) 기준보다 크게 낮춘다. 여기서 α는 독립 항목의 수이다.

ABSTRACT

We consider the problem of ranking a set of items from pairwise comparisons in the presence of features associated with the items. Recent works have established that $O(n\log(n))$ samples are needed to rank well when there is no feature information present. However, this might be sub-optimal in the presence of associated features. We introduce a new probabilistic preference model called feature-Bradley-Terry-Luce (f-BTL) model that generalizes the standard BTL model to incorporate feature information. We present a new least squares based algorithm called fBTL-LS which we show requires much lesser than $O(n\log(n))$ pairs to obtain a good ranking -- precisely our new sample complexity bound is of $O(α\log α)$, where $α$ denotes the number of `independent items' of the set, in general $α<< n$. Our analysis is novel and makes use of tools from classical graph matching theory to provide tighter bounds that sheds light on the true complexity of the ranking problem, capturing the item dependencies in terms of their feature representations. This was not possible with earlier matrix completion based tools used for this problem. We also prove an information theoretic lower bound on the required sample complexity for recovering the underlying ranking, which essentially shows the tightness of our proposed algorithms. The efficacy of our proposed algorithms are validated through extensive experimental evaluations on a variety of synthetic and real world datasets.

연구 동기 및 목표

• 항목 특징이 존재할 때 기존 랭킹 방법이 O(n log n)의 쌍별 비교를 요구하는 비효율성을 해결하기 위해.
• 항목의 특징 표현을 통해 항목 간의 의존성을 포괄하는 방식으로 선호 관계를 모델링하기 위해.
• 특징 정보를 활용하여 더 낮은 표본 복잡도를 달성하는 새로운 알고리즘을 개발하기 위해.
• 그래프 매칭 이론을 사용하여 향상된 표본 복잡도의 이론적 기반을 마련하기 위해.
• 제안된 방법의 최적성과 검증을 위한 정보 이론적 낮은 경계를 설정하기 위해.

제안 방법

• 표준 BTL 모델의 일반화로 항목 특징을 통합한 특징-브래들리-털리-루크(f-BTL) 모델을 제안한다.
• 특징 정보를 활용하여 선호 점수를 추정하는 최소 제곱 기반의 fBTL-LS 알고리즘을 개발한다.
• 고전적 그래프 매칭 이론의 도구를 적용하여 표본 복잡도의 더 날카운 경계를 유도한다.
• 특징 구조에 기반해 실제 랭킹 문제의 복잡도를 기술하는 데 사용되는 '독립 항목'(α)의 개념을 사용한다.
• 표본 복잡도 경계를 O(α log α)로 유도하며, 여기서 α ≪ n 이므로 총 항목 수에 대한 의존성이 감소함을 반영한다.
• 제안된 표본 복잡도의 날카운 성질을 확인하기 위해 정보 이론적 낮은 경계를 증명한다.

실험 결과

연구 질문

• RQ1 항목 특징을 통합함으로써 정확한 랭킹을 위해 필요한 쌍별 비교의 수를 줄일 수 있는가?
• RQ2 항목 특징의 구조가 랭킹 알고리즘의 표본 복잡도에 어떻게 영향을 미치는가?
• RQ3 그래프 매칭 이론이 선호 학습에 있어 행렬 완성 방법보다 더 날카운 경계를 제공할 수 있는가?
• RQ4 특징 정보가 존재할 때 제안된 fBTL-LS 알고리즘이 표본 최적인가?
• RQ5 특징 보강 랭킹에 대한 기본적인 한계(낮은 경계)는 무엇인가?

주요 결과

• fBTL-LS 알고리즘은 독립 항목 수 α에 대해 O(α log α)의 표본 복잡도를 달성하며, 표준 모델의 O(n log n)에 비해 요구 조건을 크게 줄였다.
• 그래프 매칭 이론의 활용은 특징 표현을 통해 항목 간 의존성을 포착하는 더 날카운 경계를 가능하게 하며, 이는 이전의 행렬 완성 기반 접근과 다릅니다.
• 특징 구조를 효과적으로 활용함으로써 α ≪ n 인 경우 표본 효율성이 특히 향상됨을 보였다.
• 정보 이론적 낮은 경계가 확립되어, O(α log α) 표본 복잡도가 점점 더 날카운다는 것을 보여주었다.
• 합성 및 실세계 데이터셋에서의 광범위한 실험을 통해 fBTL-LS는 다양한 설정에서 뛰어난 성능과 강인성을 입증하였다.