[논문 리뷰] Active Ranking from Pairwise Comparisons and when Parametric Assumptions Don't Help

Reinhard Heckel, Nihar B. Shah외 2명|arXiv (Cornell University)|2016. 06. 28.

Auction Theory and Applications참고 문헌 32인용 수 12

한 줄 요약

이 논문은 쌍별 비교 횟수에서의 신뢰구간을 사용하여 순차적으로 쌍을 선택하는 능동적 랭킹 알고리즘을 제안하며, 비모수적 가정 없이도 로그 요소를 제외한 최적의 표본 복잡도를 달성한다. 놀랍게도, BTL 또는 쌍별 확률이 0과 1에서 멀리 떨어져 있을 경우 일반적인 모수적 모델(예: BTL, Thurstone)에서도 표본 복잡도 향상이 최대 로그 요소 수준에 그친다.

ABSTRACT

We consider sequential or active ranking of a set of n items based on noisy pairwise comparisons. Items are ranked according to the probability that a given item beats a randomly chosen item, and ranking refers to partitioning the items into sets of pre-specified sizes according to their scores. This notion of ranking includes as special cases the identification of the top-k items and the total ordering of the items. We first analyze a sequential ranking algorithm that counts the number of comparisons won, and uses these counts to decide whether to stop, or to compare another pair of items, chosen based on confidence intervals specified by the data collected up to that point. We prove that this algorithm succeeds in recovering the ranking using a number of comparisons that is optimal up to logarithmic factors. This guarantee does not require any structural properties of the underlying pairwise probability matrix, unlike a significant body of past work on pairwise ranking based on parametric models such as the Thurstone or Bradley-Terry-Luce models. It has been a long-standing open question as to whether or not imposing these parametric assumptions allows for improved ranking algorithms. For stochastic comparison models, in which the pairwise probabilities are bounded away from zero, our second contribution is to resolve this issue by proving a lower bound for parametric models. This shows, perhaps surprisingly, that these popular parametric modeling choices offer at most logarithmic gains for stochastic comparisons.

연구 동기 및 목표

• 최소한의 질의로 부분적 또는 전체 랭킹을 복구하기 위해 적응적으로 쌍별 비교를 선택하는 능동적 랭킹 알고리즘을 개발한다.
• 일반적인 비모수적 가정 하에 쌍별 비교 확률에 대한 제안된 알고리즘의 표본 복잡도를 분석한다.
• 장기간 미해결된 열린 문제인, BTL 또는 Thurstone와 같은 모수적 모델이 확률적 비교 환경에서 표본 복잡도를 로그 요소를 초월해 감소시킬 수 있는지 여부를 해결한다.
• 알고리즘 성능과 로그 요소 수준까지 일致하는 분포에 의존하는 하한선을 수립하여 근사 최적성의 증명을 한다.
• 실제 랭킹 응용에서 비모수적 접근과 모수적 접근의 강건성과 효율성 간의 비교를 수행한다.

제안 방법

• 알고리즘은 각 항목에 대한 승리 횟수를 유지하고, 이러한 횟수를 바탕으로 신뢰구간을 계산하여 향후 비교 선택을 안내한다.
• 각 단계에서, 신뢰구간이 해당 항목들의 점수에 유의미한 차이가 있음을 시사할 경우, 쌍의 항목을 비교하기 위해 선택한다.
• 특히 상위-k 선택에 중점을 둔 다중 손잡이 밴딧 문제와의 연결 고리를 활용하여 능동적 샘플링 결정을 지원한다.
• 높은 확률로 진정한 랭킹을 회복할 수 있도록, 농도 부등식과 신뢰구간 구성 기법을 사용하여 이론적 보장을 도출한다.
• 모수적 가정 하에서 최적의 비교 행렬의 구조를 분석하기 위해 볼록 최적화 프레임워크를 사용하며, KKT 조건을 유도한다.
• 분석을 통해 모수적 모델에서 쌍별 확률이 0과 1에서 멀리 떨어져 있을 경우, 최적의 해가 반드시 모수적 형태(예: 로지스틱 또는 정규 분포의 누적분포함수)를 만족해야 함을 증명한다. 이는 모델 구조의 타당성을 확인한다.

실험 결과

연구 질문

• RQ1 BTL 또는 Thurstone와 같은 모수적 모델을 가정하지 않고도, 능동적 랭킹 알고리즘이 최적의 표본 복잡도를 달성할 수 있는가?
• RQ2 일반적인 쌍별 비교 모델 하에서 능동적 랭킹의 기본적인 제약(하한선)은 무엇인가?
• RQ3 쌍별 확률이 0과 1에서 멀리 떨어져 있을 경우, BTL 또는 Thurstone와 같은 모수적 가정이 표본 복잡도 향상에 로그 요소를 초월해 기여하는가?
• RQ4 강건성과 표본 효율성 측면에서 모수적 모델의 성능은 비모수적 방법과 어떻게 비교되는가?
• RQ5 단일 알고리즘이 결정론적 및 확률적 비교 환경 모두에서 최적의 성능을 달성할 수 있는가?

주요 결과

• 제안된 능동적 랭킹 알고리즘은 쌍별 비교 확률에 대한 어떤 모수적 가정도 필요 없이, 로그 요소를 제외한 최적의 표본 복잡도를 달성한다.
• 알고리즘의 성능은 분포에 의존하며, 기저의 점수 τ_i에 따라 스케일링되며, 유도된 분포에 의존하는 하한선과 로그 요소 수준까지 일致한다.
• 확률적 비교 모델(쌍별 확률이 0과 1에서 멀리 떨어져 있을 경우)에서는 BTL 또는 Thurstone와 같은 모수적 가정이 표본 복잡도 감소에 최대 로그 요소 수준의 향상만 제공한다.
• 분석을 통해 모수적 가정 하에서 볼록 최적화 문제의 최적 해는 반드시 모수적 형태(예: M_ij^* = Φ(ν_j^* - ν_i^*))를 만족해야 하며, 이는 모델 구조의 타당성을 확인한다.
• KKT 조건은 모수적 가정 하에서 최적 행렬가 반드시 대칭적이고 점수 기반의 구조를 가져야 함을 보여주며, 이는 해가 기저의 잠재 점수와 연결됨을 시사한다.
• 실험적 증거와 이론적 분석은 비모수적 방법이 실질적으로 더 강건하다고 제안한다. 특히 모수적 모델은 모형 잘못 설정에 매우 민감할 수 있다.