[논문 리뷰] On Sample Complexity Upper and Lower Bounds for Exact Ranking from Noisy Comparisons

Wenbo Ren, Jia Liu외 1명|arXiv (Cornell University)|2019. 09. 07.

Multi-Criteria Decision Making인용 수 5

한 줄 요약

이 논문은 노이즈 있는 비교로부터 정확한 순위 매기기의 샘플 복잡도에 대해 날카러운 상한과 하한을 확립하며, 노이즈 수준에 대한 사전 지식이 없이도 작동하는 최소한의 가정을 필요로 하는 적응형 알고리즘을 제안한다. 임의의 노이즈 분포 하에서 이차 비교와 리스트와이즈 비교에 대해 일반적인 하한을 처음으로 도출하며, 다양한 설정에서 제안된 알고리즘이 거의 최적의 샘플 복잡도를 달성함을 보여준다.

ABSTRACT

This paper studies the problem of finding the exact ranking from noisy comparisons. A comparison over a set of $m$ items produces a noisy outcome about the most preferred item, and reveals some information about the ranking. By repeatedly and adaptively choosing items to compare, we want to fully rank the items with a certain confidence, and use as few comparisons as possible. Different from most previous works, in this paper, we have three main novelties: (i) compared to prior works, our upper bounds (algorithms) and lower bounds on the sample complexity (aka number of comparisons) require the minimal assumptions on the instances, and are not restricted to specific models; (ii) we give lower bounds and upper bounds on instances with unequal noise levels; and (iii) this paper aims at the exact ranking without knowledge on the instances, while most of the previous works either focus on approximate rankings or study exact ranking but require prior knowledge. We first derive lower bounds for pairwise ranking (i.e., compare two items each time), and then propose (nearly) optimal pairwise ranking algorithms. We further make extensions to listwise ranking (i.e., comparing multiple items each time). Numerical results also show our improvements against the state of the art.

연구 동기 및 목표

• 노이즈 있는 이차 비교와 리스트와이즈 비교로부터 정확한 순위 매기기 위해 필요한 비교 횟수에 대한 일반적이고 인스턴스에 의존하지 않는 하한을 도출하는 것.
• 노이즈 수준이나 비교 확률에 대한 사전 지식 없이도 거의 최적의 샘플 복잡도를 달성하는 적응형 알고리즘을 설계하는 것.
• 리스트와이즈 비교가 이차 비교에 비해 샘플 복잡도를 줄이는지 조사하는 것.
• 플래켓-루스나 강한 스토하스틱 전이성과 같은 제한적인 모델을 피하는 최소한의 가정 하에서 샘플 복잡도의 이론적 한계를 설정하는 것.
• 이론적 하한과 실용적 알고리즘 사이의 격차를 좁히기 위해 다양한 노이즈 구성에서 하한의 날카러움을 증명하는 것.

제안 방법

• 다중 가설이 있는 다중 무기 뱅디트 문제로의 감소를 통해 정보 이론적 하한을 유도한다.
• 누적된 비교 결과에 기반해 동적으로 아이템 쌍을 선택함으로써 불확실성을 최소화하는 적응형 이차 순위 매기기 알고리즘을 제안한다.
• 다수의 아이템을 동시에 비교함으로써 수렴 속도를 가속화하는 알고리즘 설계를 통해 프레임워크를 리스트와이즈 비교로 확장한다.
• 샘플 복잡도 하한을 날카럽게 도출하기 위해 코인 식별 문제에서 순위 매기기 문제로의 새로운 감소 기법을 도입한다.
• 항목 순위를 구별하는 데의 어려움을 특성화하기 위해 최소 간격 파라미터 $\tilde{\Delta}_i$와 이차 차이 $\Delta_{i,j}$를 사용한다.
• $\delta$-정확한 순위 매기기 위해 필요한 평균 비교 횟수를 유계하기 위해 농도 부등식과 엔트로피 기반 추론을 적용한다.

실험 결과

연구 질문

• RQ1 최소한의 가정 하에 노이즈 있는 이차 비교로부터 정확한 순위 매기기까지 필요한 비교 횟수의 기본 하한은 무엇인가?
• RQ2 특정 노이즈 모델을 가정하지 않고도 일반 설정에서 유도된 하한과 일치하는 샘플 복잡도를 달성할 수 있는 적응형 알고리즘이 존재하는가?
• RQ3 샘플 복잡도를 최소화하는 데 있어 리스트와이즈 비교의 샘플 복잡도는 이차 비교에 비해 어떻게 다른가?
• RQ4 항목 쌍 간의 이질적인 노이즈 수준이 정확한 순위 매기기의 샘플 복잡도에 어떤 영향을 미치는가?
• RQ5 제안된 알고리즘이 임의의 비교 확률 분포에 걸쳐 얼마나 가까이 최적화를 달성할 수 있는가?

주요 결과

• 논문은 플래켓-루스나 강한 스토하스틱 전이성과 같은 특정 모델을 가정하지 않은 노이즈 있는 비교로부터 정확한 순위 매기기의 샘플 복잡도에 대해 처음으로 일반적인 하한을 확립한다.
• 제안된 적응형 이차 순위 매기기 알고리즘은 유도된 하한과 거의 일치하는 샘플 복잡도를 달성하며, 다양한 노이즈 구성에서 거의 최적임을 보여준다.
• 리스트와이즈 비교의 경우, 한 번의 비교에서 다수의 아이템을 사용함으로써 샘플 복잡도를 줄일 수 있음을 보여주지만, 정확한 향상 정도는 노이즈 구조에 따라 달라진다.
• 코인 식별 문제로의 감소 하에서 하한은 $\tilde{\Omega}(\sum_{k} \Delta_{q_{2k-1},q_{2k}}^{-2} \log \log \Delta_{q_{2k-1},q_{2k}}^{-1}) + \Omega(\min \sum \Delta_{i,j}^{-2} \log \delta_k^{-1})$ 로 스케일링된다.
• 수치적 평가에서 제안된 알고리즘은 특히 이질적인 노이즈 수준이 존재하는 설정에서 최신 기술보다 뚜렷하게 뛰어난 성능을 보였다.
• 분석을 통해 비교 확률에 대한 사전 지식이 없더라도 알고리즘이 이론적 한계에 로그 인자만을 초과하여 $\delta$-정확한 순위 매기기를 달성할 수 있음을 증명했다.