[논문 리뷰] PAC Ranking from Pairwise and Listwise Queries: Lower Bounds and Upper Bounds

Wenbo Ren, Jia Liu외 1명|arXiv (Cornell University)|2018. 06. 08.

Data Management and Algorithms참고 문헌 19인용 수 10

한 줄 요약

이 논문은 MNL 모델 하에서 $l$-wise 질의를 사용하여 상위-$k$ 및 총 순위 매칭을 위한 적응형 PAC 순위 알고리즘을 제안하며, 로그 인자까지 샘플 복잡도 최적 성능을 달성한다. 샘플 복잡도에 대한 날카로운 하한을 확립하고, 특히 $l > 2$인 리스트와이즈 설정에서 최신 기법들보다 뛰어난 이론적 및 실험적 성능을 보여준다. 제안된 알고리즘은 이전 접근 방식들에 비해 질의 복잡도를 크게 감소시키며, $l$가 클수록 그 효과가 두드러진다.

ABSTRACT

This paper explores the adaptive (active) PAC (probably approximately correct) top-$k$ ranking (i.e., top-$k$ item selection) and total ranking problems from $l$-wise ($l\geq 2$) comparisons under the multinomial logit (MNL) model. By adaptively choosing sets to query and observing the noisy output of the most favored item of each query, we want to design ranking algorithms that recover the top-$k$ or total ranking using as few queries as possible. For the PAC top-$k$ ranking problem, we derive a lower bound on the sample complexity (aka number of queries), and propose an algorithm that is sample-complexity-optimal up to an $O(\log(k+l)/\log{k})$ factor. When $l=2$ (i.e., pairwise comparisons) or $l=O(poly(k))$, this algorithm matches the lower bound. For the PAC total ranking problem, we derive a tight lower bound, and propose an algorithm that matches the lower bound. When $l=2$, the MNL model reduces to the popular Plackett-Luce (PL) model. In this setting, our results still outperform the state-of-the-art both theoretically and numerically. We also compare our algorithms with the state-of-the-art using synthetic data as well as real-world data to verify the efficiency of our algorithms.

연구 동기 및 목표

• MNL 모델 하에서 $l$-wise 질의를 사용하여 활성 순위 매칭에서 질의 복잡도를 최소화하는 데 도전한다.
• PAC 상위-$k$ 및 총 순위 매칭 문제에 대한 샘플 복잡도에 대한 이론적 하한을 유도한다.
• 샘플 복잡도 최적성을 로그 인자까지 달성하는 적응형 알고리즘을 설계한다.
• 제안된 알고리즘의 성능을 시뮬레이션 및 실세계 데이터셋에서 평가하며, 특히 이차적 방법이 성능을 발휘하지 못하는 리스트와이즈 설정에서의 성능을 중점적으로 다룬다.
• 기존의 이차적 순위 매칭 알고리즘이 리스트와이즈 상황으로 일반화되지 않음을 보이고, 체계적인 대안을 제시한다.

제안 방법

• 정보 이론적 분석을 통해 MNL 모델 하에서 PAC 상위-$k$ 순위 매칭에 대한 샘플 복잡도 하한을 도출한다.
• PAC 상위-$k$ 순위 매칭을 위한 TNKS(상위-$k$ 노이지 지식 탐색)를 제안하며, 선호도 점수의 신뢰구간을 기반으로 적응적으로 $l$-아이템 질의 집합을 선택한다.
• 총 순위 매칭을 위한 PDTR(이차적 주도 총 순위 매칭)를 개발하며, 토너먼트 방식의 제거 전략과 함께 적응적인 질의 선택을 사용한다.
• 사용자 선호도를 모델링하기 위해 다항 로지스틱(MNL) 모델을 사용하며, 집합에서 아이템을 선택할 확률은 그 아이템의 지수 선호도 점수에 비례한다.
• 모든 아이템의 최대 선호도 점수를 1로 정규화하여 모델의 척도 불변성을 확보한다.
• 실세계 데이터에서 알고리즘 성능을 검증하기 위해 데이터셋의 경험적 마진을 사용하여 질의 결과를 시뮬레이션한다.

실험 결과

연구 질문

• RQ1 MNL 모델 하에서 PAC 상위-$k$ 순위 매칭을 달성하기 위해 필요한 $l$-wise 질의의 수에 대한 정보 이론적 하한은 무엇인가?
• RQ2 적응형 알고리즘이 PAC 상위-$k$ 순위 매칭에서 샘플 복잡도 최적성을 달성할 수 있으며, 그 성능은 $l$과 $k$에 따라 어떻게 변화하는가?
• RQ3 MNL 모델 하에서 PAC 총 순위 매칭에 대해 가장 날카로운 하한은 무엇이며, 알고리즘이 이를 따라잡을 수 있는가?
• RQ4 제안된 알고리즘은 $l > 2$인 리스트와이즈 설정에서 최신 기반의 이차적 순위 매칭 방법과 비교해 어떻게 성능을 내는가?
• RQ5 이론적 상한이 증가하는 바람에 $l$이 커지더라도 적응형 리스트와이즈 순위 매칭 알고리즘의 성능은 향상되는가?

주요 결과

• 제안된 TNKS 알고리즘은 샘플 복잡도 최적성을 $O(\log(k+l)/\log k)$ 요인까지 달성하며, $l=2$ 또는 $l=O(\text{poly}(k))$일 경우 하한과 정확히 일치한다.
• 총 순위 매칭의 경우, 제안된 PDTR 알고리즘이 도출된 날카로운 샘플 복잡도 하한과 일치하여 순서 최적성(오더 오пт멀리티)을 입증한다.
• 시뮬레이션 데이터에서는 TNKS가 기존 방법들에 비해 뚜렷한 성능 우위를 보이며, 특히 $l=5$일 때 더 큰 $l$에 대한 확장성의 우수함을 입증한다.
• PrefLib의 실세계 데이터셋에서 TNKS는 항상 기준선보다 상위-$k$ 순위 매칭에서 승리하며, $l=4$일 때 성능 격차가 더 크게 나타난다.
• PDTR는 $l=4$일 때 Borda 순위 매칭보다 뚜렷이 승리하지만, $l=2$일 땐 경쟁력 있는 성능 유지를 보이며 리스트와이즈 설계의 우수성을 확인한다.
• 결과는 리스트와이즈 문제를 이차적 문제로 변환하는 것(예: FEMAB를 통한 변환)이 잘 확장되지 않으며, 효율성을 위해 전용 리스트와이즈 알고리즘이 필수적임을 보여준다.