[논문 리뷰] Inductive Pairwise Ranking: Going Beyond the n log(n) Barrier

U. N. Niranjan, Arun Rajkumar|arXiv (Cornell University)|2017. 02. 09.

Multi-Criteria Decision Making인용 수 6

한 줄 요약

이 논문은 특징 저랭크(FLR) 모델 하에서 샘플 효율성이 보장되는 인덕티브 쌍별 순위 매기기(IPR) 알고리즘을 제안한다. 노이즈가 섞인 인덕티브 행렬 완성과 근사 쌍별 순위 매기기를 조합함으로써, IPR는 표준 Ω(n log n) 장벽을 넘어서 샘플 복잡도를 최소 Ω(log n)까지 낮춘다. 이는 쌍별 비교 수를 극도로 줄일 수 있어 실세계 환경에서의 효율성을 크게 향상시킨다.

ABSTRACT

We study the problem of ranking a set of items from nonactively chosen pairwise preferences where each item has feature information with it. We propose and characterize a very broad class of preference matrices giving rise to the Feature Low Rank (FLR) model, which subsumes several models ranging from the classic Bradley-Terry-Luce (BTL) (Bradley and Terry 1952) and Thurstone (Thurstone 1927) models to the recently proposed blade-chest (Chen and Joachims 2016) and generic low-rank preference (Rajkumar and Agarwal 2016) models. We use the technique of matrix completion in the presence of side information to develop the Inductive Pairwise Ranking (IPR) algorithm that provably learns a good ranking under the FLR model, in a sample-efficient manner. In practice, through systematic synthetic simulations, we confirm our theoretical findings regarding improvements in the sample complexity due to the use of feature information. Moreover, on popular real-world preference learning datasets, with as less as 10% sampling of the pairwise comparisons, our method recovers a good ranking.

연구 동기 및 목표

• 측정 가능한 측면 정보(특징)가 존재하지만 기존 방법이 이를 효율적으로 활용하지 못하는 인덕티브 설정에서 쌍별 비교를 통한 항목 순위 매기기 문제를 해결하는 것.
• 비교 기반 정렬의 고전적 Ω(n log n) 하한선 이하로 필요한 쌍별 비교 수를 줄이는, 증명 가능한 샘플 효율성 보장 알고리즘 개발.
• BTL, 투르스톤, 블레이드체스트, 일반 저랭크 선호 모델 등을 하나의 특징 저랭크(FLR) 프레임워크로 통합 및 일반화하는 것.
• 이론적 분석과 실험을 통해 특징 정보 통합이 고차원이지만 저랭크인 설정에서 샘플 복잡도 향상에 크게 기여함을 보여주는 것.
• 훈련 후에 새로운 항목으로의 일반화를 가능하게 하여, 추천 시스템 및 제품 선택과 같은 실용적 순위 매기기 응용 분야에서의 핵심 요구사항을 충족시키는 것.

제안 방법

• IPR 알고리즘은 항목 특징을 보조 정보로 활용하여 부분적으로 관측된 쌍별 비교로부터 선호 행렬을 추정하는 노이즈가 섞인 인덕티브 행렬 완성 기법을 사용한다.
• 선호 행렬을 특징 유도 공간 내의 저랭크 행렬로 모델링하며, 기저 선호 구조가 특징에 의존하는 저랭크 행렬에 의해 지배된다고 가정한다.
• 특징 상관관계를 저랭크 분해를 통해 활용하는 동시에 항목 점수를 동시 추정하는 정규화된 최적화 프레임워크를 적용한다.
• 이중 단계 접근 방식을 사용한다: 첫 번째로, 특징 정규화를 적용한 행렬 완성 기반으로 선호 행렬을 추정하고, 두 번째로 추정된 행렬을 바탕으로 근사 쌍별 순위 매기기 서브루틴을 통해 순위를 계산한다.
• 모델 복잡도 제어와 일반화 보장을 위해 특이값 임계처리와 노름-핵 정규화를 사용한다.
• 인덕티브 행렬 완성 이론 도구를 활용해 이론적 보장을 도출하였으며, 고확률적으로 ε-정확한 복원이 가능함을 보여주며, O(max(log n / ε², d⁴ log³n / (ε³n²)))개의 쌍별 비교로 충분함을 입증하였다.

실험 결과

연구 질문

• RQ1 측정 가능한 항목 특징을 활용하여 Ω(n log n) 장벽 이하로 샘플 복잡도를 낮출 수 있는 증명 가능한 효율적 알고리즘을 설계할 수 있는가?
• RQ2 선호 모델에 특징 상관관계를 통합하면, 합성 및 실세계 순위 작업 모두에서 샘플 효율성이 향상되는가?
• RQ3 제안된 IPR 알고리즘은 비인덕티브 방법과 달리 훈련 후에 새로운 항목으로 일반화할 수 있는가?
• RQ4 10%의 쌍별 비교만 제공될 경우, IPR의 성능은 비인덕티브 기준선(LRPR)과 비교해 어떻게 되는가?
• RQ5 특징 기반 모델인 FLR은 BTL, 투르스톤, 블레이드체스트와 같은 기존 모델들을 어느 정도 포함하는가?

주요 결과

• 실세계 데이터셋인 Sushi와 Car에서 쌍별 비교의 최소 10%만을 샘플링해도 IPR 알고리즘이 높은 품질의 순위를 회복하며, 비인덕티브 기준선을 능가한다.
• 합성 데이터에서는 비교 수(m), 쌍당 비교 횟수(K), 특징 차원 수(d)가 다양한 조건에서도 IPR가 비인덕티브 LRPR 알고리즘을 일관되게 능가한다.
• IPR의 이론적 샘플 복잡도는 O(max(log n / ε², d⁴ log³n / (ε³n²)))이며, d ≪ n일 경우 최소 O(log n)까지 낮아져 고전적 n log n 장벽을 돌파한다.
• Sushi 데이터셋에서 IPR는 다섯 번의 실행 모두에서 'amaebi'와 'ikura'와 같은 상위 4개 요리들을 상위 4위 안에 정확히 복원했지만, LRPR는 일관되게 실패했다.
• Car 데이터셋에서는 IPR가 승용차가 SUV보다 선호되고, 히브리드가 아닌 차량이 하이브리드보다 선호되는 실제 세계 트렌드를 정확히 반영했다.
• 진짜 랭크가 알려지지 않았거나 절단이 생략된 경우에도 IPR는 여전히 LRPR를 능가했으며, 모델 잘못 설정에 대한 강건성을 입증했다.