[논문 리뷰] Learning-to-Rank with Partitioned Preference: Fast Estimation for the Plackett-Luce Model

Jiaqi Ma, Xinyang Yi외 5명|arXiv (Cornell University)|2020. 06. 09.

Multi-Criteria Decision Making인용 수 4

한 줄 요약

이 논문은 파artitioned preference를 사용한 랭킹 학습을 위한 빠른 수치적 통합 방법을 제안한다. Plackett-Luce 모델을 기반으로 하며, Gumbel 분포를 가진 임의의 유틸리티 모델을 활용하여 우도 계산을 O(N + S!)에서 O(N + S³)로 감소시킨다. 이 방법은 대규모 데이터에서 확장 가능하고 정확한 listwise 랭킹 학습을 가능하게 하며, 합성 및 실제 극단적 다중 레이블 분류 작업 모두에서 기존 베이스라인을 능가한다.

ABSTRACT

We investigate the Plackett-Luce (PL) model based listwise learning-to-rank (LTR) on data with partitioned preference, where a set of items are sliced into ordered and disjoint partitions, but the ranking of items within a partition is unknown. Given $N$ items with $M$ partitions, calculating the likelihood of data with partitioned preference under the PL model has a time complexity of $O(N+S!)$, where $S$ is the maximum size of the top $M-1$ partitions. This computational challenge restrains most existing PL-based listwise LTR methods to a special case of partitioned preference, top-$K$ ranking, where the exact order of the top $K$ items is known. In this paper, we exploit a random utility model formulation of the PL model, and propose an efficient numerical integration approach for calculating the likelihood and its gradients with a time complexity $O(N+S^3)$. We demonstrate that the proposed method outperforms well-known LTR baselines and remains scalable through both simulation experiments and applications to real-world eXtreme Multi-Label classification tasks.

연구 동기 및 목표

• 파artitioned preference 하에서 항목의 순서가 알려져 있지 않지만 파artitions 간의 전역 순서는 알려져 있을 때 Plackett-Luce 우도를 계산하는 데 있어 계산의 비현실성 문제를 해결하기 위해.
• 클릭 피드백이나 순서형 평가와 같은 부분적인 랭킹을 가진 실제 데이터에서 Plackett-Luce 모델을 사용한 확장 가능한 listwise 랭킹 학습을 가능하게 하기 위해.
• 정확한 계산의 O(N + S!) 복잡도를 초월하여 파artitioned preference 하에서 우도와 기울기를 효율적으로 계산하는 방법을 개발하기 위해.
• 합성 데이터와 실제 극단적 다중 레이블 분류 데이터셋에서 이 방법의 효과성과 확장 가능성을 입증하기 위해.

제안 방법

• 이 방법은 Gumbel 분포를 가진 임의의 유틸리티 모델을 사용하여 Plackett-Luce 모델을 재구성함으로써, 로그 우도와 기울기를 일변수 적분의 합으로 해석 가능하게 한다.
• 이 방법은 이러한 일변수 적분을 수치적 통합으로 근사하여, 우도와 기울기 계산의 시간 복잡도를 O(N + S³)로 낮춘다.
• 이 접근법은 Gumbel 분포의 기억 없는 성질 덕분에 고차원 적분을 다룰 수 있는 일변수 성분으로 분해할 수 있음을 활용한다.
• 이 방법은 확률적 최적화와 호환되도록 설계되어, 대규모 데이터에서 신경망 랭킹 모델의 엔드 투 엔드 학습을 가능하게 한다.
• 수치적 오차가 유한함을 엄밀히 증명하였으며, 원하는 오차 허용 범위 ε에 대해 시간 복잡도가 O(N + 1/ε × S³)로 스케일링됨을 보였다.
• 이 방법은 일반화된 랭킹 분해와의 관계에서도 논의되었으며, 이 프레임워크의 향상 가능성을 시사한다.

실험 결과

연구 질문

• RQ1 파artitioned preference 하에서 항목의 순서가 알려져 있지 않을 때, Plackett-Luce 우도와 그 기울기를 효율적으로 계산할 수 있는가?
• RQ2 정확한 계산의 O(N + S!) 복잡도를 고려할 때, 제안된 수치적 통합 방법이 현저히 더 뛰어난 확장 가능성을 가지는가?
• RQ3 이 방법은 부분 피드백이 있는 실제 랭킹 작업에서 기존의 listwise 및 pairwise 랭킹 학습 베이스라인을 능가할 수 있는가?
• RQ4 레이블 세트가 크고 부분적으로 순서가 정해진 경우, 이 방법은 극단적 다중 레이블 분류 데이터셋에서 어떻게 성능을 발휘하는가?

주요 결과

• 제안된 PL-Partition 방법은 모든 XML 분류 데이터셋에서 소프트맥스 기반의 listwise 베이스라인인 PL-LB를 뛰어넘으며, 적절한 유틸리티 함수 최적화의 중요성을 입증한다.
• 레이블 세트가 더 큰 데이터셋(D-1K, W-31K, D-200K)에서는 PL-Partition가 pairwise 방법인 RankSVM과 RankNet을 능가하며, 레이블 세트 크기가 증가할수록 우수한 성능을 보임을 시사한다.
• Precision@k에서는 SLEEC와 유사한 성능을 달성하지만, Propensity-Scored Precision@k에서는 뚜렷이 뛰어나며, 꼬리 및 몸통 레이블로의 일반화 능력이 뛰어남을 보여준다.
• 합성 실험에서도 높은 정확도를 유지하였으며, Hino 등(2010)의 하한 근사보다 진정한 Plackett-Luce 파라미터를 더 잘 복원함을 확인하였다.
• O(N + S³)의 시간 복잡도는 백만 수준의 아이템 세트에서 신경망 랭킹 모델의 효율적 학습을 가능하게 하여 확장 가능성을 확인한다.