[논문 리뷰] Ranking via Sinkhorn Propagation

Ryan P. Adams, Richard S. Zemel|arXiv (Cornell University)|2011. 06. 09.

Information Retrieval and Search Behavior참고 문헌 19인용 수 82

한 줄 요약

이 논문은 순열 행렬의 연속적 근사로 이중확산 행렬(DSM)을 사용하여 랭킹 함수의 엔드 투 엔드 학습을 위한 미분 가능 방법인 Sinkhorn Propagation(SinkProp)을 소개한다. Sinkhorn 정규화와 반복적 투영 과정을 통한 역전파를 활용함으로써, SinkProp는 NDCG 및 P@K와 같은 랭킹 선형 목적함수의 기반으로 기반한 기울기 기반 최적화를 가능하게 하여 다양한 정보 검색 벤치마크에서 경쟁 가능한 성능을 달성하면서도, 다양한 문서 집합에 걸쳐 미분 가능성과 확장성을 유지한다.

ABSTRACT

It is of increasing importance to develop learning methods for ranking. In contrast to many learning objectives, however, the ranking problem presents difficulties due to the fact that the space of permutations is not smooth. In this paper, we examine the class of rank-linear objective functions, which includes popular metrics such as precision and discounted cumulative gain. In particular, we observe that expectations of these gains are completely characterized by the marginals of the corresponding distribution over permutation matrices. Thus, the expectations of rank-linear objectives can always be described through locations in the Birkhoff polytope, i.e., doubly-stochastic matrices (DSMs). We propose a technique for learning DSM-based ranking functions using an iterative projection operator known as Sinkhorn normalization. Gradients of this operator can be computed via backpropagation, resulting in an algorithm we call Sinkhorn propagation, or SinkProp. This approach can be combined with a wide range of gradient-based approaches to rank learning. We demonstrate the utility of SinkProp on several information retrieval data sets.

연구 동기 및 목표

• NDCG 및 P@K와 같은 랭킹 목적함수의 비미분성 문제를 해결하여 딥 네트워크 학습을 방해하는 요소를 제거한다.
• 순열 행렬의 미분 가능 근사로 이중확산 행렬(DSM)을 사용하여 랭킹 선형 목적함수의 기대값을 유지한다.
• 반복적 Sinkhorn 정규화 과정을 통한 역전파를 가능하게 하여 랭킹 모델의 엔드 투 엔드 학습을 지원한다.
• 다양한 쿼리 크기와 문서 집합에 적합한 확장성 있고 융통성 있는 프레임워크를 제공한다.
• 다양한 정보 검색 데이터셋에서 제안된 방법의 유효성을 입증하고 최신 기술 수준의 성능을 달성한다.

제안 방법

• 이 방법은 순열 행렬의 연속적 근사로 이중확산 행렬(DSM)을 사용하여 랭킹 목적함수의 미분 가능 최적화를 가능하게 한다.
• NDCG@K, P@K, RBP와 같은 랭킹 선형 목적함수를 순열 분포의 모멘트 함수로 표현하며, 이는 DSM에 의해 완전히 특징화된다.
• 핵심 기법은 Sinkhorn 정규화이다: 반복적으로 행과 열을 스케일링하여 행렬을 이중확산으로 만드는 반복적 투영 과정이다.
• 부분적인 Sinkhorn 정규화 과정을 통해 기울기를 역전파하여, 저자들이 Sinkhorn Propagation(SinkProp)로 부르는 방법을 통해 엔드 투 엔드 학습을 가능하게 한다.
• 유연한 사전 정규화 행렬을 허용하며, 쿼리당 문서 수가 변동하는 경우에도 딥 네트워크와 원활하게 통합된다.
• DSM 표현을 통한 기대 수익의 효율적 계산을 지원하여 목적함수 내에서 샘플링이나 근사 기법을 피한다.

실험 결과

연구 질문

• RQ1 NDCG@K 및 P@K와 같은 랭킹 목적함수는 순열 행렬의 미분 가능 근사로 최적화될 수 있는가?
• RQ2 Sinkhorn 정규화 과정을 통해 기울기가 효과적으로 역전파되어 랭킹 모델의 엔드 투 엔드 학습이 가능한가?
• RQ3 이중확산 행렬을 사용할 경우 순열 기반 계산과 비교해 랭킹 선형 목적함수의 기대값이 정확히 유지되는가?
• RQ4 성능 및 학습 안정성 측면에서 기존의 서로 가설 기반 또는 샘플링 기반 방법과 비교해 SinkProp는 어떻게 성능을 내는가?
• RQ5 SinkProp는 정보 검색에서 크기가 변하는 입력 쿼리에 대해 딥 네트워크와 효과적으로 통합될 수 있는가?

주요 결과

• Sinkhorn Propagation는 반복적 Sinkhorn 정규화를 통한 역전파를 통해 비미분성 문제를 해결하고, 랭킹 모델의 미분 가능 학습을 가능하게 한다.
• 이중확산 행렬을 사용할 경우 NDCG@K 및 P@K와 같은 랭킹 선형 목적함수의 기대값이 정확히 유지되어 정확한 최적화가 가능하다.
• 일곱 개인 정보 검색 데이터셋에서 SinkProp는 최신 기술 수준의 방법과 경쟁 가능한 성능을 달성하였으며, TD2003 데이터셋에서 두드러진 우수성을 보였다.
• 딥 네트워크와의 엔드 투 엔드 학습을 지원하며, 문서 수에 따라 변동하는 쿼리에 대해 일반화된 DSM을 학습함으로써 처리할 수 있다.
• 특히 상위 순위 성능에 민감한 경우, SinkProp는 SoftRank 및 SmoothRank보다 우수한 성능을 보였다.
• 순열 출력를 통한 미분 가능한 경로를 제공함으로써, 이미지 및 음성 랭킹과 같은 비텍스트 검색 작업을 위한 모델의 기울기 기반 학습을 가능하게 한다.