[논문 리뷰] The Lovasz-Bregman Divergence and connections to rank aggregation, clustering, and web ranking

Rishabh Iyer, Jeff Bilmes|arXiv (Cornell University)|2014. 08. 09.

Bayesian Modeling and Causal Inference참고 문헌 31인용 수 9

한 줄 요약

이 논문은 점수 벡터와 순위 간의 왜곡을 측정하는 새로운 산란 척도인 Lovasz-Bregman (LB) 산란을 제안하며, 순위 집계, 클러스터링, 웹 랭킹을 위한 통합된 프레임워크를 가능하게 한다. 이는 NDCG 및 AUC와 같은 핵심 척도를 일반화하고, 신뢰도를 고려한 순서 정렬을 지원하며, Mallow의 모델 및 러닝-투-랭크 접근법과 같은 모델들을 포함함으로써 기존의 접근법들을 통합함을 보여준다.

ABSTRACT

We extend the recently introduced theory of Lovasz-Bregman (LB) divergences (Iyer & Bilmes 2012) in several ways. We show that they represent a distortion between a "score" and an "ordering", thus providing a new view of rank aggregation and order based clustering with interesting connections to web ranking. We show how the LB divergences have a number of properties akin to many permutation based metrics, and in fact have as special cases forms very similar to the Kendall-tau metric. We also show how the LB divergences subsume a number of commonly used ranking measures in information retrieval, like NDCG and AUC. Unlike the traditional permutation based metrics, however, the LB divergence naturally captures a notion of "confidence" in the orderings, thus providing a new representation to applications involving aggregating scores as opposed to just orderings. We show how a number of recently used web ranking models are forms of Lovasz-Bregman rank aggregation and also observe that a natural form of Mallow's model using the LB divergence has been used as conditional ranking models for the "Learning to Rank" problem.

연구 동기 및 목표

• 순위 작업에서 점수와 순서 간의 왜곡을 모델링하기 위해 Lovasz-Bregman 산란 이론을 확장하는 것.
• NDCG 및 AUC와 같은 기존 순위 척도를 단일 산란 프레임워크 아래 통합하는 것.
• 순수한 순열 기반 척도를 넘어서, 순위의 신뢰도를 고려한 표현을 제공하는 것.
• 웹 랭킹 및 클러스터링 분야의 기존 모델, 특히 Mallow의 모델과 러닝-투-랭크 모델과의 LB 산란 간의 연결 고리를 설정하는 것.
• 이론적 및 실험적 근거를 바탕으로 LB 산란이 순서 기반 클러스터링 및 순위 집계에 어떻게 적용될 수 있는지 보여주는 것.

제안 방법

• 하나의 하위모듈라 함수와 Lovasz 확장을 사용하여 Bregman 산란을 일반화한 Lovasz-Bregman 산란을 정의한다.
• 실수 값의 점수 벡터와 해당 점수를 정렬하여 유도된 순위 간의 왜곡 척도로 산란을 공식화한다.
• 특정 조건 하에서 LB 산란이 기존 척도로 축소됨을 보여주며, 이는 Kendall-tau가 특수한 경우로 포함되며, 특정 매개변수 설정 하에 NDCG 및 AUC를 포함함을 의미한다.
• 비연속적이고 이산적인 순위 함수를 다룰 수 있도록 Lovasz 확장을 활용하여, 순위 문제에서 기울기 기반 최적화를 가능하게 한다.
• 쌍별 선호 기반 및 조건부 순위 기반 웹 랭킹 모델이 모두 LB 산란으로 표현될 수 있음을 보여준다.
• LB 산란을 사용하여 Mallow의 모델을 자연스럽게 조건부 순위 모델로 재구성함으로써, 러닝-투-랭크 분야에서의 기존 모델과의 유사성을 밝혀낸다.

실험 결과

연구 질문

• RQ1 Lovasz-Bregman 산란은 점수 벡터와 그에 의해 유도된 순위 간의 왜곡을 어떻게 모델링할 수 있는가?
• RQ2 Lovasz-Bregman 산란은 NDCG 및 AUC와 같은 기존 순위 척도를 어떻게 일반화하거나 포함하는가?
• RQ3 LB 산란은 순서 정렬에 어떻게 신뢰도를 통합하는가? 이는 전통적인 순열 기반 척도에 비해 어떤 이점을 제공하는가?
• RQ4 LB 산란과 웹 랭킹 및 러닝-투-랭크 분야의 기존 모델 간의 관계는 무엇인가?
• RQ5 LB 산란은 통합된 이론적 프레임워크 아래에서 순위 집계, 클러스터링, 웹 랭킹을 어떻게 통합할 수 있는가?

주요 결과

• Lovasz-Bregman 산란은 Kendall-tau 척도를 일반화하며, 특정 조건 하에서 후자는 특수한 경우로 나타난다.
• LB 산란은 NDCG 및 AUC와 같은 일반적으로 사용되는 정보 검색 척도를 포함하며, 이러한 척도들을 위한 통합된 수학적 프레임워크를 제공한다.
• 산란은 점수를 이산적 순서가 아닌 연속적 값으로 간주함으로써 자연스럽게 순위의 신뢰도를 통합한다.
• 쌍별 선호 기반 웹 랭킹 모델을 포함한 여러 기존 웹 랭킹 모델이 LB 산란을 최소화하는 것과 동치임을 입증하였다.
• Mallow의 모델을 기반으로 한 조건부 순위 모델이 LB 산란을 사용할 경우, 러닝-투-랭크 문헌에서 자연스러운 공식화로 나타남을 규명하였다.
• 이 프레임워크는 순위를 데이터 포인트로 간주하고 LB 산란을 유사도 척도로 사용함으로써 순서 기반 클러스터링을 가능하게 한다.