[논문 리뷰] Learning Mixtures of Plackett-Luce Models from Structured Partial Orders

Zhibing Zhao, Lirong Xia|arXiv (Cornell University)|2019. 10. 25.

Economic and Environmental Valuation인용 수 8

한 줄 요약

이 논문은 일반화된 모멘트 방법(GMM) 알고리즘을 사용하여 다양한 구조적 부분 순서—순위 상위-$l$형, $l$-방식형, 선택 데이터—로부터 플래킷-루스 모델의 혼합모델을 학습하기 위한 통합 통계 모델을 제안한다. 이는 이론적으로 식별 가능 조건을 확립하여, 상위 3위 또는 상위 2위 + 2방식 조합과 같은 특정 조합 하에서 두 개의 플래킷-루스 모델 혼합모델이 식별 가능하다는 것을 증명하며, GMM를 통한 일致하고 효율적인 매개변수 추정이 가능함을 보이며, 합성 데이터에서 뛰어난 통계적 및 계산적 트레이드오프를 입증한다.

ABSTRACT

Mixtures of ranking models have been widely used for heterogeneous preferences. However, learning a mixture model is highly nontrivial, especially when the dataset consists of partial orders. In such cases, the parameter of the model may not be even identifiable. In this paper, we focus on three popular structures of partial orders: ranked top-$l_1$, $l_2$-way, and choice data over a subset of alternatives. We prove that when the dataset consists of combinations of ranked top-$l_1$ and $l_2$-way (or choice data over up to $l_2$ alternatives), mixture of $k$ Plackett-Luce models is not identifiable when $l_1+l_2\le 2k-1$ ($l_2$ is set to $1$ when there are no $l_2$-way orders). We also prove that under some combinations, including ranked top-$3$, ranked top-$2$ plus $2$-way, and choice data over up to $4$ alternatives, mixtures of two Plackett-Luce models are identifiable. Guided by our theoretical results, we propose efficient generalized method of moments (GMM) algorithms to learn mixtures of two Plackett-Luce models, which are proven consistent. Our experiments demonstrate the efficacy of our algorithms. Moreover, we show that when full rankings are available, learning from different marginal events (partial orders) provides tradeoffs between statistical efficiency and computational efficiency.

연구 동기 및 목표

• 다양한 구조적 부분 순서, 예를 들어 순위 상위-$l$, $l$-방식형, 선택 데이터와 같은 이질적인 부분 순서에서 플래킷-루스 모델 혼합모델을 학습하는 데 도전하는 것.
• 다양한 부분 순서 유형이 혼합된 데이터일 때 $k$개의 플래킷-루스 모델 혼합모델이 식별 가능한 이론적 조건을 설정하는 것.
• 다양한 부분 순서 구조에서 두 개의 플래킷-루스 모델 혼합모델을 학습하기 위한 효율적이고 일관된 일반화된 모멘트 방법(GMM) 알고리즘을 설계하는 것.
• 완전한 선형 순서와 부분 순서의 경계에서 통계적 효율성과 계산적 효율성 간의 트레이드오프를 평가하는 것.
• 다양한 부분 순서 구성에서의 실험을 통해 제안된 알고리즘의 유효성을 입증하는 것.

제안 방법

• 순위 상위-$l$, $l$-방식형, 선택-$l$형 구조적 부분 순서를 혼합 플래킷-루스 프레임워크 내에서 통합하는 통계 모델을 제안한다.
• 쌍별 비교에서 유도된 모멘트 조건을 활용하여 부분 순서에서 두 개의 플래킷-루스 모델 혼합모델의 매개변수를 추정하기 위한 일반화된 모멘트 방법(GMM) 알고리즘을 도입한다.
• 모멘트 행렬의 질적 분석을 통해 이론적 식별 가능성 조건을 유도하며, $k=2$일 때 $l_1 + l_2 > 2k - 1$이면 두 개의 플래킷-루스 모델 혼합모델이 식별 가능하다는 것을 증명한다. 예를 들어 상위 3위 또는 상위 2위 + 2방식 조합.
• 완전한 선형 순서에서 유도된 마진 복사 이벤트를 부분 관측치로 사용하여, 완전한 순위가 제공되지 않을 경우에도 일관된 추정이 가능하도록 한다.
• 실제 데이터 수집 시나리오를 시뮬레이션하기 위해, 기반 선형 순서에서 부분 순서를 생성하기 위한 샘플링 전략을 도입한다.
• 다양한 대안 수와 표본 크기를 가진 합성 데이터셋에서 GMM 알고리즘을 구현하고 평가하며, 기준 GMM 및 ELSR-Gibbs 방법과의 비교를 수행한다.

실험 결과

연구 질문

• RQ1 순위 상위-$l_1$형과 $l_2$-방식형(또는 선택형) 부분 순서가 혼합된 데이터일 때, $k$개의 플래킷-루스 모델 혼합모델이 식별 가능한 조건은 무엇인가?
• RQ2 순위 상위 3위, 상위 2위 + 2방식, 또는 선택-4 데이터와 같은 구조적 부분 순서가 포함된 경우, 두 개의 플래킷-루스 모델 혼합모델에 대해 일관된 매개변수 추정이 가능할 수 있는가?
• RQ3 순위 상위-$l$, $l$-방식형, 선택-$l$형 등의 다양한 유형의 구조적 부분 순서는 매개변수 추정에서 통계적 효율성 측면에서 어떻게 비교될 수 있는가?
• RQ4 완전한 선형 순서에서 학습할 경우와 마진 부분 순서에서 학습할 경우, 통계적 효율성과 계산적 효율성 간의 트레이드오프는 어떠한가?
• RQ5 GMM 기반 알고리즘이 일致성과 효율성을 유지하면서 이질적인 부분 순서 데이터에서 효과적으로 학습할 수 있도록 적절히 적응될 수 있는가?

주요 결과

• 순위 상위-$l_1$형과 $l_2$-방식형 또는 선택-$l$형 부분 순서가 혼합된 데이터일 때, $l_1 + l_2 ≤ 2k - 1$이면 $k$개의 플래킷-루스 모델 혼합모델은 식별 가능하지 않다.
• 특정 조합, 예를 들어 순위 상위 3위, 상위 2위 + 2방식, 또는 최대 4개의 대안에 대한 선택 데이터 하에서 두 개의 플래킷-루스 모델 혼합모델은 식별 가능하다.
• 제안된 GMM 알고리즘은 구조적 부분 순서에서 두 개의 플래킷-루스 모델 혼합모델을 학습하는 데 있어 일관성이 있음을 증명한다.
• 실험 결과, 부분 순서에서 학습할 경우 제안된 GMM 알고리즘이 기준 방법보다 더 낮은 MSE를 기록하며, 표본 크기가 증가함에 따라 수렴하는 경향을 보였다.
• 완전한 선형 순서에서 학습할 경우, 제안된 알고리즘은 상태의 최신 GMM 방법 [33]보다 MSE에서 뛰어나며, 실행 시간은 유사한 수준을 유지했다.
• 대규모 부분 순서 데이터셋에서, 특히 선택-2,3,4 구성에서 ELSR-Gibbs 알고리즘이 제안된 GMM 접근법보다 훨씬 느렸다.