[논문 리뷰] A Bayesian nonparametric approach for generalized Bradley-Terry models in random environment

Sylvain Le Corff, Matthieu Lerasle외 1명|arXiv (Cornell University)|2018. 08. 24.

Bayesian Methods and Mixture Models참고 문헌 32인용 수 5

한 줄 요약

이 논문은 랜덤 환경 내에서 일반화된 브래드리-테일러 모델의 잠재 강도의 알려지지 않은 분포를 추정하기 위한 베이지안 비모수적 접근을 제안하며, 사후 수축 속도와 새로운 MCMC 알고리즘을 사용한다. 이는 사후 분포의 이론적 수축 속도를 확립하고, 2017–2018 프랑스 리그 1의 시뮬레이션 및 실세계 데이터를 활용하여 토너먼트 결과 예측 정확도 향상을 보여준다.

ABSTRACT

This paper deals with the estimation of the unknown distribution of hidden random variables from the observation of pairwise comparisons between these variables. This problem is inspired by recent developments on Bradley-Terry models in random environment since this framework happens to be relevant to predict for instance the issue of a championship from the observation of a few contests per team. This paper provides three contributions on a Bayesian nonparametric approach to solve this problem. First, we establish contraction rates of the posterior distribution. We also propose a Markov Chain Monte Carlo algorithm to approximately sample from this posterior distribution inspired from a recent Bayesian nonparametric method for hidden Markov models. Finally, the performance of this algorithm are appreciated by comparing predictions on the issue of a championship based on the actual values of the teams and those obtained by sampling from the estimated posterior distribution.

연구 동기 및 목표

• 일반화된 브래드리-테일러 모델에서 랜덤 환경 하에서 잠재 강도의 분포를 추정하기 위한 베이지안 비모수적 프레임워크를 개발하는 것.
• 잠재 변수의 알려지지 않은 분포에 대한 사후 분포의 이론적 수축 속도를 확립하는 것.
• 이 비모수적 베이지안 모델에서 사후 샘플링을 위한 실용적인 MCMC 알고리즘을 설계하는 것.
• 특히 챔피언십 결과 예측을 위한 실세계 스포츠 데이터에서의 예측 성능을 평가하는 것.
• 희소 쌍별 비교가 있는 경우 기존 최대우도 추정 결과를 확장하는 것.

제안 방법

• 저자들은 잠재 강도 $V_i$를 알려지지 않은 분포 $\pi$에서 i.i.d.로 추출된 것으로 모델링하며, 쌍별 비교 결과는 알려진 함수 $\mathsf{K}(x, V_i, V_j)$에 의해 결정된다.
• 숨겨진 그래픽 모델 표현에서의 가능도 분석을 통해 사후 수축 속도를 확립하며, 이때 $\bar{V}_i$는 플레이어를 그룹화하고 $\bar{X}_i$는 결과를 집계한다.
• 최근의 비모수적 베이지안 방법을 기반으로 한 마코프 체인 몬테카를로 알고리즘이 개발되어 $\pi$에서의 사후 샘플링을 가능하게 한다.
• 가능도 함수의 편차를 제한하기 위해 커플링 추론과 농도 부등식(예: 맥디아미드 부등식)을 활용한다.
• 일반적인 사전 분포 클래스에서 $\ell^2$-노름 수축 속도를 바탕으로 이론적 경계를 유도하며, 혼합 계수 $\gamma_s$와 마코프 전이 핵심의 스펙트럼 간격 $\nu$에 대한 명시적 의존성을 포함한다.
• 2017–2018 프랑스 리그 1 시즌 데이터를 사용한 시뮬레이션 연구를 통해 알고리즘 성능을 검증하며, 예측된 순위와 실제 팀 순위를 비교한다.

실험 결과

연구 질문

• RQ1 일반화된 브래드리-테일러 모델에서 잠재 강도의 알려지지 않은 분포 $\pi$에 대한 빈도주의 수축 속도는 무엇인가?
• RQ2 이 비모수적 베이지안 모델에서 $\pi$의 사후 분포에서 샘플링할 수 있는 계산적으로 실현 가능한 MCMC 알고리즘이 설계될 수 있는가?
• RQ3 소수의 쌍별 비교만 관찰되었을 때, 사후 기반의 토너먼트 결과 예측은 실제 결과와 얼마나 유사한가?
• RQ4 분포 $\pi$의 尾행동이 토너먼트 우승자의 예측 가능성에 어떤 영향을 미치는가?
• RQ5 기본 마코프 체인의 혼합 성질에 따라 가능도 편차에 대한 이론적 경계는 어떻게 의존하는가?

주요 결과

• 논문은 잠재 강도의 알려지지 않은 분포 $\pi$에 대한 사후 수축 속도를 확립하며, 이는 비교 횟수와 $\pi$의 매끄러움 정도에 따라 결정되는 속도로 진동함을 보여준다.
• MCMC 알고리즘은 효과적인 사후 샘플링과 $\pi$의 추정을 가능하게 하며, 리그 1 시뮬레이션에서 예측된 결과와 실제 챔피언십 결과 간의 강한 일치를 보여주는 경험적 결과를 제공한다.
• 맥디아미드 부등식과 커플링 추론을 사용하여 가능도 편차에 대한 이론적 경계를 도출하였으며, 스펙트럼 간격 $\nu$와 영향 계수 $\gamma_s$의 $\ell^1$-노름에 대한 명시적 의존성이 포함되어 있다.
• 각 팀이 두 경기만 하더라도 신뢰할 수 있는 예측을 달성하여, 기존의 완전한 순환 대결 설정을 초월한 브래드리-테일러 모델의 적용 가능성을 넓힌다.
• 수축 속도 결과는 사전과 모델에 대한 일반적인 조건 하에서도 성립하며, 진짜와 추정된 분포 사이의 $\ell^2$-거리에 대한 명시적 경계를 포함한다.
• 시뮬레이션 연구는 사후 기반의 팀 순위 예측이 실제 결과와 매우 유사함을 확인하여, 이 방법의 희소 비교 설정에서의 실용적 유용성을 검증한다.