[논문 리뷰] Nonparametric Estimation in the Dynamic Bradley-Terry Model

Heejong Bong, Wan‐Shan Li외 2명|arXiv (Cornell University)|2020. 02. 28.

Game Theory and Voting Systems참고 문헌 8인용 수 4

한 줄 요약

이 논문은 희소한 상대적 비교 데이터를 다루기 위해 커널 스무딩을 활용한 비모수적이고 시간에 따라 변하는 Bradley-Terry 모델의 확장 방식을 제안한다. 추정기의 존재성과 유일성 조건을 수립하고, 모델에 종속되지 않는 오라클 경계를 추정 오차와 초과 위험에 대해 유도하며, 효율적인 대역폭 선택과 함께 시뮬레이션 및 실세계 데이터에서 뛰어난 경험적 성능을 보여준다.

ABSTRACT

We propose a time-varying generalization of the Bradley-Terry model that allows for nonparametric modeling of dynamic global rankings of distinct teams. We develop a novel estimator that relies on kernel smoothing to pre-process the pairwise comparisons over time and is applicable in sparse settings where the Bradley-Terry may not be fit. We obtain necessary and sufficient conditions for the existence and uniqueness of our estimator. We also derive time-varying oracle bounds for both the estimation error and the excess risk in the model-agnostic setting where the Bradley-Terry model is not necessarily the true data generating process. We thoroughly test the practical effectiveness of our model using both simulated and real world data and suggest an efficient data-driven approach for bandwidth tuning.

연구 동기 및 목표

• 동적 글로벌 팀 랭킹을 위한 비모수적이고 시간에 따라 변하는 Bradley-Terry 모델의 일반화를 개발하기 위해.
• 기존 Bradley-Terry 추정이 최대우도추정량의 존재성이 보장되지 않는다는 점에서, 상대적 비교 데이터가 희소할 경우 발생하는 문제를 해결하기 위해.
• 진짜 데이터 생성 과정이 Bradley-Terry 모델을 따르지 않을 수 있는 모델에 종속되지 않는 설정에서 존재성, 유일성, 오라클 경계 등의 이론적 보장을 제공하기 위해.
• 시간에 따라 변하는 상대적 결과를 사전 처리하기 위해 커널 스무딩을 활용하는 계산적으로 효율적인 추정기를 설계하기 위해.

제안 방법

• 이 방법은 Bradley-Terry 모델에서 시간에 따라 변하는 로그오즈 매개변수 βi(t)를 추정하기 위해 커널 스무딩을 사용하며, 시간에 따라 매끄럽게 유지된다.
• 시간에 따라 변하는 승리 확률은 logit(p_ij(t)) = β_i(t) - β_j(t)로 모델링되며, 식별성을 확보하기 위해 ∑β_i(t) = 0 조건이 적용된다.
• 추정기는 시간에 따라 커널 함수를 사용해 경험적 상대적 비교 빈도를 스무딩함으로써 구축되며, 이는 희소한 상황에서도 추정이 가능하게 한다.
• 커널과 β(t)의 부드러움에 대한 약한 정규성 조건 하에서 추정기의 존재성과 유일성이 입증된다.
• 모델에 종속되지 않는 프레임워크에서 추정 오차와 초과 위험에 대한 오라클 경계가 도출되며, Bradley-Terry 모델이 진짜 데이터 생성 과정임을 가정하지 않는다.
• 교차검증을 활용한 데이터 기반의 대역폭 선택 방법이 제안되며, 경험적으로 사전에 설정된 대역폭을 사용하더라도 양호한 성능을 보여준다.

실험 결과

연구 질문

• RQ1 제안된 시간에 따라 변하는 Bradley-Terry 모델에 대한 커널 스무딩 추정기의 존재성과 유일성은 어떤 조건에서 성립하는가?
• RQ2 진짜 데이터 생성 과정이 Bradley-Terry 모델이 아닐 경우, 제안된 방법의 추정 오차와 초과 위험은 어떻게 평가되는가?
• RQ3 기존 최대우도추정량이 실패하는 상황에서 커널 스무딩 접근법은 희소한 상대적 비교 설정에서 신뢰성 있게 동적 랭킹을 복원할 수 있는가?
• RQ4 기존의 파rametric 또는 상태공간 접근법에 비해 제안된 방법의 계산 효율성은 어떠한가?
• RQ5 특히 고차원 또는 희소한 데이터 환경에서, 데이터 기반의 대역폭 선택 절차는 실제로 얼마나 효과적인가?

주요 결과

• 커널과 시간에 따라 변하는 매개변수 β(t)의 부드러움에 대한 약한 조건 하에서 제안된 추정기는 존재하고 유일하다.
• 모의 및 실세계 데이터 모두에서 강력한 유한표본 성능을 보이며, 특히 기존 최대우도추정량이 실패하는 희소한 설정에서 뛰어난 성능을 발휘한다.
• 커널 스무딩은 MLE 존재를 위한 필수 조건(비교 그래프의 전역 연결성)이 원래 데이터가 희소하더라도 거의 확실히 만족됨을 보장한다.
• 특히 시간 포인트 수 M이 많고 팀 수 N이 작은 고시간 포인트 환경에서 원래 Bradley-Terry 모델과 비교해 유사하거나 더 빠른 런타임을 달성한다.
• 경험 결과, 합리적인 범위 내에서 사전에 설정된 대역폭을 사용하더라도, 이는 이웃 제거 교차검증을 통해 얻은 추정치와 매우 유사한 결과를 도출함을 보여준다.
• N=10, M=10, n_ij(t)=1 조건에서 모든 시간 포인트에서 MLE 존재 빈도는 2%에 불과했지만, 커널 스무딩을 적용한 후에는 100%로 상승하여 희소성에 대한 강건성을 입증했다.