[论文解读] A Bayesian nonparametric approach for generalized Bradley-Terry models in random environment

Sylvain Le Corff, Matthieu Lerasle+1 more|arXiv (Cornell University)|Aug 24, 2018

Bayesian Methods and Mixture Models参考文献 32被引用 5

一句话总结

本文提出了一种贝叶斯非参数方法，用于在随机环境中估计广义Bradley-Terry模型中潜在强度未知分布的后验收缩率，并开发了一种新颖的MCMC算法。该文建立了后验分布的理论收缩率，并通过模拟数据和2017–2018年法甲联赛的真实数据，展示了在锦标赛结果预测方面具有更高的准确性。

ABSTRACT

This paper deals with the estimation of the unknown distribution of hidden random variables from the observation of pairwise comparisons between these variables. This problem is inspired by recent developments on Bradley-Terry models in random environment since this framework happens to be relevant to predict for instance the issue of a championship from the observation of a few contests per team. This paper provides three contributions on a Bayesian nonparametric approach to solve this problem. First, we establish contraction rates of the posterior distribution. We also propose a Markov Chain Monte Carlo algorithm to approximately sample from this posterior distribution inspired from a recent Bayesian nonparametric method for hidden Markov models. Finally, the performance of this algorithm are appreciated by comparing predictions on the issue of a championship based on the actual values of the teams and those obtained by sampling from the estimated posterior distribution.

研究动机与目标

• 开发一种贝叶斯非参数框架，用于在随机环境中估计广义Bradley-Terry模型中潜在强度分布的未知分布。
• 建立潜在变量未知分布后验分布的理论收缩率。
• 设计一种适用于该非参数贝叶斯模型的实用MCMC算法，用于后验抽样。
• 在真实世界体育数据上评估该方法的预测性能，特别是对冠军结果的预测能力。
• 将现有的最大似然估计结果扩展至成对比较稀疏的情况。

提出的方法

• 作者将潜在强度 $V_i$ 建模为从未知分布 $\pi$ 独立同分布抽取的随机变量，成对比较结果由已知函数 $\mathsf{K}(x, V_i, V_j)$ 决定。
• 通过分析隐藏图模型表示的似然函数，建立后验收缩率，其中 $\bar{V}_i$ 对应球员分组，$\bar{X}_i$ 对应结果聚合。
• 基于最近在隐马尔可夫模型中的非参数贝叶斯方法，开发了一种马尔可夫链蒙特卡洛算法，实现从 $\pi$ 的后验分布中抽样。
• 该方法利用耦合论证和集中不等式（如McDiarmid不等式）来控制似然函数中的偏差。
• 通过在一类先验下使用 $\ell^2$-范数收缩率，推导出理论界，显式依赖于混合系数 $\gamma_s$ 和马尔可夫转移核的谱隙 $\nu$。
• 通过使用2017–2018年法国法甲联赛数据的模拟研究，验证了该算法的性能，比较了预测与实际的球队排名。

实验结果

研究问题

• RQ1 广义Bradley-Terry模型中潜在强度未知分布 $\pi$ 的后验分布的频率学收缩率是什么？
• RQ2 能否设计一种计算上可行的MCMC算法，用于从该非参数贝叶斯模型中 $\pi$ 的后验分布中抽样？
• RQ3 当仅观察到少量成对比较时，基于后验的锦标赛结果预测与实际结果相比表现如何？
• RQ4 分布 $\pi$ 的尾部行为对锦标赛冠军可预测性有何影响？
• RQ5 似然函数偏差的理论界如何依赖于底层马尔可夫链的混合性质？

主要发现

• 本文建立了潜在强度未知分布 $\pi$ 的后验收缩率，表明后验以依赖于比较次数和 $\pi$ 光滑度的速率集中在真实分布附近。
• MCMC算法实现了对 $\pi$ 的有效后验抽样与估计，实证结果表明在法甲模拟中预测的冠军结果与实际结果高度一致。
• 利用McDiarmid不等式和耦合论证，推导出似然偏差的理论界，显式依赖于谱隙 $\nu$ 和影响系数 $\gamma_s$ 的 $\ell^1$-范数。
• 即使每支队伍仅进行两场比赛，该方法仍能实现可靠预测，将Bradley-Terry模型的应用范围从经典全循环赛制扩展至更一般情形。
• 在先验和模型的一般条件下，收缩率结果成立，且以真实分布与估计分布之间的 $\ell^2$-距离显式表示界。
• 模拟研究证实，基于后验的球队排名预测与实际结果非常接近，验证了该方法在稀疏比较场景下的实际有效性。