[論文レビュー] A Bayesian nonparametric approach for generalized Bradley-Terry models in random environment

Sylvain Le Corff, Matthieu Lerasle+1 more|arXiv (Cornell University)|Aug 24, 2018

Bayesian Methods and Mixture Models参考文献 32被引用数 5

ひとこと要約

本稿は、ランダム環境下での一般化されたブラッドレー・テリー・モデルにおける隠れ強度の未知分布を推定するためのベイズ非パラメトリックアプローチを提案し、事後分布の収縮率と新規のMCMCアルゴリズムを用いる。理論的に事後分布の収縮率を確立し、2017–2018年リーグ1のシミュレート済みおよび実世界のデータを用いて、トーナメント結果の予測精度が向上することを示している。

ABSTRACT

This paper deals with the estimation of the unknown distribution of hidden random variables from the observation of pairwise comparisons between these variables. This problem is inspired by recent developments on Bradley-Terry models in random environment since this framework happens to be relevant to predict for instance the issue of a championship from the observation of a few contests per team. This paper provides three contributions on a Bayesian nonparametric approach to solve this problem. First, we establish contraction rates of the posterior distribution. We also propose a Markov Chain Monte Carlo algorithm to approximately sample from this posterior distribution inspired from a recent Bayesian nonparametric method for hidden Markov models. Finally, the performance of this algorithm are appreciated by comparing predictions on the issue of a championship based on the actual values of the teams and those obtained by sampling from the estimated posterior distribution.

研究の動機と目的

• 一般化されたブラッドリー・テリー・モデルにおけるランダム環境下での隠れ強度の分布推定のためのベイズ非パラメトリックフレームワークの構築。
• 隠れ変数の未知分布の事後分布の理論的収縮率の確立。
• この非パラメトリックベイズモデルにおける事後分布サンプリングのための実用的なMCMCアルゴリズムの設計。
• 特に優勝結果予測を目的として、実世界のスポーツデータにおける手法の予測性能の評価。
• スパースなペアワイズ比較が観察される状況への、既存の最尤推定結果の拡張。

提案手法

• 著者らは、隠れ強度 $V_i$ を未知分布 $\pi$ からの独立同分布の抽出とモデル化し、ペアワイズ比較結果は既知関数 $\mathsf{K}(x, V_i, V_j)$ に従うものとする。
• 隠れグラフィカルモデル表現における尤度の分析を通じて、事後分布の収縮率を確立する。ここで $\bar{V}_i$ は選手をグループ化し、$\bar{X}_i$ は結果を集約する。
• 最近の非パラメトリックベイズ的手法に基づく隠れマルコフモデルのMCMCアルゴリズムが開発され、$\pi$ からの事後分布サンプリングが可能になる。
• 尤度関数の乖離を制限するために、カップリング論法と集中不等式（例：McDiarmidの不等式）を活用する。
• クラスの事前分布の下で $\ell^2$-ノルムの収縮率を用いた理論的バインディングを導出し、混合係数 $\gamma_s$ とマルコフ遷移核のスペクトルギャップ $\nu$ に明示的な依存関係を示す。
• 2017–2018年フランス・リーグ1のデータを用いたシミュレーションスタディにより、アルゴリズムの性能を検証し、予測順位と実際の順位を比較した。

実験結果

リサーチクエスチョン

• RQ1 一般化ブラッドリー・テリー・モデルにおける隠れ強度の未知分布 $\pi$ の頻度的収縮率は何か？
• RQ2 この非パラメトリックベイズモデルにおける $\pi$ の事後分布からサンプリング可能な計算的に実行可能なMCMCアルゴリズムを設計できるか？
• RQ3 少数のペアワイズ比較しか観測されない状況で、事後分布に基づくトーナメント結果の予測は、実際の結果とどの程度一致するか？
• RQ4 $\pi$ の尾部挙動は、トーナメント優勝者の予測可能性にどのような影響を及えるか？
• RQ5 基礎となるマルコフ連鎖の混合性に依存する尤度の乖離に対する理論的バインディングはどのように構築されるか？

主な発見

• 本稿は、隠れ強度の未知分布 $\pi$ に対する事後分布の収縮率を確立し、事後分布が比較回数と $\pi$ の滑らかさに依存するレートで真の分布に集中することを示した。
• MCMCアルゴリズムは、$\pi$ の効果的な事後分布サンプリングと推定を可能にし、リーグ1のシミュレーションにおいて、予測された優勝結果と実際の結果との間で強い一致が得られた。
• McDiarmidの不等式とカップリング論法を用いて尤度の乖離に関する理論的バインディングを導出し、スペクトルギャップ $\nu$ と影響係数 $\gamma_s$ の $\ell^1$-ノルムに明示的な依存関係を示した。
• 各チームがたった2試合しか行わない状況でも、信頼性の高い予測が得られ、古典的なフルラウンドロビン設定を超えたブラッドリー・テリー・モデルの適用範囲が拡張された。
• 収縮率の結果は、事前分布とモデルの一般的条件のもとで成り立ち、真の分布と推定分布の間の $\ell^2$-距離に明示的なバインディングを示す。
• シミュレーションスタディにより、事後分布に基づく順位予測が実際の結果と密接に一致することが確認され、スパース比較設定における手法の実用的有用性が検証された。