[論文レビュー] Efficient computation of rankings from pairwise comparisons

Michael Newman|arXiv (Cornell University)|Jun 30, 2022

Game Theory and Voting Systems被引用数 8

ひとこと要約

本稿では、Bradley-Terryモデルを用いた対比較からの順位付けを計算するための新しい反復的アルゴリズムを提案する。この手法は、古典的なZermeloアルゴリズムよりも100倍以上高速に収束するが、同一の最尤推定値を達成する。更新ルールを再定式化することで、精度やシンプルさを損なわず収束速度を向上させた。

ABSTRACT

We study the ranking of individuals, teams, or objects, based on pairwise comparisons between them, using the Bradley-Terry model. Estimates of rankings within this model are commonly made using a simple iterative algorithm first introduced by Zermelo almost a century ago. Here we describe an alternative and similarly simple iteration that provably returns identical results but does so much faster -- over a hundred times faster in some cases. We demonstrate this algorithm with applications to a range of example data sets and derive a number of results regarding its convergence.

研究の動機と目的

• Bradley-Terryモデルにおける最尤推定のためのZermeloアルゴリズムの収束遅さを解消すること。
• 同一の解の品質を維持しつつ、計算効率の高い代替手法を開発すること。
• 新アルゴリズムがZermelo法と同じ一意の最尤解に収束することを証明すること。
• 多様な実世界データセットにおいて、実用的な速度向上を示すこと。
• MAP推定および同定可能な引き分けを許容する一般化Bradley-Terryモデルへの拡張を図ること。

提案手法

• Zermeloの元来の式を置き換える新しい反復的更新ルールを提案：$\pi_i' = \frac{\sum_j w_{ij} \pi_j / (\pi_i + \pi_j)}{\sum_j w_{ji} / (\pi_i + \pi_j)}$。
• 最小化最大化（MM）フレームワークからアルゴリズムを導出することで、各ステップで対数尤度が単調に増加することを保証する。
• 新更新ルールがZermeloのアルゴリズムと同じ一意の最尤解に収束することを証明する。
• 標準的Bradley-Terryモデルおよび、パラメータ$\nu$を用いて引き分けを許容する一般化モデルへの適用を実施する。
• 収束速度とスケーラビリティを比較するため、スぺクトル法およびニュートン法をベンチマークとして用いる。
• 実データセットを用いた数値実験により、Zermelo法に比べて性能向上を実証する。

実験結果

リサーチクエスチョン

• RQ1 Zermeloのアルゴリズムよりも著しく高速に収束するが、最尤推定の一貫性を保つ新しい反復的アルゴリズムを設計可能か？
• RQ2 提案された更新ルールがZermelo法と同じ固定点を維持するか。これにより同一の順位付けが保証されるか？
• RQ3 新アルゴリズムの収束速度は、Zermelo法やニュートン法など他の手法と比較して、さまざまな問題サイズにおいてどう異なるか？
• RQ4 一般化Bradley-Terryモデルを用いて、対比較における引き分けを扱えるように拡張可能か？
• RQ5 スパースな比較データを伴う大規模順位付け問題に対しても、新アルゴリズムは頑健かつ効率的か？

主な発見

• 実世界のデータセットを用いた実験で、提案アルゴリズムはZermeloのアルゴリズムに比べ100倍以上高速に収束し、解の品質に損失は認められない。
• 新更新ルールは各反復で対数尤度を単調に増加させることを保証し、Zermelo法と同じ一意の最尤解に収束することが証明された。
• 問題サイズに応じた効率的なスケーリングが可能であり、1反復あたりの計算コストは対比較の数に比例する。これに対してニュートン法は$N^3$に比例する。
• 引き分けを許容する一般化Bradley-Terryモデルにも適用可能であり、同様にパラメータ$\nu$のための更新ルールが導出された。
• 一般化されたアルゴリズムに対してもMMフレームワークを用いて収束性を証明し、単調な改善とグローバル収束を保証した。
• 実証的結果から、スポーツ、消費者選好、優位性行動の研究など多様なデータセットにおいて一貫した高速化が確認された。