[論文レビュー] Iterative Ranking from Pair-wise Comparisons

Sahand Negahban, Sewoong Oh+1 more|arXiv (Cornell University)|Sep 8, 2012

Game Theory and Voting Systems参考文献 21被引用数 171

ひとこと要約

本稿では、比較グラフ上のランダムウォークとしてペアワイズ比較をモデル化し、オブジェクトのスコアをそのウォークの定常分布に対応させる反復的ランク集約アルゴリズムを提案する。この手法はモデルに依存しないが、Bradley-Terry-Luce (BTL) モデルのスコア推定において順序的に最適な標本複雑度を達成し、実験でもアマルとシャーのアルゴリズムを凌駕する。

ABSTRACT

The question of aggregating pairwise comparisons to obtain a global ranking over a collection of objects has been of interest for a very long time: be it ranking of online gamers (e.g. MSR's TrueSkill system) and chess players, aggregating social opinions, or deciding which product to sell based on transactions. In most settings, in addition to obtaining ranking, finding 'scores' for each object (e.g. player's rating) is of interest to understanding the intensity of the preferences. In this paper, we propose a novel iterative rank aggregation algorithm for discovering scores for objects from pairwise comparisons. The algorithm has a natural random walk interpretation over the graph of objects with edges present between two objects if they are compared; the scores turn out to be the stationary probability of this random walk. The algorithm is model independent. To establish the efficacy of our method, however, we consider the popular Bradley-Terry-Luce (BTL) model in which each object has an associated score which determines the probabilistic outcomes of pairwise comparisons between objects. We bound the finite sample error rates between the scores assumed by the BTL model and those estimated by our algorithm. This, in essence, leads to order-optimal dependence on the number of samples required to learn the scores well by our algorithm. Indeed, the experimental evaluation shows that our (model independent) algorithm performs as well as the Maximum Likelihood Estimator of the BTL model and outperforms a recently proposed algorithm by Ammar and Shah [1].

研究の動機と目的

• ペアワイズ比較に基づく、モデルに依存しない反復的アルゴリズムによるオブジェクトランク付けの開発。
• 推定スコアと真の BTL モデルスコアの間の理論的有限標本誤差バインディングの確立。
• スコア推定における順序的に最適な標本複雑度の達成、正確な結果を得るための比較回数の最小化。
• BTL モデル下での最尤推定器と同等の性能を示す。
• アマルとシャーの最近の最先端アルゴリズムと比較して、実験的に優れた性能を示す。

提案手法

• ペアワイズ比較を、オブジェクトをノードとして、それらの間の比較をエッジとして表す有向グラフとしてモデル化する。
• このグラフ上でランダムウォークを定義し、遷移確率を比較頻度から導出する。
• オブジェクトスコアは、このランダムウォークの定常分布として推定され、安定なランク付けへの収束を保証する。
• この手法は本質的に反復的であり、各ステップで現在の比較統計を用いてスコア推定値を更新する。
• 理論的分析により、集中不等式を用いて、アルゴリズムのスコアと真の BTL スコアの間の推定誤差をバインディングする。
• BTL 分布の明示的モデル化を必要としないため、パラメトリックな仮定を超えて適用可能である。

実験結果

リサーチクエスチョン

• RQ1 モデルに依存しない反復的アルゴリズムは、BTL モデル下での最尤推定器と同等の有限標本誤差率を達成できるか？
• RQ2 提案手法は、正確なスコア推定にあたり、比較回数に順序的に最適な依存関係を示すか？
• RQ3 実験的に、アマルとシャーの手法のような最先端手法と比較して、本手法はどのように性能を発揮するか？
• RQ4 比較グラフのランダムウォークの定常分布は、原理的かつ効果的なスコア推定メカニズムとして機能できるか？
• RQ5 反復的スコア更新の収束性と正確性の理論的根拠は何か？

主な発見

• 提案手法は順序的に最適な標本複雑度を達成しており、必要な比較回数が所望の推定精度に最適にスケーリングされる。
• 理論的バインディングにより、推定スコアと真の BTL スコアの間の有限標本誤差が、情報理論的下界と一致するレートで減少することが示された。
• 実験的に、BTL モデルの最尤推定器と同等のスコア推定精度を達成した。
• 合成および実世界の比較データセットにおいて、アマルとシャーが最近提案したアルゴリズムを上回る性能を示した。
• 比較グラフ上のランダムウォークの定常分布は、頑健で解釈可能なスコア推定メカニズムを提供する。
• 比較グラフの密度や比較ノイズレベルの変動に対しても、アルゴリズムの性能は安定的かつ収束的である。