[論文レビュー] Sync-Rank: Robust Ranking, Constrained Ranking and Rank Aggregation via Eigenvector and Semidefinite Programming Synchronization

Mihai Cucuringu|arXiv (Cornell University)|Apr 5, 2015

Advanced Statistical Methods and Models参考文献 52被引用数 12

ひとこと要約

この論文では、ノイズありで不完全な対比較から順位付けを行う問題を、SO(2) 上の群同期化問題として定式化する、耐障害性の高い順位付け手法であるSync-Rankを提案する。特徴ベクトルと半定値計画法（SDP）の緩和を用いて、計算が効率的で理論的に保証された高い正確性を持つ解を得る。実世界のデータセット（プレミアリーグ、NCAAバスケットボール、Halo 2）において最先端の性能を達成し、制約付き順位付け、順位集約、局所的に一貫した部分順位の検出を可能にする。

ABSTRACT

We consider the classic problem of establishing a statistical ranking of a set of n items given a set of inconsistent and incomplete pairwise comparisons between such items. Instantiations of this problem occur in numerous applications in data analysis (e.g., ranking teams in sports data), computer vision, and machine learning. We formulate the above problem of ranking with incomplete noisy information as an instance of the group synchronization problem over the group SO(2) of planar rotations, whose usefulness has been demonstrated in numerous applications in recent years. Its least squares solution can be approximated by either a spectral or a semidefinite programming (SDP) relaxation, followed by a rounding procedure. We perform extensive numerical simulations on both synthetic and real-world data sets, showing that our proposed method compares favorably to other algorithms from the recent literature. Existing theoretical guarantees on the group synchronization problem imply lower bounds on the largest amount of noise permissible in the ranking data while still achieving exact recovery. We propose a similar synchronization-based algorithm for the rank-aggregation problem, which integrates in a globally consistent ranking pairwise comparisons given by different rating systems on the same set of items. We also discuss the problem of semi-supervised ranking when there is available information on the ground truth rank of a subset of players, and propose an algorithm based on SDP which recovers the ranks of the remaining players. Finally, synchronization-based ranking, combined with a spectral technique for the densest subgraph problem, allows one to extract locally-consistent partial rankings, in other words, to identify the rank of a small subset of players whose pairwise comparisons are less noisy than the rest of the data, which other methods are not able to identify.

研究の動機と目的

• 大規模なデータにおける不完全でノイズが多く、一貫性のない対比較から順位を付ける課題に対処すること。
• 群同期化の原則を用いて、耐障害性の高い順位付け、制約付き順位付け、順位集約を統合する包括的なフレームワークの構築。
• 群同期化の理論的保証を活用し、高いノイズレベル下でも真の順位を正確に回復すること。
• ネットワーク全体と比較して、特定のアイテムのサブセットに著しく信頼性の高い比較が集中しているような、局所的に一貫した部分順位の検出。
• スペクトル的およびSDPベースの最適化を統合することで、Rank-Centrality や Least-Squares よりも優れた性能を実現すること。

提案手法

• 対比較を相対的角のノイズあり測定としてモデル化し、SO(2) 上の群同期化問題として順位付け問題を定式化する。
• 対比較から導出される行列の主固有ベクトルを用いて、スペクトル緩和により初期の順位推定値を計算する。
• 特にノイズが多い、またはスパースな状況下でも耐障害性と正確性を高めるために、半定値計画法（SDP）の緩和を適用する。
• 連続的なSDP解から離散的順位を回復するために、丸め手順を採用し、観測データと整合性を保つ。
• 等式制約を用いたSDPにより、半教師付き順位付けで既知の真の順位を強制することで、硬い制約を統合する。
• 残差行列のランダムウォークラプラシアンの第一非自明固有ベクトルを分析することで、局所的に一貫した部分順位を検出する。この手法により、ノイズが低く密度の高い部分グラフが特定される。

実験結果

リサーチクエスチョン

• RQ1 SO(2) 上の群同期化を、不完全でノイズのある対比較の順位付け問題に効果的に適用できるか。
• RQ2 提案されたSDPおよびスペクトル緩和アプローチは、Rank-Centrality や Least-Squares といった最先端手法と比較して、正確性と耐障害性の面で優れているか。
• RQ3 同期化に基づく順位付けは、小さなアイテムサブセットに著しく信頼性の高い比較が集中しているような、隠れた局所的に一貫した部分順位を検出できるか。
• RQ4 既存の群同期化理論に基づき、ノイズ下での真の順位の正確な回復に関する理論的保証は得られるか。
• RQ5 半定値計画法を用いて、既知の順位に関する硬い制約を順位付けプロセスに効率的に統合できるか。

主な発見

• Sync-Rankは、プレミアリーグサッカー、NCAAバスケットボール、Halo 2トーナメントデータを含む実世界のデータセットにおいて、さまざまなノイズモデルとグラフスパarsityレベルで、Rank-Centrality や Least-Squares、Serial-Rank よりも優れた性能を発揮する。
• 群同期化の文献から導出された理論的保証に従い、ノイズレベルが制限された範囲内では真の順位を正確に回復する。
• スペクトル的およびSDP緩和により、反復処理を必要とせず、モデルに依存しないアルゴリズムが得られ、スパースで非一様に分布したデータに対しても計算が効率的で耐障害性が高い。
• 硬い制約付きのSDPベースのアプローチにより、一部のプレイヤーの順位が既知の場合に、制約と整合性を保ったまま全順位を正確に回復できる。
• 提案手法は、ノイズが低く密度の高い部分グラフを特定することで、局所的に一貫した部分順位を検出可能であり、これは従来の順位付けアルゴリズムにはない機能である。
• SVDに基づく順位付けバリエーションは、確率的行列理論を用いた理論的分析に適しており、将来的な保証された性能評価の可能性を示唆している。