[論文レビュー] Maximum Selection and Ranking under Noisy Comparisons

Moein Falahatgar, Alon Orlitsky+2 more|arXiv (Cornell University)|May 15, 2017

Game Theory and Voting Systems参考文献 8被引用数 18

ひとこと要約

本稿は、強い確率的推移性および確率的三角不等式を満たすノイズのある比較の下で、最大値選択のための最適化されたノックアウトトーナメントアルゴリズムを提案する。このアルゴリズムは、${\cal O}\left(\frac{n}{\epsilon^{2}}\log\frac{1}{\delta}\right)$回の比較を達成し、定数因子を除いて最適である。さらに、マージソートに基づく順位付けフレームワークを導入し、$\delta \geq \frac{1}{n}$の下で${\cal O}\left(\frac{n\log n(\log\log n)^3}{\epsilon^2}\right)$回の比較を達成する。これは、$(\log\log n)^3$因子を除いて最適である。

ABSTRACT

We consider $(ε,δ)$-PAC maximum-selection and ranking for general probabilistic models whose comparisons probabilities satisfy strong stochastic transitivity and stochastic triangle inequality. Modifying the popular knockout tournament, we propose a maximum-selection algorithm that uses $\mathcal{O}\left(\frac{n}{ε^2}\log \frac{1}δ ight)$ comparisons, a number tight up to a constant factor. We then derive a general framework that improves the performance of many ranking algorithms, and combine it with merge sort and binary search to obtain a ranking algorithm that uses $\mathcal{O}\left(\frac{n\log n (\log \log n)^3}{ε^2} ight)$ comparisons for any $δ\ge\frac1n$, a number optimal up to a $(\log \log n)^3$ factor.

研究の動機と目的

• ノイズのある比較における最大値選択と順位付けの複雑度ギャップを解消すること。特に、比較結果が確率的である場合に焦点を当てる。
• 強い確率的推移性および確率的三角不等式を満たす一般の確率的モデル下で、近似的に最適なサンプル複雑度を達成するアルゴリズムを開発すること。
• 従来の$\log n$要因の不確実性を有していた順位付けの既知の境界のギャップを埋めるために、既存のアルゴリズムを改善するフレームワークを導入すること。
• $(\epsilon,\delta)$-PAC最大値選択および順位付けに対する理論的保証を提供すること。最小限の比較回数で高確率的に正しく動作することを保証する。

提案手法

• ノイズのある比較の下で、最大値選択のためのノックアウトトーナメントアルゴリズムを変更し、$O\left(\frac{n}{\epsilon^2} \log \frac{1}{\delta}\right)$回の比較を達成する。これは、与えられたモデル仮定下で最適である。
• マージソートと二分探索を組み合わせた一般フレームワークを導入し、順位付けアルゴリズムの性能を向上させる。
• 誤差$\epsilon$が有界な候補集合に対して再帰的な二分探索戦略を採用し、順位を精緻化する。
• 集中不等式と和集合の不等式を用いて、すべての比較において高確率的に正しく動作することを保証する。
• 下界を確立するために、証明のスケッチでファノの不等式を適用し、サンプル複雑度の下界が対数因子を除いて最適であることを示した。
• 既存のアルゴリズムの変種（例：IR-BTM-PAC）を実装・評価し、提案手法の優位性を検証した。

実験結果

リサーチクエスチョン

• RQ1 強い確率的推移性および三角不等式を満たすノイズのある比較の下で、最大値選択のサンプル複雑度が定数因子を除いて最適に達成可能か？
• RQ2 同じ確率的制約下で、順位付けの最適なサンプル複雑度は何か？ また、既存の$\log n$要因のギャップを超えて改善可能か？
• RQ3 ノイズのある比較モデル下で、複数の順位付けアルゴリズムの性能を向上させる一般フレームワークを設計可能か？
• RQ4 提案されたマージソートベースの順位付けアルゴリズムは、BTM-PAC や MallowsMPI などの既存のPAC順位付け手法と比較して、サンプル複雑度でどのように差をつけるか？
• RQ5 $\epsilon$が小さい場合、特にペアワイズの好ましさの差が大きい場合でも、提案されたノックアウトアルゴリズムはロバストで効率的か？

主な発見

• 提案された最大値選択アルゴリズムは、${\cal O}\left(\frac{n}{\epsilon^2} \log \frac{1}{\delta}\right)$回の比較を達成し、与えられたモデル仮定下で定数因子を除いて最適である。
• マージソートと二分探索のフレームワークを用いた順位付けアルゴリズムは、$\delta \geq \frac{1}{n}$の下で${\cal O}\left(\frac{n\log n (\log\log n)^3}{\epsilon^2}\right)$回の比較を達成する。これは、$(\log\log n)^3$因子を除いて最適である。
• 実験の結果、ノックアウトアルゴリズムはBTM-PAC や MallowsMPI の変種を著しく上回り、特に$\epsilon$が小さい領域で顕著な優位性を示した。
• ノックアウトアルゴリズムのサンプル複雑度は$n$に対してほぼ線形に増加し、$\epsilon$が小さくなるに従っても安定しているため、ロバストであることが示された。
• 定数を改善したIR-BTM-PACの変種は性能向上を示したが、依然として提案されたノックアウトアルゴリズムに劣っていた。
• ファノの不等式を用いた理論的分析により、サンプル複雑度の下界が上界と対数因子を除いて一致することが確認され、提案されたアルゴリズムの最適性が裏付けられた。