[論文レビュー] Minimax-optimal Inference from Partial Rankings

Bruce Hajek, Sewoong Oh+1 more|arXiv (Cornell University)|Jun 21, 2014

Game Theory and Voting Systems参考文献 19被引用数 31

ひとこと要約

本稿は、Plackett-Luceモデル下での部分順序からグローバルな好みの推定におけるミニマックス最適推論を確立し、Cramér-Rao下界が比較グラフのラプラシアン行列の固有値ギャップに依存することを示している。ランダムなアイテム割り当てとランクブレイキング方式が、対数因子を除いてミニマックス最適性を達成することを証明しており、最尤推定器は理論的下界と一致している。

ABSTRACT

This paper studies the problem of inferring a global preference based on the partial rankings provided by many users over different subsets of items according to the Plackett-Luce model. A question of particular interest is how to optimally assign items to users for ranking and how many item assignments are needed to achieve a target estimation error. For a given assignment of items to users, we first derive an oracle lower bound of the estimation error that holds even for the more general Thurstone models. Then we show that the Cramér-Rao lower bound and our upper bounds inversely depend on the spectral gap of the Laplacian of an appropriately defined comparison graph. When the system is allowed to choose the item assignment, we propose a random assignment scheme. Our oracle lower bound and upper bounds imply that it is minimax-optimal up to a logarithmic factor among all assignment schemes and the lower bound can be achieved by the maximum likelihood estimator as well as popular rank-breaking schemes that decompose partial rankings into pairwise comparisons. The numerical experiments corroborate our theoretical findings.

研究の動機と目的

• 高次元設定下での部分順序から、所定の推定誤差を達成するためのアイテム割り当て数を定量化すること。
• 固定された総割り当て予算のもとで、システムがユーザー-アイテムの割り当てを制御可能な状況において、最適なアイテム割り当て戦略を同定すること。
• 部分順序をペairwise比較に変換するランクブレイキング方式の性能劣化が、最適推論に対してどの程度であるかを評価すること。
• Plackett-Luceに限らず、より広いクラスのThurstoneモデルに対して成り立つオракル下界を推定誤差について導出すること。
• ランダム割り当てのもとで、最尤推定とランクブレイキング方式の両方が、対数因子を除いてミニマックス最適性を達成することを確立すること。

提案手法

• Thurstoneモデル族（Plackett-Luceを含む）のすべての推定器とモデルに適用可能なオラクル下界を推定誤差について導出する。
• Cramér-Rao下界を分析し、ユーザー-アイテムの割り当てによって誘導される比較グラフのラプラシアン行列の固有値ギャップに逆比例することを示す。
• アイテムをユーザーに割り当てるランダム割り当て方式を提案し、それが対数因子を除いてミニマックス最適性を達成することを証明する。
• 行列集中不等式（行列ベルンシュタイン）を用いて、経験的ラプラシアンが期待値からどれほど逸脱するかを評価し、固有値ギャップの制御を保証する。
• Hoeffdingの不等式と行列ヘッセ行列解析を適用して、対数尤度関数の勾配とヘッセ行列をバインドし、誤差解析を可能にする。
• 提案されたランダム割り当てのもとで、最尤推定とランクブレイキング方式の両方が、対数因子を除いて同一のミニマックスレートを達成することを示す。

実験結果

リサーチクエスチョン

• RQ1 Plackett-Luceモデル下で、部分順序からグローバルな好みを回復する際の推定誤差の根本的限界は何か？
• RQ2 比較グラフのラプラシアン行列の固有値ギャップは、ミニマックス推定誤差にどのように影響するか？
• RQ3 ランダムなアイテム割り当て方式は、推定誤差の観点でミニマックス最適性を達成できるか？ その要因は何か？
• RQ4 部分順序をペairwise比較に変換するランクブレイキング方式を用いる際、性能劣化はどの程度発生するか？
• RQ5 最尤推定器は部分順序推定においてミニマックス最適であり得るか？ また、導出された下界と一致するか？

主な発見

• 推定誤差は、比較グラフのラプラシアン行列の固有値ギャップに逆比例する量によって下界づけられており、これはThurstoneモデル族に属するすべての推定器に対して成り立つ。
• Plackett-LuceモデルにおけるCramér-Rao下界は、比較グラフのラプラシアン行列の固有値ギャップに逆比例する。
• ランダムなアイテム割り当てのもとで、比較グラフのラプラシアン行列の固有値ギャップは、$ \frac{mk}{2(n-1)} $ のまわりに集中し、良好な推定性能を保証する。
• 最尤推定器は、対数因子を除いてミニマックス最適な推定誤差レートを達成しており、導出された下界と一致する。
• 同じランダム割り当て方式のもとで、部分順序をペairwise比較に分解するランクブレイキング方式も、対数因子を除いてミニマックス最適性を達成する。
• 数値実験により、理論的誤差境界と固有値ギャップの挙動が、実効的性能と整合していることが確認された。