[論文レビュー] Active Ranking from Pairwise Comparisons and when Parametric Assumptions Don't Help

Reinhard Heckel, Nihar B. Shah+2 more|arXiv (Cornell University)|Jun 28, 2016

Auction Theory and Applications参考文献 32被引用数 12

ひとこと要約

本稿では、ペアワイズ比較回数からの信頼区間を用いて逐次的にペアを選択するアクティブランク付けアルゴリズムを提案する。このアルゴリズムは、パrametricな仮定を一切行わずに、対数要因を除いて最適なサンプル複雑度を達成する。驚くべきことに、BTL や Thurstone といった一般的なパラメトリックモデルにおいても、ペアワイズ確率が 0 や 1 から離れている限り、サンプル複雑度に与える改善は対数要因までに留まる。

ABSTRACT

We consider sequential or active ranking of a set of n items based on noisy pairwise comparisons. Items are ranked according to the probability that a given item beats a randomly chosen item, and ranking refers to partitioning the items into sets of pre-specified sizes according to their scores. This notion of ranking includes as special cases the identification of the top-k items and the total ordering of the items. We first analyze a sequential ranking algorithm that counts the number of comparisons won, and uses these counts to decide whether to stop, or to compare another pair of items, chosen based on confidence intervals specified by the data collected up to that point. We prove that this algorithm succeeds in recovering the ranking using a number of comparisons that is optimal up to logarithmic factors. This guarantee does not require any structural properties of the underlying pairwise probability matrix, unlike a significant body of past work on pairwise ranking based on parametric models such as the Thurstone or Bradley-Terry-Luce models. It has been a long-standing open question as to whether or not imposing these parametric assumptions allows for improved ranking algorithms. For stochastic comparison models, in which the pairwise probabilities are bounded away from zero, our second contribution is to resolve this issue by proving a lower bound for parametric models. This shows, perhaps surprisingly, that these popular parametric modeling choices offer at most logarithmic gains for stochastic comparisons.

研究の動機と目的

• 最小限のクエリで部分的または完全なランク付けを回復できるように、適応的にペアワイズ比較を選択するアクティブランク付けアルゴリズムの開発。
• ペアワイズ比較確率に対する一般的で非パラメトリックな仮定のもとでの、提案アルゴリズムのサンプル複雑度の分析。
• パラメトリックモデル（例：BTL、Thurstone）が確率的比較状態において、サンプル複雑度を対数要因を越えて低減できるかどうかという長年の未解決問題の解明。
• アルゴリズムの性能と対数要因まで一致する分布依存の下界を確立し、近似的に最適性を証明。
• 実用的ランク付け応用における非パラメトリック手法とパラメトリック手法のロバストネスおよび効率性の比較。

提案手法

• アルゴリズムは各アイテムの勝利回数を維持し、これらの回数に基づいて信頼区間を計算し、将来の比較選択を指針にする。
• 各ステップで、信頼区間がスコアの有意な差を示唆するかどうかに基づいて、比較対のペアを選択する。
• 特にトップ-k選択に注力したマルチアームド・バンディット問題との関連を活用し、アクティブサンプリングの意思決定を支援する。
• 濃度不等式と信頼区間の構築を用いて理論的保証を導出し、真のランク付けを高確率で回復することを保証する。
• 凸最適化フレームワークを用いて、パラメトリック仮定下での最適比較行列の構造を分析し、KKT 条件を導出する。
• 分析により、ペアワイズ確率が 0 や 1 から離れているパラメトリックモデルのもとでは、最適解がパラメトリック形式（例：ロジスティック関数や正規分布関数の累積分布関数）を満たす必要があることが示された。これはモデル構造の妥当性を確認するものである。

実験結果

リサーチクエスチョン

• RQ1 BTL や Thurstone といったパラメトリックモデルを仮定せずに、最適なサンプル複雑度を達成できるアクティブランク付けアルゴリズムは存在するか？
• RQ2 一般的なペアワイズ比較モデルのもとで、アクティブランク付けのサンプル複雑度の根本的限界（下界）は何か？
• RQ3 ペアワイズ確率が 0 や 1 から離れている場合、BTL や Thurstone といったパラメトリック仮定は、サンプル複雑度に対数要因を越える改善をもたらすのか？
• RQ4 ロバストネスとサンプル効率性の観点から、パラメトリックモデルと非パラメトリック手法の性能はどのように比較できるか？
• RQ5 1つのアルゴリズムが決定的および確率的比較状態の両方で最適な性能を達成できるか？

主な発見

• 提案されたアクティブランク付けアルゴリズムは、ペアワイズ比較確率に関するいかなるパラメトリック仮定も必要とせず、対数要因を除いて最適なサンプル複雑度を達成する。
• アルゴリズムの性能は分布依存であり、潜在スコア τ_i に比例し、導出された分布依存の下界と対数要因まで一致する。
• 確率的比較モデル（ペアワイズ確率が 0 や 1 から離れている状態）において、BTL や Thurstone といったパラメトリック仮定は、サンプル複雑度を対数要因までしか低減しない。
• 分析により、パラメトリック仮定下での凸最適化問題の任意の最適解は、M_ij^* = Φ(ν_j^* - ν_i^*) といったパラメトリック形式を満たす必要があることが示された。これはモデル構造の正当性を確認するものである。
• KKT 条件により、パラメトリック仮定下での最適行列は、対称的かつスコアに基づく構造を満たす必要があることが示され、解が潜在スコアと関連づけられた。
• 実験的証拠と理論的分析から、非パラメトリック手法は実用的においてよりロバストであると示唆され、パラメトリックモデルはモデルの誤指定に対して極めて感受性が強い可能性がある。