[論文レビュー] On Sample Complexity Upper and Lower Bounds for Exact Ranking from Noisy Comparisons

Wenbo Ren, Jia Liu+1 more|arXiv (Cornell University)|Sep 7, 2019

Multi-Criteria Decision Making被引用数 5

ひとこと要約

本稿は、ノイズのある比較から正確な順序付けを達成するためのサンプル複雑度のタイトな上限と下限を確立し、ノイズレベルの事前知識がなくても動作する最小限の仮定の下での適応的アルゴリズムを提案する。任意のノイズ分布下でのペairwiseおよびリストワイド比較に対する、初めての一般化された下限を示し、提案されたアルゴリズムが多様な設定においてほぼ最適なサンプル複雑度を達成することを示している。

ABSTRACT

This paper studies the problem of finding the exact ranking from noisy comparisons. A comparison over a set of $m$ items produces a noisy outcome about the most preferred item, and reveals some information about the ranking. By repeatedly and adaptively choosing items to compare, we want to fully rank the items with a certain confidence, and use as few comparisons as possible. Different from most previous works, in this paper, we have three main novelties: (i) compared to prior works, our upper bounds (algorithms) and lower bounds on the sample complexity (aka number of comparisons) require the minimal assumptions on the instances, and are not restricted to specific models; (ii) we give lower bounds and upper bounds on instances with unequal noise levels; and (iii) this paper aims at the exact ranking without knowledge on the instances, while most of the previous works either focus on approximate rankings or study exact ranking but require prior knowledge. We first derive lower bounds for pairwise ranking (i.e., compare two items each time), and then propose (nearly) optimal pairwise ranking algorithms. We further make extensions to listwise ranking (i.e., comparing multiple items each time). Numerical results also show our improvements against the state of the art.

研究の動機と目的

• ノイズのあるペアワイドおよびリストワイド比較からの正確な順序付けに必要な比較回数の一般化された、インスタンスに依存しない下限を導出すること。
• 比較確率やノイズレベルの事前知識がなくても、ほぼ最適なサンプル複雑度を達成する適応的アルゴリズムの設計。
• リストワイド比較がペアワイド比較に比べてサンプル複雑度を低減するかどうかの調査。
• Plackett-Luceモデルや強い確率的推移性といった制限的なモデルを避ける、最小限の仮定の下でのサンプル複雑度の理論的限界の確立。
• 理論的下限と実用的アルゴリズムの間のギャップを埋めるために、多様なノイズ設定において境界のタイトネスを証明すること。

提案手法

• 複数の仮説を伴うマルチアームド・バンディット問題への還元を用いて、情報理論的下限を導出する。
• 蓄積された比較結果に基づいて動的にアイテムペアを選択することで、不確実性を最小限に抑える適応的ペアワイド順序付けアルゴリズムを提案する。
• 複数のアイテムを同時に比較するアルゴリズムを設計することで、フレームワークをリストワイド比較へ拡張し、収束を加速する。
• 新しい還元技術を導入し、コイン同定問題から順序付け問題へと還元することで、タイトな下限の導出を可能にする。
• アイテムの順序付けを区別する難易度を表すために、最小分離パラメータ $\tilde{\Delta}_i$ とペアワイド差 $\Delta_{i,j}$ を用いる。
• 集中不等式とエントロピーに基づく議論を用いて、$\delta$-正しく順序付けを達成するための期待比較回数の上限を導出する。

実験結果

リサーチクエスチョン

• RQ1 最小限の仮定の下で、ノイズのあるペアワイド比較から正確な順序付けを達成するために必要な比較回数の根本的な下限は何か？
• RQ2 特定のノイズモデルを仮定せず、一般設定において適応的アルゴリズムが導出された下限に一致するサンプル複雑度を達成できるか？
• RQ3 リストワイド比較のサンプル複雑度は、ペアワイド比較に比べて比較回数を最小限に抑える点でどのように異なるか？
• RQ4 アイテムペア間でのノイズレベルの非一様性が、正確な順序付けのサンプル複雑度に与える影響は何か？
• RQ5 提案されたアルゴリズムが、任意の比較確率分布に対してどの程度まで近似的最適性を達成できるか？

主な発見

• 本稿は、Plackett-Luce や強い確率的推移性といった特定モデルを仮定しない、ノイズのある比較からの正確な順序付けのための初めての一般化されたサンプル複雑度の下限を確立した。
• 提案された適応的ペアワイド順序付けアルゴリズムは、導出された下限にほぼ一致するサンプル複雑度を達成し、多様なノイズ設定においてほぼ最適性を示した。
• リストワイド比較の文脈では、1回の比較で複数のアイテムを扱うことでサンプル複雑度を低減できることを示したが、正確な改善度はノイズ構造に依存する。
• コイン同定問題への還元に基づき、下限は $\tilde{\Omega}(\sum_{k} \Delta_{q_{2k-1},q_{2k}}^{-2} \log \log \Delta_{q_{2k-1},q_{2k}}^{-1}) + \Omega(\min \sum \Delta_{i,j}^{-2} \log \delta_k^{-1})$ のスケーリングを示した。
• 数値評価では、特にノイズレベルが非一様な設定において、提案されたアルゴリズムが最先端手法を顕著に上回ることが示された。
• 分析により、比較確率の事前知識がなくても、アルゴリズムが理論的限界に対し対数因子を除いて一致するサンプル複雑度で $\delta$-正しく順序付けを達成できることを証明した。