[論文レビュー] A Nearly Instance Optimal Algorithm for Top-k Ranking under the Multinomial Logit Model

Xi Chen, Yuanzhi Li+1 more|arXiv (Cornell University)|Jul 25, 2017

Auction Theory and Applications参考文献 25被引用数 3

ひとこと要約

本稿では、アイテムの好みスコアの事前知識が不要なマルチノミアルロジット（MNL）モデル下で、多項比較を用いたトップ-$k$ランク付けのほぼインスタンス最適なアクティブラーニングアルゴリズムを提示する。アルゴリズムは、最大 $l$ 個の比較集合を適応的に選択し、サンプル複雑性を最小化する。その結果、サンプル複雑性がタイトな下界まで多項対数的要因の差で一致し、すべてのインスタンスにおいてほぼ最適性を示している。

ABSTRACT

We study the active learning problem of top-$k$ ranking from multi-wise comparisons under the popular multinomial logit model. Our goal is to identify the top-$k$ items with high probability by adaptively querying sets for comparisons and observing the noisy output of the most preferred item from each comparison. To achieve this goal, we design a new active ranking algorithm without using any information about the underlying items' preference scores. We also establish a matching lower bound on the sample complexity even when the set of preference scores is given to the algorithm. These two results together show that the proposed algorithm is nearly instance optimal (similar to instance optimal [FLN03], but up to polylog factors). Our work extends the existing literature on rank aggregation in three directions. First, instead of studying a static problem with fixed data, we investigate the top-$k$ ranking problem in an active learning setting. Second, we show our algorithm is nearly instance optimal, which is a much stronger theoretical guarantee. Finally, we extend the pairwise comparison to the multi-wise comparison, which has not been fully explored in ranking literature.

研究の動機と目的

• 動的で適応的な設定下で、最小限の比較回数でトップ-$k$アイテムを特定するアクティブラーニング問題に取り組む。
• 好みスコアの事前知識がなくても、ほぼインスタンス最適なサンプル複雑性を達成するアルゴリズムを設計する。
• 従来のペアワイズ比較から多項比較へと拡張し、比較集合サイズ $l$ の役割を定量化する。
• 好みスコアが既知であっても、サンプル複雑性の一致する下界を確立し、提案されたアルゴリズムのタイトさを証明する。
• 既存手法よりも強い理論的保証を提供し、ハードインスタンスで性能が低下することを回避する近いインスタンス最適性を示す。

提案手法

• アルゴリズムは、事前に得られた比較結果に基づき、元の好みスコアの知識を必要とせずに、最大 $l$ 個の比較集合を適応的に選択する。
• トップ-$k$アイテムとそれ以外を区別する重点的な比較に注目する、革新的なアクティブラーニング戦略を用いる。特に、$k$ 番目の順位に近いアイテムを含む比較に注力する。
• マルチノミアルロジット（MNL）モデルを活用し、アイテムの選択確率は $\exp(\mu_i)$ に比例する。ここで $\mu_i$ はアイテム $i$ の好みスコアである。
• 情報理論的議論と比較履歴を用いて誤差確率を制限することで、サンプル複雑性のタイトな解析に基づくアルゴリズム設計がなされる。
• 重要な技術的要素として、元のスコアと $i \leq k$ に対して $\theta_i = \theta_{k+1}$ となる場合の正しいトップ-$k$特定確率を比較する摂動論法を用いる。
• 理論的解析により、アルゴリズムのサンプル複雑性が情報理論的下界まで多項対数的要因の差で一致し、近いインスタンス最適性が証明される。

実験結果

リサーチクエスチョン

• RQ1 MNLモデル下で、好みスコアの事前知識がなくても、アクティブラーニングランク付けアルゴリズムがほぼインスタンス最適なサンプル複雑性を達成できるか？
• RQ2 多項比較における比較集合サイズ $l$ に伴い、サンプル複雑性はどのようにスケーリングされるか？また、ペアワイズ比較に比べて顕著な利点を提供するか？
• RQ3 好みスコアの完全なセットが既知であっても、トップ-$k$アイテムを特定するために必要な比較回数に根本的な下界は存在するか？
• RQ4 提案されたアルゴリズムは、すべてのインスタンスで良好な性能を維持できるか？また、従来手法が弱い最適性保証を持つ場合に見られるハードインスタンスでの性能低下を回避できるか？
• RQ5 ランダムまたは固定の比較戦略と比較して、適応的クエリ選択はサンプル複雑性を最小化するためにどの程度有効か？

主な発見

• 提案されたアルゴリズムは、情報理論的下界まで多項対数的要因の差で一致するサンプル複雑性を達成し、ほぼインスタンス最適であることを証明する。
• 好みスコアの完全なセットがアルゴリズムに既知であっても、サンプル複雑性の下界は成立し、そのタイトさが示される。
• アルゴリズムはすべてのインスタンスで良好に動作し、弱い最適性保証を持つ既存手法が直面するハードインスタンスでの性能低下を回避する。
• 多項比較（$l > 2$）は、インスタンスが非常に簡単でない限り、ペアワイズ比較に比べて顕著な利点を提供しないことが、サンプル複雑性のスケーリングから示された。
• 分析により、$c < 1/2$ のとき、$\frac{cn}{l}$ 回未満の比較では、トップ-$k$アイテムを $7/8$ 以上の確率で特定することは不可能であることが示され、スパarsな比較レジームにおける強い否定的結果が得られた。
• アルゴリズムは、元の好みスコアに関するいかなる知識も必要とせず、実世界の応用に実用的である。