[論文レビュー] Inductive Pairwise Ranking: Going Beyond the n log(n) Barrier

U. N. Niranjan, Arun Rajkumar|arXiv (Cornell University)|Feb 9, 2017

Multi-Criteria Decision Making被引用数 6

ひとこと要約

本稿では、特徴量情報を活用して、特徴低ランク（FLR）モデル下での証明可能にサンプル効率の良い順序付けを達成する、帰納的ペairワイズ順序付け（IPR）アルゴリズムを提案する。ノイズを含む帰納的行列補完と近似ペアワイズ順序付けを組み合わせることで、標準的な Ω(n log n) の壁を超えて、最小限のペアワイズ比較で、サンプル複雑度を Ω(log n) まで低減し、実世界の設定における効率を顕著に向上させる。

ABSTRACT

We study the problem of ranking a set of items from nonactively chosen pairwise preferences where each item has feature information with it. We propose and characterize a very broad class of preference matrices giving rise to the Feature Low Rank (FLR) model, which subsumes several models ranging from the classic Bradley-Terry-Luce (BTL) (Bradley and Terry 1952) and Thurstone (Thurstone 1927) models to the recently proposed blade-chest (Chen and Joachims 2016) and generic low-rank preference (Rajkumar and Agarwal 2016) models. We use the technique of matrix completion in the presence of side information to develop the Inductive Pairwise Ranking (IPR) algorithm that provably learns a good ranking under the FLR model, in a sample-efficient manner. In practice, through systematic synthetic simulations, we confirm our theoretical findings regarding improvements in the sample complexity due to the use of feature information. Moreover, on popular real-world preference learning datasets, with as less as 10% sampling of the pairwise comparisons, our method recovers a good ranking.

研究の動機と目的

• アイテムの特徴（側面情報）が利用可能であるが、標準的手法がそれを効率的に活用しない帰納的設定において、ペアワイズ比較からの順序付けの課題に対処すること。
• 比較ベースのソートの古典的下界である Ω(n log n) を下回る、必要なペアワイズ比較回数を削減する、証明可能にサンプル効率の良いアルゴリズムの開発。
• BTL、サブスクリプション、blade-chest、および一般低ランク好みモデルを統一的かつ一般化的に扱える、単一の特徴低ランク（FLR）フレームワークに統合すること。
• 理論的および実験的証明を通じて、特徴情報の統合が、特に高次元だが低ランクの設定において、サンプル複雑度の顕著な向上をもたらすことを示すこと。
• トレーニング後に未観測のアイテムへの一般化を可能とすること。これは、レコメンデーションシステムや製品選定などの実用的順序付けアプリケーションにおいて重要な要件である。

提案手法

• IPRアルゴリズムは、アイテム特徴を側面情報として用いて、部分的に観測されたペアワイズ比較から好み行列を推定する、ノイズを含む帰納的行列補完を用いる。
• 好み行列を特徴に依存する低ランク空間における低ランク行列としてモデル化し、背後にある好み構造が特徴依存の低ランク行列によって支配されていると仮定する。
• 特徴行列の低ランク因子分解を通じて特徴相関を活用する、同時にアイテムスコアを推定する正則化された最適化フレームワークを採用する。
• 2段階アプローチを採用する：まず、特徴正則化付きの行列補完で好み行列を推定する。次に、推定された行列から近似ペアワイズ順序付けサブルーチンを用いて順序付けを計算する。
• モデルの複雑度を制御し一般化を保証するため、特異値しきい値処理と核ノルム正則化を用いる。
• 帰納的行列補完理論の道具を用いて理論的保証を導出し、高確率で ε-精度の回復が O(max(log n / ε², d⁴ log³n / (ε³n²))) のペアワイズ比較で達成可能であることを示す。

実験結果

リサーチクエスチョン

• RQ1 ペアワイズ順序付けの証明可能に効率の良いアルゴリズムを設計可能か？ その際、アイテム特徴を活用して Ω(n log n) の壁を超えるサンプル複雑度の低減を達成できるか？
• RQ2 好みモデルに特徴相関を組み込むことで、合成的および実世界の順序付けタスクにおいて、サンプル効率が向上するか？
• RQ3 提案されたIPRアルゴリズムは、非帰納的手法とは異なり、トレーニング後に未観測のアイテムへ一般化可能か？
• RQ4 ペアワイズ比較の10%しか利用できない状況で、IPRの性能は非帰納的ベースライン（LRPR）と比べてどうなるか？
• RQ5 BTL、サブスクリプション、blade-chest などの既存モデルは、FLRのような特徴ベースのモデルによってどれだけ一般化可能か？

主な発見

• 実世界のデータセット（Sushi や Car）において、ペアワイズ比較のサンプリングをわずか10%に抑えた場合でも、IPRアルゴリズムは高品質な順序付けを回復し、非帰納的ベースラインを上回る性能を示す。
• 合成データでは、比較回数（m）、1組あたりの比較回数（K）、特徴次元（d）の変動にかかわらず、IPRは非帰納的アルゴリズムである LRPR を一貫して上回る。
• IPRの理論的サンプル複雑度は O(max(log n / ε², d⁴ log³n / (ε³n²))) であり、d ≪ n の場合、O(log n) まで低減可能で、古典的 n log n の壁を破る。
• Sushiデータセットでは、5回の実行すべてでIPRがトップ4の料理（例：'amaebi' と 'ikura'）をトップ4順位に回復するが、LRPRは一貫してその達成に失敗する。
• Carデータセットでは、IPRはセダンがSUVよりも好まれる、および非ハイブリッド車がハイブリッド車よりも好まれるという、既知の実世界の傾向を正しく捉えている。
• 真のランクが不明で、トレンケーションが省略された状況でも、IPRは依然として LRPR を上回る性能を示し、モデルの誤指定に対しても頑健であることを示している。