[論文レビュー] Probabilistic preference learning with the Mallows rank model

Valeria Vitelli, Øystein Sørensen+3 more|arXiv (Cornell University)|May 30, 2014

Game Theory and Voting Systems参考文献 64被引用数 18

ひとこと要約

本稿では、任意の右不変距離関数を用いたマルコフ連鎖モンテカルロ（MCMC）手法を用いて、計算的に効率的なベイズ推論フレームワークをマラス順序モデルに提案する。このフレームワークにより、任意の右不変距離関数を用いた確率的順序付け学習が可能となり、完全順位、部分順位、およびペアワイズ順位付けをサポートし、不確実性を定量化するとともに、異なる共通順位を持つサブグループに異質な評価者をクラスタリングする。理論的保証として、順位付けのないアイテムは共通順位に影響しないことが示されている。

ABSTRACT

Ranking and comparing items is crucial for collecting information about preferences in many areas, from marketing to politics. The Mallows rank model is among the most successful approaches to analyse rank data, but its computational complexity has limited its use to a particular form based on Kendall distance. We develop new computationally tractable methods for Bayesian inference in Mallows models that work with any right-invariant distance. Our method performs inference on the consensus ranking of the items, also when based on partial rankings, such as top-k items or pairwise comparisons. We prove that items that none of the assessors has ranked do not influence the maximum a posteriori consensus ranking, and can therefore be ignored. When assessors are many or heterogeneous, we propose a mixture model for clustering them in homogeneous subgroups, with cluster-specific consensus rankings. We develop approximate stochastic algorithms that allow a fully probabilistic analysis, leading to coherent quantifications of uncertainties. We make probabilistic predictions on the class membership of assessors based on their ranking of just some items, and predict missing individual preferences, as needed in recommendation systems. We test our approach using several experimental and benchmark datasets.

研究の動機と目的

• 標準的なケンダール距離にとどまらない、任意の右不変距離関数を用いたマラス順序モデルにおける計算的に実行可能なベイズ推論手法の開発。
• 不完全なデータ（トップ-k順位やペアワイズ比較を含む）からの共通順位に関する確率的推論を可能にする。
• 各クラスタ固有の共通順位と分散パラメータを持つ、評価者を同質なサブグループにクラスタリングすることによる異質な評価者のモデリング。
• 共通順位、クラスタ所属、欠落した順位付けの不確実性を、事後分布を用いて定量化する。
• 順位付けのないアイテムが事後分布における最大事後確率共通順位に影響しないことを証明し、データの圧縮と効率化を可能にする。

提案手法

• 任意の右不変距離関数を用いたマラス分布からのサンプリングに、ジャンプアンドシフト型メトロポリス・ハスティングスMCMCアルゴリズムを適用。
• 評価者を同質なサブグループにクラスタリングするため、マラス分布の混合モデルを採用。各クラスタには固有の共通順位と分散パラメータを設定。
• 確率的整合性を保ちつつ大規模データセットへのスケーリングを実現するため、近似的な確率的アルゴリズムを適用。
• 部分順位やペアワイズ比較からの制約を提案生成段階で尊重する、新規のMCMCサンプラーを導入。
• クラスタ内比にディリクレ事前分布を適用し、ギブスサンプリングにより同時にクラスタ所属と順位を推定。
• 事後分布からの独立サンプルを保存するためのスリムイング（thinning）を実装。これによりMCMCチェインの収束性と混合性が保証される。

実験結果

リサーチクエスチョン

• RQ1 任意の右不変距離関数（ケンダール距離に限らない）に対して、マラスモデルにおけるベイズ推論が計算的に実行可能となるか。
• RQ2 データが不完全または部分的である場合、共通順位の不確実性を整合的に定量化できるか。
• RQ3 評価者がアイテムの部分集合しか順位付けしない場合でも、異なる好みのパターンを持つサブグループに意味的にクラスタリング可能か。
• RQ4 事後分布において、順位付けのないアイテムが推定された共通順位にどの程度影響を及ぼすか。
• RQ5 部分順位や順位付けの欠落を考慮した場合、モデルが欠落した順位付けを予測し、新しい評価者のクラスタ分類を可能にするか。

主な発見

• 最大事後確率共通順位は、どの評価者からも順位付けのないアイテムに依存しない。これにより、データのプルーニングが効率的に行える。
• 提案されたMCMCアルゴリズムは、合成データおよび実世界のデータセット（ベンチマーク順位付け学習タスクを含む）において、良好な混合性と収束性を示した。
• クラスタ固有の共通順位を持つ混合モデルは、異質な順位付けデータにおいて同質なサブグループを効果的に同定し、予測精度を向上させた。
• 部分順位やペアワイズ比較からの情報でさえも、欠落した順位付けの完全な確率的予測と、評価者のクラスタ所属の確率的推定が可能である。
• 共通順位とクラスタ所属における不確実性の定量化が可能であり、これは推薦システムにおける信頼性の高い意思決定に不可欠である。
• 実験的およびベンチマークデータセットを用いた実証的評価により、本手法のロバストネスとスケーラビリティが、トップ-kやペアワイズ順位付けデータを含むさまざまなデータタイプにおいて確認された。