[論文レビュー] Bayesian nonparametric models for ranked data

François Caron, Yee Whye Teh|arXiv (Cornell University)|Nov 19, 2012

Bayesian Methods and Mixture Models参考文献 22被引用数 12

ひとこと要約

本稿では、無限個のアイテムを含むプールに対してガンマ過程事前分布を用いたベイジアン非パラメトリックなプラケット・ルースモデルの拡張を提案する。これにより、無限大の選択肢集合を想定した推論が可能になる。後部分布のシミュレーションのための取り扱いやすいギブスサンプラーを導出しており、ニューヨーク・タイムズのベストセラーなど動的順位付けデータへの応用において、時間に依存するアイテムの好みの変化を不確実性の評価とともにうまく捉えている。

ABSTRACT

We develop a Bayesian nonparametric extension of the popular Plackett-Luce choice model that can handle an infinite number of choice items. Our framework is based on the theory of random atomic measures, with the prior specified by a gamma process. We derive a posterior characterization and a simple and effective Gibbs sampler for posterior simulation. We develop a time-varying extension of our model, and apply it to the New York Times lists of weekly bestselling books.

研究の動機と目的

• 有限のプラケット・ルース選択モデルを無限個の潜在的アイテムを扱えるように拡張するベイジアン非パラメトリックモデルの開発。
• 完全に無作為な測度を用いてモデルを形式化し、特にアイテム評価を表す原子測度にガンマ過程事前分布を適用する。
• 静的および動的設定の両方において、後部分布の特徴付けと計算的に効率的なギブスサンプラーの導出。
• 連続時間のダウソン＝ワタナベスーパープロセスを用いて時間に依存する順位付けをモデル化し、実世界のベストセラーデータにフレームワークを適用する。
• アイテム重みの不確実性評価を可能とし、ベストセラーの急激な入れ替わりのような構造的変化を検出できるようにする。

提案手法

• アイテムのプールとその魅力度評価を、$ w_k $ を評価値、$ X_k $ をアイテムとするランダムな原子測度 $ G = \sum_{k=1}^{\infty} w_k \delta_{X_k} $ でモデル化する。
• 測度 $ G $ に対する事前分布としてガンマ過程 $ \Gamma(\alpha, \tau, H) $ を用い、正規化された測度がディリクレ過程に従うようにする。
• 部分順位の観測値が与えられたもとで、$ G $ の後部分布を導出する際、正規化プロセスを分離するために補助変数を導入する。
• 共役更新を用いて、アイテム重み、潜在変数、未観測アイテムの総重みを繰り返し更新するギブスサンプラーを構築する。
• 離散時間モデルの遷移核を用いて、連続時間のダウソン＝ワタナベスーパープロセスを用いて、時間に依存するデータにモデルを拡張する。
• 2008年から2012年までの週次ニューヨーク・タイムズベストセラーリストにモデルを適用し、アイテム重みが時間とともに変化すると仮定し、時定数の相関パラメータ $ \phi $ を時不変として扱う。

実験結果

リサーチクエスチョン

• RQ1 プラケット・ルースモデルは、順位付けデータにおける無限個の潜在的アイテムを扱うためにどのように拡張できるか？
• RQ2 ガンマ過程のような非パラメトリック事前分布のもとで、アイテム評価の後部分布はどのような形か？
• RQ3 この無限次元設定において、後部推論のための取り扱いやすいMCMCアルゴリズムを導出できるか？
• RQ4 本モデルは、ベストセラーリストで観察されるような順位付けの時間に依存するダイナミクスをどのように捉えることができるか？
• RQ5 本モデルは、ベストセラーの急激な入れ替わりのような構造的特徴をどの程度捉えることができるか。また、出版時期の要因をどのように調整できるか？

主な発見

• 本モデルは、トップ20リストに登場したすべての書籍の正規化された重み、および未観測の書籍に割り当てられる合計重み（図3の黒線で示される）をうまく推定している。
• ペーパーバックノンフィクション（PN）カテゴリでは、推定された相関パラメータ $ \phi $ は $ 85 \pm 20 $ であり、ハードカバー小説よりも遅い時間的依存性を示している。
• ハードカバー小説（HF）カテゴリでは $ \phi = 140 \pm 40 $ であり、順位付けの変化が速く、ランキングの入れ替えが激しいことを反映している。
• 形状母数 $ \alpha $ はPNでは $ 7 \pm 1.5 $、HFでは $ 2 \pm 1 $ と推定され、PNでは未観測アイテムに対する重い尾を持つ事前分布であることが示された。
• 本モデルはアイテム重みに対する不確実性評価を提供しており、めったに現れない書籍に対しても信頼性の高い順位推定が可能である。
• 本モデルの連続的なサンプルパスは、出版日以前の段階で急激な上昇を捉える能力に制限があるが、著者らは出版日以前の書籍を除外することでこの問題に対処している。