[論文レビュー] Retrospective Markov chain Monte Carlo methods for Dirichlet process hierarchical model

Omiros Papaspiliopoulos, Gareth O. Roberts|ArXiv.org|Oct 23, 2007

Bayesian Methods and Mixture Models参考文献 29被引用数 9

ひとこと要約

本稿では、有限次元近似を用いないことで、ディリクレ過程階層モデルに対する正確な事後分布シミュレーションを可能にする、後向きに記録するマルコフ連鎖モンテカルロ（MCMC）アルゴリズムを導入する。後向きサンプリングを活用することで、無限次元のディリクレ過程の成分を明示的に補完する必要がなくなり、特に多モーダルな事後分布において、標準的な条件付き手法と比較して混合性が向上し、自己相関が低減される。

ABSTRACT

Inference for Dirichlet process hierarchical models is typically performed using Markov chain Monte Carlo methods, which can be roughly categorised into marginal and conditional methods. The former integrate out analytically the infinite-dimensional component of the hierarchical model and sample from the marginal distribution of the remaining variables using the Gibbs sampler. Conditional methods impute the Dirichlet process and update it as a component of the Gibbs sampler. Since this requires imputation of an infinite-dimensional process, implementation of the conditional method has relied on finite approximations. In this paper we show how to avoid such approximations by designing two novel Markov chain Monte Carlo algorithms which sample from the exact posterior distribution of quantities of interest. The approximations are avoided by the new technique of retrospective sampling. We also show how the algorithms can obtain samples from functionals of the Dirichlet process. The marginal and the conditional methods are compared and a careful simulation study is included, which involves a non-conjugate model, different datasets and prior specifications.

研究の動機と目的

• 標準的な条件付き手法で用いられる有限次元近似を回避する、ディリクレ過程階層モデルに対する正確なMCMCアルゴリズムの開発。
• 割り当て変数、成分パラメータ、重み、および確率測度の関数の正確な事後分布シミュレーションの実現。
• ラベル交換問題と条件付きギブスサンプリングで生じる多モーダルな事後分布の探索困難を、後向きサンプリングによって克服すること。
• 非共役設定における、提案された後向きMCMC手法と既存の周辺化および条件付きMCMCアルゴリズムの性能比較。
• 後向きサンプリングが、特に複雑な事後分布の形状を持つ場合に、統合自己相関時間（IAT）を低く抑え、より効率的なサンプリングを実現することの確認。

提案手法

• 無限次元のディリクレ過程成分を明示的な補完なしにシミュレートするための後向きサンプリング技術を提案。これは、変数をそれらの事後分布の連合分布に基づいて条件付きに生成することで実現される。
• ディリクレ過程のスティック・ブレーキング表現（$ p_j = (1 - V_1)\times\text{...}\times(1 - V_{j-1})V_j $、$ V_j \sim \text{Be}(1,\alpha) $）を用い、$ (p,Z) $ の直接サンプリングを回避するための後向きシミュレーションを適用する。
• 割り当て変数 $ K_i $、成分パラメータ $ Z_j $、重み $ p_j $ の条件付き分布を導出し、連合事後分布構造を活用して正確なギブス更新を可能にする。
• 特にクラスタラベルの同定不能性が問題となる多モーダルな事後分布において、混合性を向上させるためにラベル交換移動を導入する。
• MCMCの効率を比較するための指標として、統合自己相関時間（IAT）を用い、$ L \ll N $ のラグに基づく和の計算による推定を実施する。
• FORTRAN 77でアルゴリズムを実装し、$ N = 2 \times 10^6 $ 個のモンテカルロ標本を用いて、周辺化手法（ノーガップス、ニールのアルゴリズム7および8）と比較した。

実験結果

リサーチクエスチョン

• RQ1 後向きサンプリングを用いることで、有限次元近似を避けて、ディリクレ過程階層モデルに対する正確なMCMCアルゴリズムを構築できるか？
• RQ2 統合自己相関時間（IAT）および混合効率の観点から、後向きMCMC手法は周辺化および条件付きMCMCアルゴリズムと比較して、どのように性能を発揮するか？
• RQ3 後向き手法は、標準的な条件付きギブスサンプリングと比較して、ラベル交換問題を軽減し、多モーダルな事後分布の探索性を向上させるか？
• RQ4 後向きアルゴリズムの計算コストは、濃度パラメータ $ \alpha $ に対してどのようにスケーリングされるか？また、既存手法と比較してどうなるか？
• RQ5 後向きアプローチは、ディリクレ過程を超える一般のスティック・ブレーキング事前分布へ拡張可能か？その際、正確なシミュレーションに必要な条件付き独立構造を保持できるか？

主な発見

• 後向きMCMCアルゴリズムは、有限次元近似を一切用いずに正確な事後分布シミュレーションを実現し、ディリクレ過程および確率測度 $ P $ の関数の正確な推論を可能にする。
• 特にラベル交換が混合性を妨げる多モーダルな事後分布において、標準的な条件付きギブスサンプリングと比較して、統合自己相関時間が顕著に短縮される。
• 事後分布空間の探索性が向上するため、反復あたりの有効サンプルサイズ（ESS）が標準的な条件付きアプローチを上回り、IATが低くなる。
• ラベル交換移動は、後向きアルゴリズムにおける混合性を著しく向上させ、ラベルの同定不能性が収束に与える影響を軽減する。
• 後向きアルゴリズムの計算時間は $ \alpha $ に比例して増加するが、$ \alpha = 1 $ の場合、ニールのアルゴリズム7やノーガップス法と同等の性能を示す。
• 周辺化手法（例：ニールのアルゴリズム7および8）は、$ (p,Z) $ の多モーダルな事後分布を探索しないため、IATの観点で条件付きアプローチを上回る。これは、複雑なモデルにおいて後向き手法の主な利点である。