[論文レビュー] Component-wise Markov chain Monte Carlo

Alicia A. Johnson, Galin L. Jones+1 more|arXiv (Cornell University)|Mar 4, 2009

Markov Chains and Monte Carlo Methods被引用数 12

ひとこと要約

本稿は、成分別MCMCアルゴリズム（GibbsサンプラーおよびGibbs内メトロポリス・ハスティングス法を含む）が、合成戦略、ランダムシーケンス戦略、ランダムスキャン戦略の下で、幾何的エルゴドゥシティの条件を確立する。これらの戦略が定常分布に幾何的に収束することを示し、i.i.d.サンプリングと同等の信頼性の高い推論を可能にする。

ABSTRACT

It is common practice in Markov chain Monte Carlo to update the simulation one variable (or sub-block of variables) at a time, rather than conduct a single full-dimensional update. When it is possible to draw from each full-conditional distribution associated with the target this is just a Gibbs sampler. Often at least one of the Gibbs updates is replaced with a Metropolis-Hastings step, yielding a Metropolis-Hastings-within-Gibbs algorithm. Strategies for combining component-wise updates include composition, random sequence and random scans. While these strategies can ease MCMC implementation and produce superior empirical performance compared to full-dimensional updates, the theoretical convergence properties of the associated Markov chains have received limited attention. We present conditions under which some component-wise Markov chains converge to the stationary distribution at a geometric rate. We pay particular attention to the connections between the convergence rates of the various component-wise strategies. This is important since it ensures the existence of tools that an MCMC practitioner can use to be as confident in the simulation results as if they were based on independent and identically distributed samples. We illustrate our results in two examples including a hierarchical linear mixed model and one involving maximum likelihood estimation for mixed models.

研究の動機と目的

• 実務で広く用いられている成分別MCMC戦略における理論的収束解析の不足に対処すること。
• 成分別MCMC連鎖が目標分布に幾何的に収束する十分条件を確立すること。
• 合成、ランダムシーケンス、ランダムスキャンの3つの異なる成分別戦略の収束速度を、統一的な理論的条件下で比較すること。
• 実務家がi.i.d.標本と同様にMCMC出力の信頼性を理論的に評価できるツールを提供すること。
• 階層線形混合モデルおよび混合モデルにおける最尤推定の応用を通じて理論的発見を検証すること。

提案手法

• 変数またはサブブロックをフル・コンディショナル分布を用いて逐次的に更新する成分別MCMCアルゴリズムを分析する。
• GibbsサンプラーおよびGibbs内メトロポリス・ハスティングス法によって生成されるマルコフ連鎖に対して、幾何的エルゴドゥシティの理論を適用する。
• 成分別サンプラーの遷移核が幾何的ドリフト条件およびスモールセット条件を満たす条件を導出する。
• 決定的合成、ランダムシーケンス、ランダムスキャンの3つのスキャン戦略の収束速度を比較する。
• フォスター＝リャプノフのドリフト条件およびマイノリゼーション基準を用いて、各戦略における幾何的エルゴドゥシティを確立する。
• 得られた結果を、階層線形混合モデルおよび最尤推定を伴う混合モデルの2つの実用的応用に適用する。

実験結果

リサーチクエスチョン

• RQ1 GibbsサンプラーおよびGibbs内メトロポリス・ハスティングス法を含む成分別MCMCアルゴリズムが、どのような条件下で定常分布に幾何的に収束するのか。
• RQ2 合成、ランダムシーケンス、ランダムスキャン戦略の収束速度は、幾何的エルゴドゥシティの観点でどのように比較できるか。
• RQ3 i.i.d.サンプリングにのみ利用可能であったMCMCの信頼性を評価する理論的ツールは、成分別MCMC手法へと拡張可能か。
• RQ4 フル・コンディショナル更新がメトロポリス・ハスティングスステップに置き換えられた場合、MCMCサンプラーにどのような理論的保証を提供できるか。
• RQ5 成分別MCMC戦略の収束特性は、実用的な階層モデルおよび混合モデルにおいてどのように現れるか。

主な発見

• GibbsサンプラーおよびGibbs内メトロポリス・ハスティングス法を含む成分別MCMCアルゴリズムは、やや弱い正則性条件のもとで、定常分布に幾何的に収束する。
• 前提条件が満たされている場合、合成、ランダムシーケンス、ランダムスキャン戦略の収束速度は、幾何的エルゴドゥシティの観点で同等である。
• 幾何的エルゴドゥシティにより、MCMC出力はi.i.d.標本と同等の信頼性で扱えることが保証され、信頼性の高い推論が可能になる。
• ドリフト条件およびマイノリゼーション条件を含む理論的ツールは、成分別サンプラーに適用可能であり、幾何的収束の検証に利用できる。
• 結果は、階層線形混合モデルおよび混合モデルにおける最尤推定設定において、経験的に検証された。
• 本稿は、実務で広く用いられている成分別更新が、強力な収束保証のもとで理論的に正当化可能であることを確立した。