[論文レビュー] Flexible Particle Markov chain Monte Carlo methods with an application to a factor stochastic volatility model

Eduardo Mendes, Chris Carter+2 more|arXiv (Cornell University)|Jan 8, 2014

Statistical Methods and Bayesian Inference参考文献 41被引用数 4

ひとこと要約

本稿では、粒子周辺メトロポリス法、粒子ギブス法、粒子メトロポリス・イン・ギブス法を統合した柔軟な粒子マルコフ連鎖モンテカルロ（PMCMC）フレームワークを提案する。このフレームワークは、異なるパラメータ群に対して状態に条件づけるかどうかを柔軟に選択することで、適応的サンプリングを可能にし、特に要因的確率的ボラティリティモデルにおいて強い相関が生じる状況での収束性を向上させる。

ABSTRACT

Particle Markov Chain Monte Carlo methods are used to carry out inference in non-linear and non-Gaussian state space models, where the posterior density of the states is approximated using particles. Current approaches usually perform Bayesian inference using a particle Marginal Metropolis-Hastings algorithm, a particle Gibbs sampler, or a particle Metropolis within Gibbs sampler. This paper shows how the three ways of generating variables mentioned above can be combined in a flexible manner to give sampling schemes that converge to a desired target distribution. The advantage of our approach is that the sampling scheme can be tailored to obtain good results for different applications, for example when some parameters and the states are highly correlated. We investigate the properties of this flexible sampling scheme, including conditions for uniform convergence to the posterior. We illustrate our methods with a factor stochastic volatility state space model where one group of parameters can be generated in a straightforward manner in a particle Gibbs step by conditioning on the states, and a second group of parameters are generated without conditioning on the states because of the high dependence between such parameters and the states.

研究の動機と目的

• 強いパラメータと潜在状態の相関が生じる非線形的・非ガウス的状態空間モデルにおけるMCMCサンプリングの非効率性に対処すること。
• 複数のPMCMC手法を統合した統一的なサンプリングフレームワークを構築し、混合性と収束性を向上させること。
• 提案手法が目標事後分布への一様エルゴード性と収束性を保証する条件を提供すること。
• 異なる依存構造を示すパラメータ群を有する要因的確率的ボラティリティモデルにおける手法の有効性を実証すること。

提案手法

• フレームワークは、粒子周辺メトロポリス法、粒子ギブス法、粒子メトロポリス・イン・ギブス法を統合した、適応的MCMCスキームとして統合する。
• パラメータ群の潜在状態との依存構造に応じて、異なるサンプリング戦略を適用可能にする。
• 状態と条件付き独立なパラメータに対しては、状態に条件づけない粒子ギブス法を直接適用してサンプリングする。
• 高い依存性を示すパラメータに対しては、状態に条件づけず、粒子ベースの提案分布を用いることで混合性を向上させる。
• 詳細なバランスを維持し、緩い正則性条件のもとで真の事後分布への収束を保証するように設計されている。
• 逐次モンテカルロ（SMC）を用いて、状態の周辺尤度および事後分布を近似する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、パラメータと状態の相関が高い状態空間モデルにおけるサンプリング効率を向上させるために、粒子MCMC手法を柔軟に統合できるか？
• RQ2 提案されたハイブリッドPMCMCスキームが目標事後分布への一様エルゴード性と収束性を保証するための条件は何か？
• RQ3 異なるパラメータ群に対して状態に条件づけるかどうかを柔軟に選択することで、複雑なモデルにおける混合性と収束性がどのように向上するか？
• RQ4 異なる依存構造を示すパラメータ群を有する要因的確率的ボラティリティモデルにおいて、この手法はどのように性能を発揮するか？

主な発見

• 提案された柔軟なPMCMCスキームは、パラメータと状態の依存構造に応じてサンプリング戦略を適応させることで、収束性と混合性が向上した。
• 緩い正則性条件のもとで、一様エルゴード性が保証され、目標事後分布への収束が保証された。
• 要因的確率的ボラティリティモデルにおいて、2つの異なるパラメータ群を効果的に処理した。1つは状態に条件づけて粒子ギブス法で効率的にサンプリングされ、もう1つは高い依存性のため状態に条件づけずにサンプリングされた。
• 従来のMCMC手法が混合性を妨げる強いパラメータ-状態相関が生じる状況において、ハイブリッド手法は標準的なPMCMC手法を上回る性能を示した。