[論文レビュー] Accelerating pseudo-marginal Metropolis-Hastings by correlating auxiliary variables

Johan Dahlin, Fredrik Lindsten+2 more|arXiv (Cornell University)|Nov 17, 2015

Markov Chains and Monte Carlo Methods参考文献 36被引用数 23

ひとこと要約

本稿では、疑似周辺化メトロポリス・ハスティングス（pmMH）アルゴリズムにおいて、補助変数をクランク・ニコルソン（CN）提案分布を用いて相関付けることで、マルコフ連鎖の混合性を向上させるとともに計算コストを低減する手法を提案する。繰り返しにわたる補助変数間に正の相関を導入することにより、1回の反復あたりの粒子数を減らしてもサンプリング効率を維持または向上させることができ、実験モデルではCN提案分布のスケールσᵤ = 0.55で最適な性能が得られた。

ABSTRACT

Pseudo-marginal Metropolis-Hastings (pmMH) is a powerful method for Bayesian inference in models where the posterior distribution is analytical intractable or computationally costly to evaluate directly. It operates by introducing additional auxiliary variables into the model and form an extended target distribution, which then can be evaluated point-wise. In many cases, the standard Metropolis-Hastings is then applied to sample from the extended target and the sought posterior can be obtained by marginalisation. However, in some implementations this approach suffers from poor mixing as the auxiliary variables are sampled from an independent proposal. We propose a modification to the pmMH algorithm in which a Crank-Nicolson (CN) proposal is used instead. This results in that we introduce a positive correlation in the auxiliary variables. We investigate how to tune the CN proposal and its impact on the mixing of the resulting pmMH sampler. The conclusion is that the proposed modification can have a beneficial effect on both the mixing of the Markov chain and the computational cost for each iteration of the pmMH algorithm.

研究の動機と目的

• 独立な補助変数提案によって引き起こされる疑似周辺化メトロポリス・ハスティングス（pmMH）アルゴリズムの混合性の悪さを是正すること。
• 補助変数（例：粒子）の数を減らすことでpmMHの計算コストを低減し、同時に連鎖の混合性を損なわないようにすること。
• 尤度が解析的に求められないモデルにおいて、補助変数に時間的相関を導入することでサンプリング効率を向上させること。
• 標準pmMHの代替として実用的でチューニングが少ない手法を提供することを目的とし、独立な提案分布の代わりにCNに基づく相関のある提案分布を採用すること。

提案手法

• 補助変数の標準的な独立提案分布を、繰り返し間に正の相関を生じるクランク・ニコルソン（CN）提案分布に置き換えること。
• u' = √(1 - σᵤ²) * u + σᵤ * z の形をとるCN提案分布を用い、標準正規分布に従うzを用いて相関のある補助変数を生成すること。
• θと相関のあるuを含む拡張されたターゲット分布に対して、標準pmMHアルゴリズムを適用し、尤度をパーティクルフィルタリングまたは重要度サンプリングにより推定すること。
• 受容率と統合自己相関時間（IACT）のバランスをとるために、CN提案分布のスケールσᵤをチューニングすること。
• 複数回のモンテカルロ実験を用いて、状態空間モデルにおける事後分布推定値、トレースプロット、IACT指標を用いて性能を評価すること。
• 独立な補助変数を用いる標準pmMHと比較し、混合性と計算コストの観点から提案手法の性能を検証すること。

実験結果

リサーチクエスチョン

• RQ1 CN提案分布による補助変数の相関導入が、pmMHアルゴリズムの混合性を向上させることができるか？
• RQ2 提案手法により、1反復あたりの粒子数を減らしても、連鎖の混合性を維持または向上させることができるか？
• RQ3 実用的な状況において、CN提案分布の最適なスケーリングパラメータσᵤは何か？また、そのパラメータが性能に与える影響は？
• RQ4 計算コストとサンプリング効率の観点から、提案手法は標準pmMHと比較してどのように異なるか？
• RQ5 尤度が解析的に求められないモデル（例：状態空間モデル）に対しても、CNに基づく相関戦略は効果的に適用可能か？

主な発見

• 提案されたCNベースのpmMH手法は、独立な補助変数を用いる標準pmMHと比較して、統合自己相関時間（IACT）を約1.5倍改善した。
• テストした状態空間モデルでは、σᵤ = 0.55で最適な性能が得られ、全パラメータにおける最大IACTが最小化された。
• CN提案分布を用いることで、全パラメータにおいて中央値受容率とIACTが顕著に改善された。
• 本手法により、粒子数（Nu）を減らしても良好な混合性を維持できるため、1反復あたりの計算コストが著しく低減された。
• 提案手法からの事後分布推定値は良好にキャリブレーションされており、推定事後平均はμ = 0.19、φ = 0.98、σᵥ = 0.18、ρ = -0.70であり、それぞれ標準誤差は0.22、0.01、0.04、0.09であった。
• 対数尤度推定値の標準偏差は1.2であったが、最適なσᵤは理論的予測値の0.9とは乖離しており、モデル依存のチューニングや尤度推定値の正規性の欠如が示唆された。