[論文レビュー] Particle Metropolis adjusted Langevin algorithms for state space models

Christopher Nemeth, Paul Fearnhead|arXiv (Cornell University)|Feb 4, 2014

Markov Chains and Monte Carlo Methods参考文献 33被引用数 8

ひとこと要約

本稿では、状態空間モデルにおける粒子メトロポリス補正ランジュバンアルゴリズム（pMALA）を提案する。この手法は、粒子フィルタから得られる勾配推定値を活用することで、MCMCサンプリングの効率を向上させる。ネメスら（2013）の計算的に効率的な手法を用いて勾配情報を統合することで、標準的なランダムウォークメトロポリス提案と比較して自己相関を低減し、バーンイン期間を短くし、二乗ジャンプ距離を増加させる。

ABSTRACT

Particle MCMC is a class of algorithms that can be used to analyse state-space models. They use MCMC moves to update the parameters of the models, and particle filters to propose values for the path of the state-space model. Currently the default is to use random walk Metropolis to update the parameter values. We show that it is possible to use information from the output of the particle filter to obtain better proposal distributions for the parameters. In particular it is possible to obtain estimates of the gradient of the log posterior from each run of the particle filter, and use these estimates within a Langevin-type proposal. We propose using the recent computationally efficient approach of Nemeth et al. (2013) for obtaining such estimates. We show empirically that for a variety of state-space models this proposal is more efficient than the standard random walk Metropolis proposal in terms of: reducing autocorrelation of the posterior samples, reducing the burn-in time of the MCMC sampler and increasing the squared jump distance between posterior samples.

研究の動機と目的

• 状態空間モデルにおけるパラメータ推定のMCMC効率を向上させること。
• 粒子MCMCにおける標準的ランダムウォークメトロポリス提案の限界を解消すること。
• 粒子フィルタからの勾配情報を活用して、より優れた提案分布を構築すること。
• 事後分布サンプリングにおける自己相関とバーンイン期間を低減すること。
• 事後分布サンプル間の二乗ジャンプ距離を増加させ、混合効率を向上させること。

提案手法

• 各反復において、粒子フィルタを用いて事後分布の対数の勾配を推定する。
• ネメスら（2013）の計算的に効率的な勾配推定手法を採用し、計算負荷を低減する。
• これらの勾配推定値を、パラメータ更新用のランジュバン型提案分布に統合する。
• 粒子メトロポリス補正MCMCフレームワークとランジュバンダイナミクスを組み合わせ、提案品質を向上させる。
• 得られた提案分布を用いてモデルパラメータを更新しつつ、詳細釣り合いを維持する。
• 正確な事後分布サンプリングを保証するため、メトロポリス・ハスティングス補正を用いる。

実験結果

リサーチクエスチョン

• RQ1 粒子フィルタからの勾配推定値は、状態空間モデルにおけるMCMCサンプリングの効率を向上させ得るか？
• RQ2 提案されたpMALA手法は、標準的ランダムウォークメトロポリスと比較して、自己相関低減にどの程度寄与するか？
• RQ3 pMALA手法は、事後分布サンプリングにおけるバーンイン期間をどの程度短縮するか？
• RQ4 勾配情報の使用は、事後分布サンプル間の二乗ジャンプ距離を増加させるか？
• RQ5 提案手法は、多様な状態空間モデル構造にわたってスケーラブルかつ有効であるか？

主な発見

• 提案されたpMALA手法は、標準的ランダムウォークメトロポリスと比較して、事後分布サンプルの自己相関を低減する。
• この手法により、MCMCサンプラーのバーンイン期間が短縮され、収束が早くなる。
• 事後分布サンプル間の二乗ジャンプ距離が増加しており、混合効率の向上が示唆される。
• 粒子フィルタからの勾配推定値の使用は、計算コストの大幅な増加を伴わずに提案品質を向上させる。
• 実験的結果から、複数の状態空間モデルにおいて一貫した性能向上が確認された。
• メトロポリス・ハスティングス補正により正確な事後分布サンプリングを維持しつつ、サンプリングダイナミクスを改善した。