[論文レビュー] MCMC for non-Linear State Space Models Using Ensembles of Latent Sequences

Alexander Y. Shestopaloff|arXiv (Cornell University)|Jan 1, 2014

Markov Chains and Monte Carlo Methods参考文献 7被引用数 10

ひとこと要約

本稿では、非線形状態空間モデルにおけるベイジアン推論のための効率的なMCMC手法を提案する。この手法は、単一の系列ではなく、潜在系列の集合を活用することで、サンプリング効率を著しく向上させる。この手法は、ニールのアンサンブル技術と埋め込みHMMを組み合わせており、単一系列手法に比べて1.9〜12.0倍の高い効率を達成し、Rickerの人口動態モデルでは部分的後向きパスを用いることで最大20.4倍の効率向上を達成する。

ABSTRACT

Non-linear state space models are a widely-used class of models for biological, economic, and physical processes. Fitting these models to observed data is a difficult inference problem that has no straightforward solution. We take a Bayesian approach to the inference of unknown parameters of a non-linear state model; this, in turn, requires the availability of efficient Markov Chain Monte Carlo (MCMC) sampling methods for the latent (hidden) variables and model parameters. Using the ensemble technique of Neal (2010) and the embedded HMM technique of Neal (2003), we introduce a new Markov Chain Monte Carlo method for non-linear state space models. The key idea is to perform parameter updates conditional on an enormously large ensemble of latent sequences, as opposed to a single sequence, as with existing methods. We look at the performance of this ensemble method when doing Bayesian inference in the Ricker model of population dynamics. We show that for this problem, the ensemble method is vastly more efficient than a simple Metropolis method, as well as 1.9 to 12.0 times more efficient than a single-sequence embedded HMM method, when all methods are tuned appropriately. We also introduce a way of speeding up the ensemble method by performing partial backward passes to discard poor proposals at low computational cost, resulting in a final efficiency gain of 3.4 to 20.4 times over the single-sequence method. This research has been done jointly with Radford M. Neal.

研究の動機と目的

• 非線形状態空間モデルにおけるベイジアン推論の課題に取り組む。これは、複雑な潜在変数の依存関係のため、明確な解法が存在しないからである。
• 潜在変数およびモデルパラメータのMCMC効率を向上させるために、単一系列のサンプリングから脱却し、アンサンブルベースの更新に移行する。
• 低コストで劣悪な提案を早期に破棄する部分的後向きパスを導入することで、計算性能を向上させる。
• 実世界の非線形系、具体的には人口動態のRickerモデルを対象として、手法の性能を評価する。
• 有効サンプルサイズ/計算時間という観点から、アンサンブルベースMCMCが、標準メトロポリス法および単一系列埋め込みHMM法を上回ることを示す。

提案手法

• 本手法は、ニールのアンサンブル技術を用いて、MCMCサンプリング中に多数の潜在系列を維持し、より頑健なパラメータ更新を可能にする。
• ニール（2003）の埋め込みHMMフレームワークを統合し、非線形モデルにおける潜在状態間の遷移確率を効率的に計算する。
• パラメータの更新は、潜在系列の全アンサンブルに条件づけて行われるため、提案品質が向上し、ランダムウォーク的挙動が軽減される。
• 部分的後向きパス機構を導入し、低品質な提案を早期に評価・破棄することで、無駄な計算を削減する。
• アルゴリズムは、提案受容率と計算コストのバランスを最適化するように調整され、単位時間あたりの有効サンプルサイズを最大化する。
• 本手法は、知られている推論の難しさを有する非線形人口動態モデル、すなわちRickerモデルに適用される。

実験結果

リサーチクエスチョン

• RQ1 単一の系列ではなく、潜在系列のアンサンブルを用いることで、非線形状態空間モデルにおけるMCMCサンプリング効率を著しく向上させることができるか？
• RQ2 適切にチューニングされた状態で、提案されたアンサンブルMCMC手法は、標準メトロポリス法および単一系列埋め込みHMM法に比べてどの程度効率的か？
• RQ3 部分的後向きパスは、サンプリング品質を損なわせることなく、計算コストをどの程度削減できるか？
• RQ4 Rickerモデルのような強い状態依存ダイナミクスを示す挑戦的な非線形系において、アンサンブル手法は混合性および収束性を維持または向上させるか？
• RQ5 既存の単一系列アプローチに比べ、本手法が達成可能な最大の効率向上はどの程度か？

主な発見

• Rickerモデルにおいて、アンサンブルMCMC手法はチューニング済みの単一系列埋め込みHMM手法に比べ、1.9〜12.0倍の高い効率を達成する。
• 標準メトロポリス法と比較すると、潜在系列アンサンブルによる提案品質の向上のおかげで、アンサンブルアプローチは著しく効率的である。
• 部分的後向きパスの導入により、計算コストが削減され、結果として単一系列手法に比べ3.4〜20.4倍の最終的効率向上が達成される。
• Rickerモデルでは、混合性および収束性が向上し、強い状態依存ダイナミクスを示す非線形系においても有効である。
• 高次元の潜在状態空間においても、単位時間あたりの有効サンプルサイズが高く維持される。
• 結果から、複数の潜在系列を活用することで、複雑な非線形状態空間モデルにおけるMCMC性能が著しく向上することが確認された。