[論文レビュー] On embedded hidden Markov models and particle Markov chain Monte Carlo methods

Axel Finke, Randal Douc+1 more|arXiv (Cornell University)|Oct 27, 2016

Markov Chains and Monte Carlo Methods参考文献 19被引用数 8

ひとこと要約

本稿は、埋め込み型隠れマルコフモデル（EHMM）と粒子マルコフ連鎖モンテカルロ（PMCMC）手法の間の形式的関係を確立し、両者が一般化されたPMCMCフレームワークの下で統一可能であることを示している。新たな粒子フィルタ型アルゴリズムおよびMCMCスキームを提案し、状態およびパrameterの推論を実現しており、局所的なメトロポリス・ハスティングス移動を最適に調整した条件付き粒子フィルタが、高次元状態空間モデルにおいて標準フィルタを著しく上回ることを示している。

ABSTRACT

The embedded hidden Markov model (EHMM) sampling method is a Markov chain Monte Carlo (MCMC) technique for state inference in non-linear non-Gaussian state-space models which was proposed in Neal (2003); Neal et al. (2004) and extended in Shestopaloff and Neal (2016). An extension to Bayesian parameter inference was presented in Shestopaloff and Neal (2013). An alternative class of MCMC schemes addressing similar inference problems is provided by particle MCMC (PMCMC) methods (Andrieu et al. 2009; 2010). All these methods rely on the introduction of artificial extended target distributions for multiple state sequences which, by construction, are such that one randomly indexed sequence is distributed according to the posterior of interest. By adapting the Metropolis-Hastings algorithms developed in the framework of PMCMC methods to the EHMM framework, we obtain novel particle filter (PF)-type algorithms for state inference and novel MCMC schemes for parameter and state inference. In addition, we show that most of these algorithms can be viewed as particular cases of a general PF and PMCMC framework. We compare the empirical performance of the various algorithms on low- to high-dimensional state-space models. We demonstrate that a properly tuned conditional PF with "local" MCMC moves proposed in Shestopaloff and Neal (2016) can outperform the standard conditional PF significantly when applied to high-dimensional state-space models while the novel PF-type algorithm could prove to be an interesting alternative to standard PFs for likelihood estimation in some lower-dimensional scenarios.

研究の動機と目的

• 非線形的かつ非ガウス型の状態空間モデルにおけるベイズ推論に関して、EHMMとPMCMC手法の関係を形式化すること。
• PMCMC技術をEHMMフレームワークに適応させることで、新たな粒子フィルタおよびMCMCアルゴリズムを開発すること。
• EHMMとPMCMC手法が、より広範な統一的PMCMCフレームワークの特殊ケースであることを示すこと。
• 提案されたアルゴリズムの実証的性能を、低次元および高次元状態空間モデルにおいて評価すること。
• 高次元設定において、局所的にチューニングされた条件付き粒子フィルタが、標準フィルタを上回ることを示すこと。

提案手法

• EHMMとPMCMC手法を統合する一般化された拡張済み目標分布を導出する。
• PMCMCメトロポリス・ハスティングスアルゴリズムをEHMMフレームワークに適応させ、新たなMCMCおよび粒子フィルタ型アルゴリズムを生成する。
• 一般化されたPMCMCフレームワーク内に、後向きサンプリングおよび祖先サンプリングを導入する。
• シェストパロフとニール（2016年）が提案したように、局所的メトロポリス・ハスティングス移動を含む条件付き粒子フィルタを適用し、高次元モデルにおける混合性を向上させる。
• 粒子のマージナル・メトロポリス・ハスティングス（PMMH）および粒子ギブス（PG）サンプラーを、統一フレームワークの基盤として用いる。
• 後向きサンプリングおよび祖先リサンプリングを用いて、粒子ベースのMCMCスキームの効率性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 EHMMとPMCMC手法は、単一の一般化PMCMCフレームワークの下で正式に統一可能か？
• RQ2 高次元状態空間モデルにおいて、EHMMとPMCMCアルゴリズムの性能特性はどのように比較されるか？
• RQ3 条件付き粒子フィルタにおける局所的メトロポリス・ハスティングス移動は、高次元において混合性を著しく向上させ、重みの崩壊を軽減できるか？
• RQ4 この統一フレームワーク内において、後向きサンプリングおよび祖先サンプリングが、粒子ベースのMCMCアルゴリズムの効率性を向上させる役割を果たすか？
• RQ5 本フレームワークから導出された新しい粒子フィルタ型アルゴリズムは、低次元モデルにおける尤度推定のための標準PFの有効な代替手段となるか？

主な発見

• 局所的なメトロポリス・ハスティングス移動を最適にチューニングした条件付き粒子フィルタは、高次元状態空間モデルにおいて、標準の条件付き粒子フィルタを著しく上回り、重みの崩壊を顕著に低減する。
• 局所的移動を用いたMCMC粒子フィルタの実効サンプルサイズ（ESS）は、標準フィルタよりも顕著に高く、混合性の向上と自己相関の低減を示している。
• 局所的移動スキームにおけるMHカーネルの受容率は1未満であり、これは非i.i.d.な提案であり、標準フィルタとは異なり、より優れた探索性を示している。標準フィルタでは常に100％の受容率を示す。
• 標準ブートストラップ粒子フィルタに基づくギブスサンプラーは、事後分布のサポートを十分に探索できず、実効自己相関が低く、混合性が悪い結果をもたらした。
• カーネル密度推定の結果、標準PFを用いたPGサンプラーは、固定反復回数内では適切に収束せず、混合性が悪いことが示された。
• 提案されたフレームワークは、EHMMとPMCMC手法を成功裏に統一し、両者のクラスに対して一貫した理論的構造の下で後向きサンプリングおよび祖先サンプリングを可能にした。