[論文レビュー] Particle Gibbs with Ancestor Sampling

Fredrik Lindsten, Michael I. Jordan+1 more|arXiv (Cornell University)|Jan 3, 2014

Bayesian Methods and Mixture Models参考文献 31被引用数 122

ひとこと要約

本稿では、1回の前方祖先サンプリングステップに置き換えることでバックワード・シミュレーションを排除し、状態空間モデルにおける混合性を向上させる、粒子マルコフ連鎖モンテカルロ法である「祖先サンプリングを用いた粒子ギブス」（PGAS）を提案する。PGASは、少数の粒子でも高速な混合性を達成でき、非マルコフ型および複雑な確率的モデルにおいても効率的な推論を可能にし、PGBSと比較して精度と頑健性に優れる。

ABSTRACT

Particle Markov chain Monte Carlo (PMCMC) is a systematic way of combining the two main tools used for Monte Carlo statistical inference: sequential Monte Carlo (SMC) and Markov chain Monte Carlo (MCMC). We present a novel PMCMC algorithm that we refer to as particle Gibbs with ancestor sampling (PGAS). PGAS provides the data analyst with an off-the-shelf class of Markov kernels that can be used to simulate the typically high-dimensional and highly autocorrelated state trajectory in a state-space model. The ancestor sampling procedure enables fast mixing of the PGAS kernel even when using seemingly few particles in the underlying SMC sampler. This is important as it can significantly reduce the computational burden that is typically associated with using SMC. PGAS is conceptually similar to the existing PG with backward simulation (PGBS) procedure. Instead of using separate forward and backward sweeps as in PGBS, however, we achieve the same effect in a single forward sweep. This makes PGAS well suited for addressing inference problems not only in state-space models, but also in models with more complex dependencies, such as non-Markovian, Bayesian nonparametric, and general probabilistic graphical models.

研究の動機と目的

• 少数の粒子を用いた順序付きモンテカルロ（SMC）におけるパスの劣化により、粒子ギブス（PG）サンプラーの混合性が著しく低下する問題に対処すること。
• 明示的なバックワードパスを必要とせずに、PGBSにおけるバックワード・シミュレーションの利点を達成する手法の開発。これにより、非マルコフ型依存性を有する複雑なモデルへの適用が可能になること。
• 高次元の状態軌道推論のための統一的で即戦力のMCMCカーネルを提供すること。
• SMCに基づくMCMCの計算負荷を軽減し、少数の粒子で高速な混合性を実現すること。
• 非マルコフ型モデルにおける誤差を最小限に抑えるための新しい切断戦略の提案、特にPGBSとの比較において優れた性能を発揮すること。

提案手法

• PGASは、祖先サンプリングを用いた1回の前方スキャンによるSMCを用いて、PGBSにおけるバックワード・シミュレーションステップを置き換えたマーカフ核を構築する。
• 祖先サンプリングは、各時刻における重みと遷移確率に基づいて、粒子の祖先を再サンプリングすることで、軌道の多様性を向上させる。
• アルゴリズムは、ターゲット事後分布が核に対して不変となることを保証しており、MCMC連鎖の正当性を維持する。
• 粒子軌道は前方に伝搬され、SMC重みと提案密度から導かれる条件付き確率に基づいて、祖先インデックスが再サンプリングされる後方互換性のあるSMCフレームワークを採用する。
• 非マルコフ型モデルに対しては、計算コストを低減しつつ誤差を制御するための新しい切断戦略を組み込む。
• 理論的分析により、PGASカーネルの一様エルゴード性が確立され、強収束保証が得られる。

実験結果

リサーチクエスチョン

• RQ1 1回の前方スキャンにおける祖先サンプリングは、明示的なバックワードパスを必要とせずに、バックワード・シミュレーションと同等の混合性の向上を達成できるか？
• RQ2 非マルコフ型モデルにおいて少数の粒子を用いた場合、PGASはPGBSに比べて混合性と精度で優れるか？
• RQ3 PGASは、標準的な状態空間モデルをはるかに超えた複雑な依存性を持つモデル、例えばベイズ非パラメトリックモデルや一般確率的グラフィカルモデルに適用可能か？
• RQ4 非マルコフ型モデルにおけるPGASを用いた推論において、切断戦略の影響は計算コストと精度にどのように現れるか？
• RQ5 一般モデル仮定のもとで、PGASは一様エルゴード性と理論的正当性を維持できるか？

主な発見

• 数値実験において、PGASはPGBSに比べて最大1桁の高い精度を達成し、特に少数の粒子を用いた場合に顕著である。
• 祖先サンプリング手順により、少数の粒子でもマーカフ核の高速な混合性が実現され、SMCに基づくMCMCの計算負荷が顕著に低減される。
• PGASはPGBSに比べて切断誤差が著しく小さく、切断の影響がはるかに弱い。
• 理論的分析により、PGASは一様エルゴードなマーカフ核を生成することが確認され、強収束特性が保証される。
• 本手法は非マルコフ型の潜在変数モデルに適用可能であり、標準的な状態空間モデルを超えた粒子MCMCの適用範囲を拡張する。
• 単一の前方スキャン構造のおかげで、PGASはベイズ非パラメトリックモデルや一般確率的グラフィカルモデルなどの複雑なモデルにおいても効率的な推論を可能にする。