[論文レビュー] On particle Gibbs Markov chain Monte Carlo models

Pierre Del Moral, Robert Kohn+1 more|arXiv (Cornell University)|Apr 23, 2014

Markov Chains and Monte Carlo Methods参考文献 40被引用数 9

ひとこと要約

本稿は、フェ Feynman-Kac 測度と多体粒子系の間の新規双対性を確立し、粒子ギブス・マルコフ連鎖モンテカルロ（PMCMC）手法を経路空間上のギブスサンプリングとして再解釈する。不変測度の周囲における半群の明示的非漸近的テイラー展開を導出し、時間区間および系のサイズに関して、条件付き粒子サンプリングの収束速度、収縮係数、および Lp-誤差分解の鋭い定量的推定を可能にする。

ABSTRACT

This article analyses a new class of advanced particle Markov chain Monte Carlo algorithms recently introduced by Andrieu, Doucet, and Holenstein (2010). We present a natural interpretation of these methods in terms of well known unbiasedness properties of Feynman-Kac particle measures, and a new duality with many-body Feynman-Kac models. This perspective sheds a new light on the foundations and the mathematical analysis of this class of methods. A key consequence is the equivalence between the backward and ancestral particle Markov chain Monte Carlo methods, and Gibbs sampling of a many-body Feynman-Kac target distribution. Our approach also presents a new stochastic differential calculus based on geometric combinatorial techniques to derive explicit non-asymptotic Taylor type series of the semigroup of a class of particle Markov chain Monte Carlo models around their invariant measures with respect to the population size of the auxiliary particle sampler. These results provide sharp quan- titative estimates of the convergence properties of conditional particle Markov chain models with respect to the time horizon and the size of the systems. We illustrate the implication of these results with sharp estimates of the contraction coefficient and the Lyapunov exponent of conditional particle samplers, and explicit and non-asymptotic Lp-mean error decompositions of the law of the random states around the limiting invariant measure. The abstract framework developed in the article also allows the design of natural extensions to island (also called SMC2) type particle methodologies.

研究の動機と目的

• フェ Feynman-Kac モデルおよびその多体拡張と関連付けることで、粒子マルコフ連鎖モンテカルロ（PMCMC）手法の新しい確率的基盤を提供すること。
• 標準的フェ Feynman-Kac 測度とその多体版との間の双対性を確立し、PMCMC を経路空間上のギブスサンプラーとして再解釈すること。
• 幾何的組合せ論に基づく確率的微積分の枠組みを構築し、PMCMC モデルの半群をその不変測度の周囲で非漸近的テイラー型展開を導出すること。
• 条件付き粒子サンプリングの収束特性—収縮係数やリャプノフ指数を含む—の鋭い定量的推定を提供すること。
• 島型（SMC²）手法を含む新しいクラスの PMCMC サンプラーの設計をフレームワークに統合し、集団サイズおよび島の数に関して収束性を分析すること。

提案手法

• 未規格化フェ Feynman-Kac 測度とその多体拡張との間の双対関係を導入し、条件付き SMC 型 PMCMC が標準的ギブスサンプラーに帰着することを示す。
• 幾何的組合せ技法を用いて、補助粒子系のサイズをパrameterとする、PMCMC 半群の不変測度の周囲における明示的非漸近的テイラー級数展開を導出する。
• 平均場粒子近似の不偏性特性を応用し、粒子系の分布とターゲットのフェ Feynman-Kac 分布との間の関係を、恒等式 $ \nu_n(\mathfrak{f_n}) = \mathbb{E}\left(f_n'(X_n') \prod_{0\leq p<n} G_p'(X_p')\right) = \gamma_n'(f_n') $ を通じて結びつける。
• 状態空間 $ \mathcal{S}_n = S_n^{[N]} $ 上に、$ N $ 個の島がそれぞれ $ N' $ 個の個体で進化する双対平均場粒子モデル $ \mathcal{X}_n $ を構築し、再帰的・ネスト型の粒子モデル構築を可能にする。
• 粒子系の歴史的過程から経路空間フェ Feynman-Kac 測度 $ (\eta_n, \gamma_n) $ を導出し、選択ポテンシャルを $ G_n(X_n) = G_n'(X_n') $ と定義する。また、$ \eta_n $ の $ S_n' $-周辺分布を一般フェ Feynman-Kac期待値の計算ツールとして解釈する。
• フレームワークをバックワードサンプリングに基づく PMCMC に拡張し、ルーマニアのネストドール構造を用いた反復的高次モデル構築により、SMC²-および島型手法への自然な拡張を可能にする。

実験結果

リサーチクエスチョン

• RQ1 粒子ギブス PMCMC 手法は、標準的および多体フェ Feynman-Kac モデル間の双対性によってどのように再解釈可能か？
• RQ2 フェ Feynman-Kac ターゲットの文脈において、バックワードサンプリングと祖先粒子 MCMC 手法の等価性を裏付ける明確な数学的構造は何か？
• RQ3 PMCMC 半群を不変測度の周囲で非漸近的テイラー型展開として導出可能か？ その展開は収束速度に何を明らかにするか？
• RQ4 時間区間および系のサイズに関して、条件付き粒子サンプリングの収縮係数およびリャプノフ指数の鋭い定量的推定は何か？
• RQ5 このフレームワークは、明示的な収束保証を伴う島型（SMC²）粒子 MCMC サンプラーの設計・分析にどのように拡張可能か？

主な発見

• 補助粒子系の経路空間上の標準的ギブスサンプラーに等価である条件付き SMC 型 PMCMC 法は、フェ Feynman-Kac 測度とその多体版との間の新しく確立された双対性のおかげで成立する。
• 本稿は、補助粒子サンプラーの集団サイズをパrameterとする、PMCMC 半群の不変測度の周囲における明示的非漸近的テイラー型級数展開を導出する。
• これらの展開により、条件付き粒子サンプリングの収束特性に関する鋭い定量的推定が得られ、収縮係数およびリャプノフ指数の境界が得られる。
• フレームワークは、極限不変測度の周囲における確率的状態の分布の $ \mathbb{L}_p $-平均誤差分解を明示的に提供する。
• 双対性および確率的微積分の枠組みは、自然に新しいクラスの PMCMC サンプラー（島型（SMC²）モデルを含む）の設計を可能にし、厳密な収束解析を可能にする。
• この構成により、再帰的・ネスト型の粒子モデル拡張（ルーマニアのネストドール型）が可能となり、島の数 $ N $ および島ごとの個体数 $ N' $ の両面から収束特性を分析できる。