[论文解读] On particle Gibbs Markov chain Monte Carlo models

Pierre Del Moral, Robert Kohn+1 more|arXiv (Cornell University)|Apr 23, 2014

Markov Chains and Monte Carlo Methods参考文献 40被引用 9

一句话总结

本文建立了一类费曼-海森测度与多体粒子系统之间的新颖对偶关系，将粒子吉布斯马尔可夫链蒙特卡洛（PMCMC）方法重新解释为路径空间上的吉布斯采样器。通过推导半群在不变测度附近的显式非渐近泰勒展开式，实现了对条件粒子采样器在时间范围和系统规模方面收敛速度、收缩系数及Lp-误差分解的精确量化估计。

ABSTRACT

This article analyses a new class of advanced particle Markov chain Monte Carlo algorithms recently introduced by Andrieu, Doucet, and Holenstein (2010). We present a natural interpretation of these methods in terms of well known unbiasedness properties of Feynman-Kac particle measures, and a new duality with many-body Feynman-Kac models. This perspective sheds a new light on the foundations and the mathematical analysis of this class of methods. A key consequence is the equivalence between the backward and ancestral particle Markov chain Monte Carlo methods, and Gibbs sampling of a many-body Feynman-Kac target distribution. Our approach also presents a new stochastic differential calculus based on geometric combinatorial techniques to derive explicit non-asymptotic Taylor type series of the semigroup of a class of particle Markov chain Monte Carlo models around their invariant measures with respect to the population size of the auxiliary particle sampler. These results provide sharp quan- titative estimates of the convergence properties of conditional particle Markov chain models with respect to the time horizon and the size of the systems. We illustrate the implication of these results with sharp estimates of the contraction coefficient and the Lyapunov exponent of conditional particle samplers, and explicit and non-asymptotic Lp-mean error decompositions of the law of the random states around the limiting invariant measure. The abstract framework developed in the article also allows the design of natural extensions to island (also called SMC2) type particle methodologies.

研究动机与目标

• 通过将粒子马尔可夫链蒙特卡洛（PMCMC）方法与费曼-海森模型及其多体扩展联系起来，为PMCMC方法提供新的概率基础。
• 建立标准费曼-海森测度与其多体对应物之间的对偶关系，从而将PMCMC重新解释为路径空间上的吉布斯采样器。
• 基于几何组合学构建随机微积分框架，推导出PMCMC模型半群在不变测度附近的非渐近泰勒型展开式。
• 为条件粒子采样器提供收敛性质的精确量化估计，包括收缩系数和李雅普诺夫指数。
• 将该框架扩展至设计新型PMCMC采样器，包括岛屿型（SMC²）方法，并分析其在种群规模与岛屿数量方面的收敛性。

提出的方法

• 引入未归一化费曼-海森测度与其多体扩展之间的对偶关系，表明条件SMC型PMCMC可简化为标准吉布斯采样器。
• 利用几何组合技术，推导出PMCMC半群在不变测度附近的显式非渐近泰勒级数展开式，参数化于辅助粒子系统的规模。
• 应用粒子系统均场近似中的无偏性性质，通过恒等式 $ \nu_n(\mathfrak{f_n}) = \mathbb{E}\left(f_n'(X_n') \prod_{0\leq p<n} G_p'(X_p')\right) = \gamma_n'(f_n') $ 将粒子系统的分布与目标费曼-海森分布联系起来。
• 在状态空间 $ \mathcal{S}_n = S_n^{[N]} $ 上构建一个双重均场粒子模型 $ \mathcal{X}_n $，其中每个 $ N $ 个岛屿各自包含 $ N' $ 个个体，从而实现粒子模型的递归嵌套构造。
• 从粒子系统的历史过程推导出路径空间费曼-海森测度 $ (\eta_n, \gamma_n) $，其中选择势函数满足 $ G_n(X_n) = G_n'(X_n') $，并将 $ \eta_n $ 在 $ S_n' $ 上的边缘分布解释为计算一般费曼-海森期望的工具。
• 将框架扩展至基于反向采样的PMCMC，并通过俄罗斯套娃式构造方法迭代构建高阶模型，从而自然推广至SMC²与岛屿型方法。

实验结果

研究问题

• RQ1 如何通过标准费曼-海森模型与多体费曼-海森模型之间的对偶性，重新解释粒子吉布斯PMCMC方法？
• RQ2 在费曼-海森目标背景下，反向采样与祖先粒子MCMC方法之间等价性的精确数学结构是什么？
• RQ3 能否在不变测度附近推导出PMCMC半群的非渐近泰勒型展开式？其揭示了何种收敛速率信息？
• RQ4 针对时间范围与系统规模，条件粒子采样器的收缩系数与李雅普诺夫指数的精确量化估计是什么？
• RQ5 该框架如何被扩展以设计并分析具有显式收敛保证的岛屿型（SMC²）粒子MCMC采样器？

主要发现

• 由于新建立的费曼-海森测度与其多体扩展之间的对偶关系，条件SMC型PMCMC方法在数学上等价于辅助粒子系统路径空间上的标准吉布斯采样器。
• 本文推导出PMCMC半群在不变测度附近的显式非渐近泰勒型级数展开式，参数化于辅助粒子采样器的种群规模。
• 这些展开式为条件粒子采样器的收敛性质提供了精确的量化估计，包括收缩系数与李雅普诺夫指数的上界。
• 该框架提供了粒子系统随机状态围绕极限不变测度的显式、非渐近 $ \mathbb{L}_p $-均误差分解。
• 对偶性与随机微积分框架自然支持了新型PMCMC采样器的设计，包括岛屿型（SMC²）模型，并具备严格的收敛性分析。
• 该构造支持粒子模型的递归嵌套扩展（俄罗斯套娃式），其收敛性可基于岛屿数 $ N $ 与每岛屿个体数 $ N' $ 进行分析。