[论文解读] On Feynman-Kac and particle Markov chain Monte Carlo models

Pierre Del Moral, Robert Kohn+1 more|arXiv (Cornell University)|Apr 23, 2014

Markov Chains and Monte Carlo Methods被引用 1

一句话总结

本文提出了一种新颖的费曼-费曼-卡茨（Feynman-Kac）与粒子马尔可夫链蒙特卡洛（PMCMC）框架，通过吉布斯采样多体费曼-卡茨目标，建立了反向与祖先PMCMC方法之间的对偶性。该框架利用几何组合随机微积分，推导出半群在不变测度附近的显式、非渐近的泰勒型展开式，从而得到收敛速率、收缩系数、李雅普诺夫指数以及关于时间范围和系统规模的条件粒子采样器的Lp-均值误差分解的精确定量估计。

ABSTRACT

This article analyses a new class of advanced particle Markov chain Monte Carlo algorithms recently introduced by Andrieu, Doucet, and Holenstein (2010). We present a natural interpretation of these methods in terms of well known unbiasedness properties of Feynman-Kac particle measures, and a new duality with many-body Feynman-Kac models. This perspective sheds a new light on the foundations and the mathematical analysis of this class of methods. A key consequence is the equivalence between the backward and ancestral particle Markov chain Monte Carlo methods, and Gibbs sampling of a many-body Feynman-Kac target distribution. Our approach also presents a new stochastic differential calculus based on geometric combinatorial techniques to derive explicit non-asymptotic Taylor type series of the semigroup of a class of particle Markov chain Monte Carlo models around their invariant measures with respect to the population size of the auxiliary particle sampler. These results provide sharp quan- titative estimates of the convergence properties of conditional particle Markov chain models with respect to the time horizon and the size of the systems. We illustrate the implication of these results with sharp estimates of the contraction coefficient and the Lyapunov exponent of conditional particle samplers, and explicit and non-asymptotic Lp-mean error decompositions of the law of the random states around the limiting invariant measure. The abstract framework developed in the article also allows the design of natural extensions to island (also called SMC2) type particle methodologies.

研究动机与目标

• 通过费曼-卡茨粒子测度为高级粒子马尔可夫链蒙特卡洛（PMCMC）算法建立理论基础。
• 通过与多体费曼-卡茨模型的对偶性，阐明PMCMC方法的数学结构。
• 推导出关于时间范围和系统规模的条件粒子采样器的非渐近收敛估计。
• 基于几何组合技术，发展一种用于分析粒子半群的随机微积分框架。
• 在所提出的抽象框架内，支持扩展方法的设计，如岛屿型（SMC2）粒子算法。

提出的方法

• 作者通过无偏费曼-卡茨粒子测度的视角解释PMCMC方法，将其与已知的概率性质相联系。
• 通过证明其与多体费曼-卡茨目标分布的吉布斯采样等价性，建立了反向与祖先PMCMC方法之间的对偶性。
• 发展了一套几何组合随机微积分，以推导出粒子半群在不变测度附近的显式、非渐近的泰勒型级数展开。
• 该框架使得能够推导出条件粒子采样器的收缩系数与李雅普诺夫指数的精确、非渐近估计。
• 该方法提供了相对于极限不变测度的随机状态分布的显式Lp-均值误差分解。
• 所提出的抽象框架被扩展以支持自然推广，包括岛屿型（SMC2）类粒子方法。

实验结果

研究问题

• RQ1 反向与祖先粒子马尔可夫链蒙特卡洛方法之间存在何种基本对偶性？
• RQ2 如何利用费曼-卡茨粒子测度来解释并统一PMCMC算法？
• RQ3 能否针对其不变测度，推导出粒子PMCMC模型半群的非渐近展开式？
• RQ4 条件粒子采样器的收缩系数与李雅普诺夫指数如何随时间范围和系统规模变化？
• RQ5 相对于不变测度，状态分布的显式、非渐近Lp-均值误差分解是什么？

主要发现

• 通过与多体费曼-卡茨目标分布的吉布斯采样对偶性，反向与祖先PMCMC方法在形式上等价。
• 几何组合随机微积分使得粒子半群在不变测度附近的显式、非渐近泰勒型级数展开成为可能。
• 针对时间范围和系统规模，推导出条件粒子采样器的收缩系数与李雅普诺夫指数的精确、非渐近估计。
• 获得了相对于极限不变测度的随机状态分布的显式、非渐近Lp-均值误差分解。
• 该框架支持对岛屿型（SMC2）类粒子方法的自然推广，从而拓展了算法应用范围。
• 研究结果为分析条件粒子马尔可夫链模型的收敛性质提供了严格且量化的理论基础。