[论文解读] Uniform Ergodicity of the Iterated Conditional SMC and Geometric Ergodicity of Particle Gibbs Samplers

Christophe Andrieu, Anthony Lee+1 more|arXiv (Cornell University)|Dec 22, 2013

Markov Chains and Monte Carlo Methods参考文献 24被引用 6

一句话总结

本文为状态空间模型中的迭代条件SMC（i-cSMC）和粒子吉布斯（PGibbs）采样器建立了统一和几何遍历性的条件。证明了潜在函数的本性有界性是i-cSMC统一遍历性的必要且充分条件，且随着粒子数N的增加，收敛速率得以提升；这些结果可推广至PGibbs采样器，表明其具有几何遍历性，并且当N增大时收敛于真实的吉布斯采样器。

ABSTRACT

We establish quantitative bounds for rates of convergence and asymptotic variances for iterated conditional sequential Monte Carlo (i-cSMC) Markov chains and associated particle Gibbs samplers. Our main findings are that the essential boundedness of potential functions associated with the i-cSMC algorithm provide necessary and sufficient conditions for the uniform ergodicity of the i-cSMC Markov chain, as well as quantitative bounds on its (uniformly geometric) rate of convergence. This complements more straightforward results for the particle independent Metropolis--Hastings (PIMH) algorithm. Our results for i-cSMC imply that the rate of convergence can be improved arbitrarily by increasing N, the number of particles in the algorithm, and that in the presence of mixing assumptions, the rate of convergence can be kept constant by increasing N linearly with the time horizon. Neither of these phenomena are observed for the PIMH algorithm. We translate the sufficiency of the boundedness condition for i-cSMC into sufficient conditions for the particle Gibbs Markov chain to be geometrically ergodic and quantitative bounds on its geometric rate of convergence. These results complement recently discovered, and related, conditions for the particle marginal Metropolis-- Hastings (PMMH) Markov chain. This is joint work with Anthony Lee and Matti Vihola.

研究动机与目标

• 为迭代条件SMC（i-cSMC）和粒子吉布斯（PGibbs）采样器建立收敛速率和渐近方差的定量边界。
• 识别i-cSMC马尔可夫链统一遍历性的必要且充分条件，特别是潜在函数的本性有界性。
• 将i-cSMC的遍历性条件转化为PGibbs采样器几何遍历性的充分条件。
• 证明通过增加粒子数N可任意提升PGibbs的性能，并且在时间跨度缩放下收敛速率可保持不变。
• 将i-cSMC和PGibbs的收敛特性与PIMH和PMMH进行比较，突出i-cSMC和PGibbs在N增大时的优越可扩展性。

提出的方法

• 开发了一种对‘双重条件’SMC算法下归一化常数估计期望的非渐近分析。
• 利用耦合论证和测度论工具，推导出i-cSMC马尔可夫链统一几何收敛速率的定量边界。
• 证明在温和正则性条件下，i-cSMC的统一遍历性成立当且仅当潜在函数是本性有界的。
• 通过基于耦合的论证，将有界性条件转化为PGibbs采样器几何遍历性的充分条件。
• 通过将其性能与理想吉布斯链相联系，分析PGibbs链收敛于真实吉布斯采样器的过程。
• 将i-cSMC和PGibbs算法与PIMH和PMMH进行比较，强调i-cSMC和PGibbs的收敛速率随N增加而提升，而PIMH和PMMH则不然。

实验结果

研究问题

• RQ1 在何种条件下，迭代条件SMC（i-cSMC）马尔可夫链是统一遍历的？
• RQ2 潜在函数的本性有界性是否为i-cSMC统一遍历性的必要且充分条件？
• RQ3 当i-cSMC的有界性条件成立时，是否可保证粒子吉布斯（PGibbs）采样器的几何遍历性？
• RQ4 i-cSMC和PGibbs的收敛速率如何依赖于粒子数N？在时间跨度增长时，是否可实现收敛速率的改善或稳定？
• RQ5 i-cSMC和PGibbs的收敛特性与PIMH和PMMH相比如何，特别是在N增加时的可扩展性方面？

主要发现

• 当且仅当潜在函数是本性有界时，i-cSMC马尔可夫链是统一遍历的，且在许多实际应用中，该条件对几何遍历性而言既是必要也是充分的。
• 通过增加粒子数N，可使i-cSMC链的收敛速率任意加快，且收敛速率的定量边界以N为参数给出。
• 在混合性假设成立时，通过将N与时间跨度T线性增加，可使i-cSMC的收敛速率保持恒定。
• 若潜在函数是本性有界的，则粒子吉布斯采样器是几何遍历的，且其收敛特性随N增加而趋近于真实吉布斯采样器。
• 与PIMH和PMMH不同，后两者的收敛速率不随N增加而提升，而i-cSMC和PGibbs采样器的收敛速率随N增大而改善，使其在大规模推断中更具可扩展性。
• PGibbs下估计的渐近方差随N → ∞收敛于真实吉布斯采样器的渐近方差，且定理27提供了定量边界。