[论文解读] CONVERGENCE OF SEQUENTIAL MONTE CARLO-BASED SAMPLING METHODS

Jonathan H. Huggins, Daniel M. Roy|arXiv (Cornell University)|Mar 3, 2015

Target Tracking and Data Fusion in Sensor Networks参考文献 19被引用 7

一句话总结

本文通过分析目标后验分布与期望 SMC 近似之间的 Kullback-Leibler 散度，建立了顺序蒙特卡洛（SMC）采样方法的收敛速率。文中引入了 1-ESS 有效样本量，并提出自适应条件 SMC 提议机制，从而为自适应 SMC 和粒子 Gibbs 采样器提供了可证明的收敛界。

ABSTRACT

Originally designed for state-space models, Sequential Monte Carlo (SMC) methods are now routinely applied in the context of general-purpose Bayesian inference. Traditional analyses of SMC algorithms have focused on their application to estimating expectations with respect to intractable distri- butions such as those arising in Bayesian analysis. However, these algorithms can also be used to obtain approximate samples from a posterior distribution of interest. We investigate the asymptotic and non-asymptotic convergence rates of SMC from this sampling viewpoint. In particular, we study the ex- pectation of the particle that SMC produces as the number of particles tends to innity. This \expected approximation is equivalent to the law of a sample drawn from the SMC approximation. We give convergence rates of the Kullback-Leibler divergence between the target and the expected approximation. Our results apply to both deterministic and adaptive resam- pling schemes. In the adaptive setting, we introduce a novel notion of eective sample size, the 1-ESS, and show that controlling this quantity ensures sta- bility of the SMC sampling algorithm. We also introduce an adaptive version of the conditional SMC proposal, which allows us to prove quantitative bounds for rates of convergence for adaptive versions of iterated conditional sequential Monte Carlo Markov chains and associated adaptive particle Gibbs samplers.

研究动机与目标

• 分析 SMC 方法在后验分布采样中的收敛性，而不仅限于期望估计。
• 推导期望 SMC 近似相对于真实后验的渐近与非渐近收敛速率。
• 提出一种新颖的有效样本量度量 1-ESS，以稳定自适应 SMC 算法。
• 开发一种自适应条件 SMC 提议机制，使迭代 SMC 和粒子 Gibbs 采样器能够获得定量收敛界。
• 将理论保证扩展至基于 SMC 的自适应重采样与提议机制。

提出的方法

• 将期望 SMC 近似视为 SMC 输出样本的分布，将其视为一个随机测度。
• 使用 Kullback-Leibler 散度来量化目标后验与期望 SMC 近似之间的距离。
• 引入 1-ESS，一种新的有效样本量度量，以控制自适应重采样中的稳定性。
• 提出一种自适应版本的条件 SMC 提议机制，以改善迭代 SMC 和粒子 Gibbs 设置下的收敛性。
• 利用新提议机制与 1-ESS，推导出自适应迭代条件 SMC 和粒子 Gibbs 采样器的定量收敛界。
• 将该框架应用于确定性和自适应重采样方案，确保理论上的稳健性。

实验结果

研究问题

• RQ1 当 SMC 方法用于从后验分布中采样时，其收敛速率如何？
• RQ2 随着粒子数量的增加，期望 SMC 近似的行为如何？
• RQ3 一种新颖的有效样本量度量 1-ESS 是否能确保自适应 SMC 算法的稳定性？
• RQ4 提议机制需满足何种条件，才能保证自适应 SMC 和粒子 Gibbs 采样器的收敛性？
• RQ5 能否为自适应迭代条件 SMC 和粒子 Gibbs 方法建立定量收敛界？

主要发现

• 随着粒子数量的增加，目标后验与期望 SMC 近似之间的 Kullback-Leibler 散度以可量化的速率收敛。
• 1-ESS 有效样本量度量通过控制重采样行为，确保了自适应 SMC 算法的稳定性。
• 自适应条件 SMC 提议机制使迭代条件 SMC 和粒子 Gibbs 采样器能够获得可证明的收敛界。
• 已为确定性和自适应重采样方案建立了收敛速率，理论保证扩展至自适应设置。
• 该框架为 SMC 作为通用贝叶斯推断中采样方法的使用提供了理论基础，而不仅限于期望估计。
• 结果适用于 SMC 算法的广泛类别，包括状态空间模型和通用贝叶斯推断中的应用。