[论文解读] Stratification and Optimal Resampling for Sequential Monte Carlo

Yichao Li, Wenshuo Wang+2 more|arXiv (Cornell University)|Apr 4, 2020

Markov Chains and Monte Carlo Methods参考文献 29被引用 4

一句话总结

本文提出基于希尔伯特曲线的分层重采样方法，用于序列蒙特卡洛（SMC）方法，证明其可降低多维设置下的重采样方差，并提升收敛速度。研究证明，当 d > 1 时，使用 n 个粒子的序列准蒙特卡洛方法的均方误差可达到 O(n^{-1-4/[d(d+4)]})，这是首个低于 o(n^{-1}) 的已知收敛速率。

ABSTRACT

Sequential Monte Carlo (SMC), also known as particle filters, has been widely accepted as a powerful computational tool for making inference with dynamical systems. A key step in SMC is resampling, which plays the role of steering the algorithm towards the future dynamics. Several strategies have been proposed and used in practice, including multinomial resampling, residual resampling (Liu and Chen 1998), optimal resampling (Fearnhead and Clifford 2003), stratified resampling (Kitagawa 1996), and optimal transport resampling (Reich 2013). We show that, in the one dimensional case, optimal transport resampling is equivalent to stratified resampling on the sorted particles, and they both minimize the resampling variance as well as the expected squared energy distance between the original and resampled empirical distributions; in the multidimensional case, the variance of stratified resampling after sorting particles using Hilbert curve (Gerber et al. 2019) in $\mathbb{R}^d$ is $O(m^{-(1+2/d)})$, an improved rate compared to the original $O(m^{-(1+1/d)})$, where $m$ is the number of resampled particles. This improved rate is the lowest for ordered stratified resampling schemes, as conjectured in Gerber et al. (2019). We also present an almost sure bound on the Wasserstein distance between the original and Hilbert-curve-resampled empirical distributions. In light of these theoretical results, we propose the stratified multiple-descendant growth (SMG) algorithm, which allows us to explore the sample space more efficiently compared to the standard i.i.d. multiple-descendant sampling-resampling approach as measured by the Wasserstein metric. Numerical evidence is provided to demonstrate the effectiveness of our proposed method.

研究动机与目标

• 通过降低高维状态空间中的方差并提升收敛速度，提高序列蒙特卡洛（SMC）方法中重采样的效率。
• 研究当粒子在 R^d 中通过希尔伯特空间填充曲线排序时，分层重采样的理论性质。
• 为结合希尔伯特曲线重采样时序列准蒙特卡洛（SQMC）的改进收敛速率建立理论基础。
• 证明最优传输重采样在单维情况下等价于对排序粒子进行分层重采样，二者均可最小化重采样方差和能量距离。
• 利用希尔伯特曲线排序，为原始与重采样经验分布之间的 Wasserstein 距离提供几乎必然的界。

提出的方法

• 在 R^d 中使用希尔伯特曲线对粒子排序后应用分层重采样，以保持空间结构并提升采样效率。
• 证明基于希尔伯特曲线的重采样粒子方差衰减速率为 O(m^{-(1+2/d)})，优于无序分层重采样的标准速率 O(m^{-(1+1/d)})。
• 建立最优传输重采样与单维排序粒子上分层重采样的等价性，二者均可最小化重采样方差和期望平方能量距离。
• 推导出原始分布与希尔伯特曲线重采样经验分布之间 Wasserstein 距离的几乎必然界。
• 将希尔伯特曲线重采样与低 discrepancy 序列结合，使序列准蒙特卡洛的均方误差达到 O(n^{-1-4/[d(d+4)]})。
• 采用矩阵重采样框架将重采样推广至不等权重情况，并在目标密度与提议密度满足 Lipschitz 连续性和有界性条件下分析方差。

实验结果

研究问题

• RQ1 基于希尔伯特曲线的重采样是否能降低多维 SMC 中的重采样方差？若能，降低幅度如何？
• RQ2 当使用希尔伯特曲线重采样粒子与低 discrepancy 序列结合时，序列准蒙特卡洛的理论收敛速率是多少？
• RQ3 最优传输重采样是否等价于单维排序粒子上的分层重采样？二者是否均可最小化重采样方差与能量距离？
• RQ4 通过希尔伯特曲线对粒子进行空间排序，与标准分层重采样相比，如何影响重采样方差？
• RQ5 所提出的重采样方案是否能在高维 SMC 设置中实现低于 o(n^{-1}) 的均方误差速率？

主要发现

• 在一维情况下，最优传输重采样等价于对排序粒子进行分层重采样，二者均可最小化重采样方差和期望平方能量距离。
• 当 d > 1 时，基于希尔伯特曲线的重采样粒子方差衰减速率为 O(m^{-(1+2/d)})，优于无序分层重采样标准速率 O(m^{-(1+1/d)})。
• 改进后的方差速率 O(m^{-(1+2/d)}) 是有序分层重采样方案中可达到的最低速率，证实了 Gerber 等人（2019）的猜想。
• 建立了原始分布与希尔伯特曲线重采样经验分布之间 Wasserstein 距离的几乎必然界。
• 当与特定低 discrepancy 集合结合时，使用希尔伯特曲线重采样的序列准蒙特卡洛可实现均方误差 O(n^{-1-4/[d(d+4)]})，这是首个已知低于 o(n^{-1}) 的速率。
• 在 d=2 的随机波动率模型中，模拟结果表明经验 MSE 斜率趋近于 -4/3，与理论速率 O(n^{-1-4/[2(2+4)]}) = O(n^{-1-1/3}) = O(n^{-4/3}) 一致。