[论文解读] Variance Estimation in Adaptive Sequential Monte Carlo

Qiming Du, Arnaud Guyader|arXiv (Cornell University)|Sep 30, 2019

Markov Chains and Monte Carlo Methods参考文献 14被引用 5

一句话总结

本文在自然假设下建立了李与惠特利的方差估计器在自适应顺序蒙特卡洛（ASMC）方法中的的一致性，表明其渐近方差与非自适应的“极限”SMC算法的方差一致。作者提出了一种基于共祖树的估计器，该估计器源自粒子谱系，将其与现有方法关联，并在单次模拟运行中实现自适应设置下的方差估计。

ABSTRACT

Sequential Monte Carlo (SMC) methods represent a classical set of techniques to simulate a sequence of probability measures through a simple selection/mutation mechanism. However, the associated selection functions and mutation kernels usually depend on tuning parameters that are of first importance for the efficiency of the algorithm. A standard way to address this problem is to apply Adaptive Sequential Monte Carlo (ASMC) methods, which consist in exploiting the information given by the history of the sample to tune the parameters. This article is concerned with variance estimation in such ASMC methods. Specifically, we focus on the case where the asymptotic variance coincides with the one of the "limiting" Sequential Monte Carlo algorithm as defined by Beskos et al. (2016). We prove that, under natural assumptions, the estimator introduced by Lee and Whiteley (2018) in the nonadaptive case (i.e., SMC) is also a consistent estimator of the asymptotic variance for ASMC methods. To do this, we introduce a new estimator that is expressed in terms of coalescent tree-based measures, and explain its connection with the previous one. Our estimator is constructed by tracing the genealogy of the associated Interacting Particle System. The tools we use connect the study of Particle Markov Chain Monte Carlo methods and the variance estimation problem in SMC methods. As such, they may give some new insights when dealing with complex genealogy-involved problems of Interacting Particle Systems in more general scenarios.

研究动机与目标

• 为解决广泛使用但缺乏可靠不确定性量化工具的自适应顺序蒙特卡洛（ASMC）方法中一致方差估计的缺失问题。
• 将李与惠特利的非自适应方差估计器扩展至自适应设置，其中调优参数基于粒子历史进行更新。
• 在自然假设下证明自适应SMC算法的渐近方差与非自适应的“极限”SMC算法一致。
• 提出一种基于共祖树的新型方差估计器，追踪粒子系统的谱系结构，并与现有估计器建立联系。
• 提供连接粒子马尔可夫链蒙特卡洛与SMC中方差估计的理论工具，具有更广泛的应用潜力。

提出的方法

• 提出一种基于共祖树的方差估计器，用于追踪ASMC中相互作用粒子系统（IPS）的谱系结构。
• 使用共祖测度 $ \bar{\Gamma}_{n}^{(p)} $ 定义该估计器，其表示从时间 $ p $ 的共同祖先在时间 $ n $ 衍生出的粒子的联合分布。
• 在非自适应情形下，建立新共祖估计器与李与惠特利（2018）提出的逐项估计器之间的联系。
• 利用费曼-卡斯半群理论与对偶公式，分析自适应框架中方差估计器的渐近行为。
• 在ASMC算法满足温和正则性与稳定性假设的条件下，证明估计器的几乎必然收敛性与一致性。
• 提出一种基于固定滞后 $ H $ 的截断方差估计器，仅使用近期谱系信息，以提升高维或长时间模拟中的数值稳定性。

实验结果

研究问题

• RQ1 当应用于自适应SMC方法时，李与惠特利的非自适应方差估计器是否仍保持一致性？
• RQ2 能否构建一种基于共祖树的估计器，以一致地估计自适应SMC中的渐近方差？
• RQ3 在何种条件下，自适应SMC算法的渐近方差会收敛到与非自适应‘极限’SMC算法相同的极限？
• RQ4 如何利用粒子系统中的谱系信息，在长时间或高维设置下构建数值稳定的方差估计器？
• RQ5 在自适应SMC背景下，基于共祖树的估计器与逐项估计器之间存在何种理论联系？

主要发现

• 在自适应算法渐近匹配非自适应‘极限’SMC算法的假设下，李与惠特利的方差估计器对自适应SMC具有一致性。
• 提出一种新的基于共祖树的方差估计器，其在非自适应情形下与逐项估计器数学等价，并可自然推广至自适应设置。
• 理论分析确认，在标准正则性与稳定性条件下，自适应SMC估计器的渐近方差收敛至与非自适应‘极限’SMC相同的极限。
• 数值实验表明，随着 $ N \to \infty $，自适应与非自适应SMC的方差估计器收敛至相同的参考值，且当 $ N \geq 10^4 $ 时，95% 置信区间重叠。
• 提出一种基于固定滞后 $ H $ 的截断方差估计器，以缓解长时间模拟中的退化问题，其理论依据来自混合性与遗忘性质。
• 证明了估计器 $ N(\eta_N^n(f)^2 - \bar{\Gamma}_{n,N}^{(\varnothing,H)}(f^{\otimes 2})) $ 是原始李-惠特利估计器的稳定截断版本，与 OD19 中的方法一致。