[论文解读] Large deviations principle for the Adaptive Multilevel Splitting Algorithm in an idealized setting

Charles-Édouard Bréhier|arXiv (Cornell University)|Feb 24, 2015

Stochastic processes and statistical mechanics参考文献 15被引用 4

一句话总结

本文在理想化设定下建立了自适应多水平分割（AMS）算法的**大偏差原理**（LDP），其中条件抽样是精确的。证明了当复制数 $ n \to \infty $ 时，估计量的对数矩生成函数收敛到一个与选择参数 $ k $ 无关的速率函数，展示了渐近效率，并为超越渐近方差分析的自适应与非自适应分割方法的比较提供了理论基础。

ABSTRACT

The Adaptive Multilevel Splitting (AMS) algorithm is a powerful and versatile method for the simulation of rare events. It is based on an interacting (via a mutation-selection procedure) system of replicas, and depends on two integer parameters: n $\in$ N * the size of the system and the number k $\in$ {1, . . . , n -- 1} of the replicas that are eliminated and resampled at each iteration. In an idealized setting, we analyze the performance of this algorithm in terms of a Large Deviations Principle when n goes to infinity, for the estimation of the (small) probability P(X extgreater{} a) where a is a given threshold and X is real-valued random variable. The proof uses the technique introduced in [BLR15]: in order to study the log-Laplace transform, we rely on an auxiliary functional equation. Such Large Deviations Principle results are potentially useful to study the algorithm beyond the idealized setting, in particular to compute rare transitions probabilities for complex high-dimensional stochastic processes.

研究动机与目标

• 对自适应多水平分割（AMS）算法在罕见事件模拟中的渐近性能进行严格分析。
• 在条件抽样精确的理想化设定下，为AMS估计量建立大偏差原理（LDP）。
• 利用大偏差理论，比较自适应AMS算法与粗略蒙特卡洛方法及非自适应版本的效率。
• 为理解AMS在高维或复杂随机过程中的行为提供理论框架，超越渐近方差分析。

提出的方法

• 分析依赖于[BLR15]中提出的功能方程技术，用于研究AMS估计量的对数拉普拉斯变换。
• 证明构建了一个涉及生成函数 $ \Gamma_{n,k}(\lambda; x) $ 的方程组，该函数编码了在阈值 $ x $ 处估计量的矩生成函数。
• 当 $ n \to \infty $ 时，该方程组收敛到一个极限系统，通过求解一个泛函方程来定义速率函数。
• 利用所选复制样本的经验分布的 $ k $ 阶矩的收敛性，推导出估计量的极限行为。
• 该方法利用了当 $ k=1 $ 时，算法迭代次数渐近服从泊松分布的事实，从而简化了分析。
• 对于 $ k > 1 $，证明利用了选择过程的递归结构，并推导出所选复制样本加权矩的方程组。

实验结果

研究问题

• RQ1 当复制数 $ n \to \infty $ 时，自适应多水平分割算法是否满足大偏差原理？
• RQ2 AMS估计量的速率函数如何依赖于选择参数 $ k $？
• RQ3 大偏差原理能否用于比较自适应与非自适应多水平分割算法的效率，而不仅限于渐近方差？
• RQ4 在条件抽样精确的理想化设定下，估计量的矩生成函数的极限行为是什么？

主要发现

• 在理想化设定下，当 $ n \to \infty $ 时，AMS估计量满足大偏差原理，其速率函数与选择参数 $ k $ 无关。
• 当 $ k = 1 $ 时，迭代次数服从泊松分布，简化了速率函数的推导。
• 对于 $ k > 1 $，通过将泛函方程技术应用于估计量的矩生成函数，推导出速率函数。
• 极限速率函数由涉及所选复制样本 $ k $ 阶矩的方程组的解决定。
• 所选复制样本经验测度收敛到确定性极限，确保了LDP的存在性。
• 结果表明，自适应AMS算法在大偏差意义上达到最优性能，其速率函数在极限下与非自适应版本一致。