[论文解读] Multi Level Monte Carlo methods for a class of ergodic stochastic differential equations

Łukasz Szpruch, Sebastian J. Vollmer+2 more|arXiv (Cornell University)|May 4, 2016

Markov Chains and Monte Carlo Methods参考文献 29被引用 6

一句话总结

本文提出了一种用于遍历SDE的多级蒙特卡洛（MLMC）框架，特别针对具有强凸势能的过阻尼朗之万方程，利用收缩耦合实现时间一致的方差界。该方法实现了不变测度期望的无偏估计，计算复杂度为$Ø(\epsilon^{-2})$，与MCMC方法相当；同时提出了一种新型多级SGLD变体，复杂度为$Ø(\epsilon^{-2}|\log \epsilon|^3)$，优于现有随机梯度MCMC方法。

ABSTRACT

We develop a framework that allows the use of the multi-level Monte Carlo (MLMC) methodology (Giles 2015) to calculate expectations with respect to the invariant measures of ergodic SDEs. In that context, we study the (over-damped) Langevin equations with strongly convex potential. We show that, when appropriate contracting couplings for the numerical integrators are available, one can obtain a time-uniform estimates of the MLMC variance in stark contrast to the majority of the results in the MLMC literature. As a consequence, one can approximate expectations with respect to the invariant measure in an unbiased way without the need of a Metropolis- Hastings step. In addition, a root mean square error of $\mathcal{O}(\epsilon)$ is achieved with $\mathcal{O}(\epsilon^{-2})$ complexity on par with Markov Chain Monte Carlo (MCMC) methods, which however can be computationally intensive when applied to large data sets. Finally, we present a multilevel version of the recently introduced Stochastic Gradient Langevin (SGLD) method (Welling and Teh, 2011) built for large datasets applications. We show that this is the first stochastic gradient MCMC method with complexity $\mathcal{O}(\epsilon^{-2}|\log {\epsilon}|^{3})$, which is asymptotically an order $\epsilon$ lower than the $ \mathcal{O}(\epsilon^{-3})$ complexity of all stochastic gradient MCMC methods that are currently available. Numerical experiments confirm our theoretical findings.

研究动机与目标

• 开发一种用于近似遍历SDE不变测度期望的多级蒙特卡洛方法。
• 通过使用收缩耦合确保无偏估计，从而消除采样不变测度时对Metropolis-Hastings步骤的需求。
• 在保持大规模数据集下效率的同时，实现与MCMC方法相当的计算复杂度。
• 将MLMC框架扩展至随机梯度MCMC方法，尤其适用于大规模数据应用。
• 推导出优于现有随机梯度MCMC方法的复杂度界，特别是在大规模数据场景下。

提出的方法

• 该方法对过阻尼朗之万SDE的数值积分器采用收缩耦合，以确保MLMC方差的时间一致界。
• 利用势函数的强凸性，保证数值解路径的收缩行为。
• 该框架在多个层级上构建了耦合的欧拉-马鲁耶夫离散化，确保精细路径与粗略路径之间的强耦合。
• 通过将MLMC与随机梯度朗之万动力学相结合，提出了一种多级SGLD算法，实现了大规模数据集的高效采样。
• 理论分析表明，MLMC估计器的方差在时间上保持一致有界，从而实现无需Metropolis-Hastings校正的无偏估计。
• 复杂度分析表明，所提方法实现了$Ø(\epsilon^{-2}|\log \epsilon|^3)$的复杂度，优于现有随机梯度MCMC方法的$Ø(\epsilon^{-3})$界。

实验结果

研究问题

• RQ1 多级蒙特卡洛方法能否被适配于遍历SDE，以在无需Metropolis-Hastings校正的情况下实现不变测度的无偏估计？
• RQ2 在数值积分器中使用收缩耦合是否能在遍历SDE的MLMC框架中实现时间一致的方差界？
• RQ3 所提多级SGLD方法的计算复杂度与现有随机梯度MCMC方法相比如何？
• RQ4 MLMC框架能否在保持有利复杂度量级的前提下扩展至大规模数据场景？
• RQ5 MLMC估计器的方差行为如何依赖于耦合选择及势函数的性质？

主要发现

• 所提MLMC方法在无需Metropolis-Hastings校正的情况下，实现了对遍历SDE不变测度期望的无偏估计。
• 由于使用收缩耦合，MLMC估计器的方差实现了时间一致有界，这与标准MLMC中常见的方差增长形成显著差异。
• 该方法在$Ø(\epsilon)$的均方根误差下实现了$Ø(\epsilon^{-2})$的计算复杂度，与标准MCMC方法的效率相当。
• 提出了一种多级SGLD方法，其复杂度为$Ø(\epsilon^{-2}|\log \epsilon|^3)$，优于现有随机梯度MCMC方法的$Ø(\epsilon^{-3})$复杂度。
• 数值实验验证了理论复杂度界，并证实了所提多级SGLD方法的改进收敛速率。
• 该框架表明，势函数的强凸性可实现有效的耦合，这对于实现方差的均匀控制和低复杂度至关重要。