[论文解读] Continuous-time importance sampling : Monte Carlo methods which avoid time-discretisation error

Krzysztof Łatuszyński, Gareth O. Roberts+2 more|arXiv (Cornell University)|Jan 1, 2012

Bayesian Methods and Mixture Models参考文献 12被引用 8

一句话总结

本文提出了一种连续时间序列重要性采样（CIS）算法，可消除连续时间马尔可夫过程（尤其是扩散过程）蒙特卡洛模拟中的时间离散化误差。通过构建相对于真实转移密度绝对连续的提议密度，CIS 实现了无需早期方法（如 EA）所施加的严格假设的在线无偏估计。

ABSTRACT

In this paper we develop a continuous-time sequential importance sampling (CIS) algorithm which eliminates time-discretisation errors and provides online unbiased estimation for continuous time Markov processes, in particular for diffusions. Our work removes the strong conditions imposed by the EA and thus extends significantly the class of discretisation error-free MC methods for diffusions. The reason that CIS can be applied more generally than EA is that it no longer works on the path space of the SDE. Instead it uses proposal distributions for the transition density of the diffusion, and proposal distributions that are absolutely continuous with respect to the true transition density exist for general SDEs.

研究动机与目标

• 消除连续时间马尔可夫过程蒙特卡洛方法中的时间离散化误差。
• 将无离散化误差蒙特卡洛方法的适用范围扩展至超越现有方法严格限制条件的场景。
• 为一般随机微分方程（SDEs）实现无需路径空间假设的在线无偏估计。
• 为一般 SDEs 构建提议密度相对于真实转移密度绝对连续的框架。
• 为扩散过程中时间离散化蒙特卡洛方法提供一种实用且理论严谨的替代方案。

提出的方法

• 该方法为扩散过程的转移密度构造提议密度，使其相对于真实转移密度绝对连续。
• 与早期方法（如 EA）不同，它避免在 SDE 的路径空间上操作，从而减少了结构约束。
• 该算法采用连续时间的序列重要性采样，支持期望的实时在线估计。
• 提议分布被设计为对一般 SDEs 具有计算可行性与解析可处理性。
• 该方法依赖于相对于真实转移律存在绝对连续测度，该条件在一大类 SDEs 中已得到证明。
• 该方法确保所得蒙特卡洛估计量无偏且不受时间离散化偏差影响。

实验结果

研究问题

• RQ1 能否为扩散过程开发一种蒙特卡洛方法，使其避免时间离散化误差，同时保持计算可行性？
• RQ2 提议密度需满足何种条件，才能确保所得估计量无偏且无离散化偏差？
• RQ3 如何将该方法扩展至超越 EA 框架严格假设的范围，以适用于一般 SDEs？
• RQ4 CIS 算法在何种意义上比现有无离散化误差方法更具一般性？
• RQ5 一般 SDEs 中，提议密度相对于真实转移密度绝对连续存在的理论基础是什么？

主要发现

• CIS 算法成功消除了连续时间马尔可夫过程蒙特卡洛估计中的时间离散化误差。
• 由于避免了路径空间约束，该方法适用于比以往方法（如 EA）显著更广泛的 SDE 类别。
• 对于一般 SDEs，存在相对于真实转移密度绝对连续的提议密度，从而保证了该方法的广泛适用性。
• 所得蒙特卡洛估计量无偏，且支持在线计算，适用于实时应用。
• 该框架为构建无离散化误差估计量提供了理论基础，且无需对漂移或扩散系数施加强假设。
• 该方法表明，即使在路径空间方法失效的情况下，通过精心构造的提议密度，仍可在连续时间实现无偏估计。