[论文解读] Simple simulation of diffusion bridges with application to likelihood inference for diffusions

Mogens Bladt, Michael Sørensen|Mar 7, 2014

Markov Chains and Monte Carlo Methods参考文献 14被引用 9

一句话总结

本文提出了一种简单且高效的方法，通过时间反演过程和拒绝采样，用于在一维扩散过程中模拟近似和精确的扩散桥。通过利用Milstein格式和Metropolis–Hastings校正，该方法在区间长度上实现了线性计算复杂度，在长时区间的性能优于现有方法，同时实现了对离散观测扩散过程的实用似然估计与贝叶斯推断。

ABSTRACT

With a view to statistical inference for discretely observed diffusion models, we propose simple methods of simulating diffusion bridges, approximately and exactly. Diffusion bridge simulation plays a fundamental role in likelihood and Bayesian inference for diffusion processes. First a simple method of simulating approximate diffusion bridges is proposed and studied. Then these approximate bridges are used as proposal for an easily implemented Metropolis-Hastings algorithm that produces exact diffusion bridges. The new method utilizes time-reversibility properties of one-dimensional diffusions and is applicable to all one-dimensional diffusion processes with finite speed-measure. One advantage of the new approach is that simple simulation methods like the Milstein scheme can be applied to bridge simulation. Another advantage over previous bridge simulation methods is that the proposed method works well for diffusion bridges in long intervals because the computational complexity of the method is linear in the length of the interval. For $ρ$-mixing diffusions the approximate method is shown to be particularly accurate for long time intervals. In a simulation study, we investigate the accuracy and efficiency of the approximate method and compare it to exact simulation methods. In the study, our method provides a very good approximation to the distribution of a diffusion bridge for bridges that are likely to occur in applications to statistical inference. To illustrate the usefulness of the new method, we present an EM-algorithm for a discretely observed diffusion process.

研究动机与目标

• 开发一种简单且通用的方法，用于模拟适用于所有具有有限速度测度的一维扩散过程的扩散桥。
• 通过将点目标替换为路径目标，解决标准拒绝采样在扩散桥模拟中计算不可行的问题。
• 通过精确且可扩展的桥接模拟，实现对离散观测扩散过程的高效似然估计与贝叶斯推断。
• 证明该方法即使在长时间区间下仍能保持高精度，而此前的方法在长区间下变得不切实际。
• 提供一种实用且易于实现的算法，避免复杂变换，可与标准数值格式（如Milstein方法）配合使用。

提出的方法

• 该方法通过独立模拟两条扩散过程构建近似扩散桥：一条从起点a出发，另一条从终点b出发，后者被时间反演。
• 该过程定义为两条模拟路径首次相交前的首条路径；该相交点定义了近似桥路径。
• 拒绝采样器反复生成此类路径对，直到路径相交，从而获得有效的近似桥模拟。
• 该近似桥用作Metropolis–Hastings算法中的提议，结合伪边缘校正以实现精确扩散桥采样。
• 接受概率通过检查独立扩散过程是否与提议的桥路径相交来计算，从而确保目标分布为精确桥分布。
• 该方法适用于所有具有有限速度测度的一维扩散过程，且无需将扩散系数变换为单位值。

实验结果

研究问题

• RQ1 是否存在一种简单且通用的方法，可在无需复杂测度变换或变换的情况下模拟扩散桥？
• RQ2 所提方法在扩散桥模拟中的计算复杂度如何随时间区间长度变化？
• RQ3 在实际推断场景中，近似桥方法在多大程度上能准确表示真实桥分布？
• RQ4 该方法能否在离散观测扩散过程的似然推断中有效应用？
• RQ5 与现有精确模拟算法相比，该方法在效率和精度上表现如何，特别是在长区间情况下？

主要发现

• 近似桥模拟方法在统计推断中可能出现的桥上表现出高精度，其结果与精确模拟结果高度一致。
• 对于遍历性扩散过程，该方法的近似版本与精确版本的计算复杂度均随区间长度呈线性增长，从而可在长时间设置中高效使用。
• 在短区间下，近似方法的计算成本与精确算法（EA1）相当，但在长区间下显著更快。
• 该方法可直接与简单数值格式（如Milstein格式）配合使用，无需将扩散系数变换为单位值，从而简化实现。
• 在模拟研究中，使用所提桥模拟方法的EM算法收敛良好，证明其在Ornstein–Uhlenbeck和CIR过程推断中的实际应用价值。
• 拒绝采样中的拒绝概率保持可接受水平，因为其目标是路径而非点，从而克服了早期方法的主要局限。