[논문 리뷰] Simple simulation of diffusion bridges with application to likelihood inference for diffusions

Mogens Bladt, Michael Sørensen|2014. 03. 07.

Markov Chains and Monte Carlo Methods참고 문헌 14인용 수 9

한 줄 요약

이 논문은 시간 반전 과정과 기각 샘플링을 이용하여 일차원 확산에서 근사적이고 정확한 확산 다리를 간단하고 효율적으로 시뮬레이션하는 방법을 제안한다. 밀스타인 스킴과 메트로폴리스–해스팅스 보정을 활용함으로써, 간격 길이에 대해 선형 계산 복잡도를 달성하여 기존 방법보다 장시간 간격에서 뛰어나며, 이산적으로 관측된 확산에 대한 실용적인 우도 및 베이지안 추론을 가능하게 한다.

ABSTRACT

With a view to statistical inference for discretely observed diffusion models, we propose simple methods of simulating diffusion bridges, approximately and exactly. Diffusion bridge simulation plays a fundamental role in likelihood and Bayesian inference for diffusion processes. First a simple method of simulating approximate diffusion bridges is proposed and studied. Then these approximate bridges are used as proposal for an easily implemented Metropolis-Hastings algorithm that produces exact diffusion bridges. The new method utilizes time-reversibility properties of one-dimensional diffusions and is applicable to all one-dimensional diffusion processes with finite speed-measure. One advantage of the new approach is that simple simulation methods like the Milstein scheme can be applied to bridge simulation. Another advantage over previous bridge simulation methods is that the proposed method works well for diffusion bridges in long intervals because the computational complexity of the method is linear in the length of the interval. For $ρ$-mixing diffusions the approximate method is shown to be particularly accurate for long time intervals. In a simulation study, we investigate the accuracy and efficiency of the approximate method and compare it to exact simulation methods. In the study, our method provides a very good approximation to the distribution of a diffusion bridge for bridges that are likely to occur in applications to statistical inference. To illustrate the usefulness of the new method, we present an EM-algorithm for a discretely observed diffusion process.

연구 동기 및 목표

• 유한한 속도 측도를 가진 모든 일차원 확산에 적용 가능한 간단하고 일반적인 확산 다리 시뮬레이션 방법을 개발하기 위해.
• 기존의 기각 샘플링이 점을 대상으로 하는 데서 비효율적인 문제를 해결하기 위해, 점 대상에서 경로 대상으로 전환함으로써 확산 다리에 대한 계산 불가능성을 해결하기 위해.
• 정확하고 확장 가능한 다리 시뮬레이션을 통해 이산적으로 관측된 확산 과정에 대한 효율적인 우도 및 베이지안 추론을 가능하게 하기 위해.
• 기존 방법이 실용적이지 않은 장시간 간격에서도 높은 정확도를 유지함을 보여주기 위해.
• 복잡한 변환을 피하고 표준 수치적 방법(예: 밀스타인 방법)과 함께 사용 가능한 실용적이고 쉽게 구현 가능한 알고리즘을 제공하기 위해.

제안 방법

• 이 방법은 시작점 a에서부터와 끝점 b에서부터 시작하는 두 개의 독립적인 확산을 시뮬레이션함으로써 근사적 확산 다리를 구성한다. 후자는 시간 반전된다.
• 이 과정은 두 시뮬레이션 경로가 만나는 순간까지 첫 번째 경로로 정의되며, 이 만남 지점이 근사적 다리 경로를 정의한다.
• 기각 샘플러는 이러한 쌍을 반복적으로 생성하여 경로가 만나는 순간까지 반복하며, 유효한 근사적 다리 시뮬레이션을 얻는다.
• 이 근사적 다리는 메트로폴리스–해스팅스 알고리즘의 제안 분포로 사용되며, 가짜 우도 보정을 통해 정확한 확산 다리 샘플링을 달성한다.
• 수락 확률은 독립적인 확산이 제안된 다리 경로를 만나는지 확인함으로써 계산되며, 이는 목표 분포가 정확한 다리 분포임을 보장한다.
• 이 방법은 유한한 속도 측도를 가진 모든 일차원 확산에 적용 가능하며, 단위 확산 계수로의 변환을 필요로 하지 않는다.

실험 결과

연구 질문

• RQ1 복잡한 측도 변화나 변환 없이도 간단하고 일반적인 방법으로 확산 다리를 시뮬레이션할 수 있는가?
• RQ2 제안된 방법의 계산 복잡도는 확산 다리 시뮬레이션에서 시간 간격 길이에 따라 어떻게 변화하는가?
• RQ3 근사적 다리 방법이 실용적인 추론 상황에서 진짜 다리 분포를 얼마나 정확하게 표현하는가?
• RQ4 이 방법은 이산적으로 관측된 확산 과정에 대한 우도 기반 추론에 효과적으로 사용될 수 있는가?
• RQ5 특히 장시간 간격에서 기존의 정확한 시뮬레이션 알고리즘과 비교해 볼 때, 이 방법은 효율성과 정확도 면에서 어떻게 비교되는가?

주요 결과

• 근사적 다리 시뮬레이션 방법은 통계적 추론에서 자주 발생할 만한 다리에 대해 높은 정확도를 달성하며, 정확한 시뮬레이션 결과와 매우 유사하게 나타난다.
• ergodic 확산의 경우, 근사적 버전과 정확한 버전 모두 계산 복잡도가 간격 길이에 대해 선형으로 증가하므로, 장시간 설정에서도 효율적으로 사용할 수 있다.
• 짧은 간격에서는 근사 방법이 정확 알고리즘(EA1)과 계산 복잡도가 유사하지만, 장시간 간격에서는 훨씬 더 빠르게 작동한다.
• 이 방법은 단위 확산 계수로의 변환 없이도 밀스타인 방법과 같은 간단한 수치적 방법을 그대로 사용할 수 있어 구현을 단순화한다.
• 시뮬레이션 연구에서 제안된 다리 시뮬레이션 방법을 사용한 EM 알고리즘이 잘 수렴함을 보여주며, 오르누슈타인–울렌베르크 및 CIR 과정의 추론에 실용적인 유용성을 입증한다.
• 기각 샘플러의 기각 확률은 점 대신 경로를 대상으로 하므로 이전 방법의 주요 한계를 극복하며, 여전히 수용 가능한 수준을 유지한다.