[논문 리뷰] Simulation of multivariate diffusion bridge

Mogens Bladt, Samuel Finch외 1명|arXiv (Cornell University)|2014. 05. 29.

Bayesian Methods and Mixture Models참고 문헌 10인용 수 12

한 줄 요약

이 논문은 이방향으로 시간을 거꾸로 한 확산 과정을 결합하여 다변량 확산 다리를 시뮬레이션하는 새로운 일반화 가능한 방법을 제안한다. 이는 이산적으로 관측된 확률적 미분 방정식에 대한 효율적인 우도 및 베이지안 추론을 가능하게 한다. 이 방법은 정방향 및 역방향 과정 간의 만남 확률을 높이기 위해 커플링을 사용하며, 정확한 다리 다수의 거부 샘플링 및 MCMC 알고리즘을 가능하게 한다. 계산 복잡도는 시간 간격 길이에 대해 선형적이다.

ABSTRACT

We propose simple methods for multivariate diffusion bridge simulation, which plays a fundamental role in simulation-based likelihood and Bayesian inference for stochastic differential equations. By a novel application of classical coupling methods, the new approach generalizes a previously proposed simulation method for one-dimensional bridges to the multi-variate setting. First a method of simulating approximate, but often very accurate, diffusion bridges is proposed. These approximate bridges are used as proposal for easily implementable MCMC algorithms that produce exact diffusion bridges. The new method is much more generally applicable than previous methods. Another advantage is that the new method works well for diffusion bridges in long intervals because the computational complexity of the method is linear in the length of the interval. In a simulation study the new method performs well, and its usefulness is illustrated by an application to Bayesian estimation for the multivariate hyperbolic diffusion model.

연구 동기 및 목표

• 시뮬레이션 기반 추론을 위한 다변량 확산 다리의 효율적 시뮬레이션이라는 오랜 도전 과제를 해결한다.
• 기존의 거부 샘플링 방법이 높은 거부 비율을 보이기 때문에, 경로 교차 확률을 높이기 위해 커플링을 활용하여 이를 극복한다.
• 비에르고딕성 및 비아핀 모델을 포함한 광범위한 다변량 확산 모델에 적용 가능한 일반 목적의 방법을 개발한다.
• 정확한 다리 시뮬레이션을 통해 복잡한 확산 모델(예: 다변량 하이퍼볼릭 확산)에 대한 실용적인 베이지안 추론을 가능하게 한다.

제안 방법

• 초기 상태 $a$ 에서 시작하는 정방향 과정과 종료 상태 $b$ 에서 시작하는 역방향 과정을 두 개의 커플링된 확산 과정으로 시뮬레이션하며, 이때 역방향 과정의 법칙이 정방향 과정과 동일하도록 동역학을 설계한다.
• 전통적인 커플링 기법을 사용하여 두 과정 간의 의존성을 유도함으로써 $[0,T]$ 내에서 경로가 만날 확률을 높인다.
• 만남 시간 $\tau$ 에서 정방향 경로를 따라가고 $\tau$ 에서부터 역방향 경로를 따라가도록 하여 $a$ 에서 $b$ 로 가는 경로를 구성함으로써 근사적인 확산 다리를 구성한다.
• 반복적으로 커플링된 과정을 시뮬레이션하여 만날 때까지 거부 샘플링을 적용함으로써 수용 가능한 거부 비율을 갖는 근사 다리를 도출한다.
• 근사 다리를 MCMC 알고리즘(특히 가짜 마진형 메트로폴리스-하스팅스 및 더 높은 거부 비율을 보이는 간단한 대안)의 제안 분포로 사용하여 정확한 확산 다리에 대한 타깃을 설정한다.
• 기하학적 변환 공식과 시간 역전 성질을 활용하여 전이 밀도를 유도하고, 커플링 및 다리 구성의 정확성을 보장한다.

실험 결과

연구 질문

• RQ1 기존의 거부 샘플링 접근법의 높은 거부 비율 문제를 피하면서도 단순하고 일반화 가능한 다변량 확산 다리 시뮬레이션 방법을 개발할 수 있는가?
• RQ2 다변량 확산 과정에 커플링 기법을 적용하여 경로 교차 확률을 높이고, 그로 인해 시뮬레이션 효율성을 향상시킬 수 있는가?
• RQ3 시간 간격 $T$ 가 증가함에 따라 이 방법의 계산 효율성은 어느 정도 유지되는가? 특히 장기 시간 간격 설정에서의 성능은 어떠한가?
• RQ4 이 방법은 하이퍼볼릭 확산과 같은 복잡한 비아핀 확산 모델에 적용 가능한가? 그리고 정확한 베이지안 추론을 지원하는가?

주요 결과

• 제안된 방법은 경로 기반 타깃(점 기반 타깃이 아님)과 커플링으로 인한 만남 확률 증가 덕분에 거부 샘플러에서 수용 가능한 거부 확률을 달성한다.
• 이 방법의 계산 복잡도는 시간 간격 $T$ 의 길이에 대해 선형적으로 증가하므로 장기간 간격에 대해서도 효율적이다.
• 이 방법은 Bladt와 Sørensen(2014)의 일변량 다리 시뮬레이션을 다변량으로 일반화하여 고차원에서의 상당한 기술적 과제를 해결한다.
• 커플링을 사용함으로써 정방향 및 역방향 확산 과정 간의 만남 확률이 증가하여, 한 차원에서도 효율성이 향상된다.
• MCMC 알고리즘을 통해 정확한 확산 다리 시뮬레이션을 지원함으로써 이산적으로 샘플링된 확산에 대한 유효한 우도 및 베이지안 추론을 가능하게 한다.
• 시뮬레이션 연구 및 다변량 하이퍼볼릭 확산 모델에의 응용을 통해 이 방법의 실용적 유용성과 뛰어난 성능을 입증한다.