[논문 리뷰] Simulating Diffusion Bridges with Score Matching

Jeremy Heng, Valentin De Bortoli외 2명|arXiv (Cornell University)|2021. 11. 14.

Statistical Methods and Inference참고 문헌 42인용 수 5

한 줄 요약

이 논문은 시간 반전 확산 과정과 점수 매칭을 활용한 변분 추론를 통해 존재하지만 계산이 불가능한 다리의 시간 반전을 근사하는 새로운 점수 기반 방법을 제안한다. 이 방법은 오르누슈타인–울렌벡, 이자율, 세포 분화 과정을 포함한 다양한 모델에서 조건부 확산의 효율적이고 확장 가능한 시뮬레이션을 가능하게 하며, 고차원 및 복잡한 설정에서도 높은 정확도와 강건성을 입증하였다.

ABSTRACT

We consider the problem of simulating diffusion bridges, which are diffusion processes that are conditioned to initialize and terminate at two given states. The simulation of diffusion bridges has applications in diverse scientific fields and plays a crucial role in the statistical inference of discretely-observed diffusions. This is known to be a challenging problem that has received much attention in the last two decades. This article contributes to this rich body of literature by presenting a new avenue to obtain diffusion bridge approximations. Our approach is based on a backward time representation of a diffusion bridge, which may be simulated if one can time-reverse the unconditioned diffusion. We introduce a variational formulation to learn this time-reversal with function approximation and rely on a score matching method to circumvent intractability. Another iteration of our proposed methodology approximates the Doob's $h$-transform defining the forward time representation of a diffusion bridge. We discuss algorithmic considerations and extensions, and present numerical results on an Ornstein--Uhlenbeck process, a model from financial econometrics for interest rates, and a model from genetics for cell differentiation and development to illustrate the effectiveness of our approach.

연구 동기 및 목표

• 전이 밀도가 계산이 불가능하고 고차원 복잡성이 높아서 오랫동안 해결되지 않은, 특정 상태에서 시작하고 끝나는 조건부 확산 과정(확산 브리지)의 시뮬레이션 문제를 해결하기 위해.
• 해석적 해나 계산 비용이 큰 PDE 해법기에 의존하지 않고, 확산 브리지 시뮬레이션에 필요한 시간 반전 과정을 근사하는 확장 가능하고 유연한 방법을 개발하기 위해.
• 점수 매칭과 신경망을 활용해 시간 반전의 드리프트를 학습함으로써 도브의 h-변환을 종단 간 가역적이고 미분 가능한 방식으로 근사하기 위해.
• 특히 금융 이코노메트릭스와 시스템 생물학 등 응용 분야에서 관측 시간 간격이 떨어진 확산 모델의 통계적 추론을 위한 실용적이고 알고리즘적으로 효율적인 프레임워크를 제공하기 위해.

제안 방법

• 이 방법은 시간 반전된 확산 브리지의 후행 시간 표현을 사용하며, 시간 반전 과정의 드리프트를 변분 추론를 통해 학습함으로써 시뮬레이션한다.
• 시간 반전 학습을 변분 문제로 설정하여, 전이 밀도의 점수를 기반으로 하여 시간 반전 과정의 로그 밀도의 기울기를 추정하는 점수 매칭 손실을 최소화한다.
• 밀도 추정을 직접 하지 않고 전이 밀도의 점수에 의존함으로써, 정방향 과정의 샘플 경로를 사용해 훈련할 수 있도록 한다.
• 신경망이 시간 반전 드리프트를 매개변수화하며, 샘플 경로를 기반으로 변분 손실을 최소화하기 위해 확률적 경사 하강법을 사용한다.
• 이 방법은 정방향 시간에서 도브의 h-변환을 근사하는 데로 확장되어, 중요도 샘플링과 메트로폴리스–해스팅스 알고리즘에 활용할 수 있다.
• 프레임워크는 다층 퍼셉트론과 사인 위치 인코딩을 사용하여 구현되었으며, 모멘터럼을 적용한 Adam 최적화기를 통해 최적화되었으며, 다양한 확률 과정에서 검증되었다.

실험 결과

연구 질문

• RQ1 정규 밀도 평가 없이 점수 매칭을 사용해 확산 브리지의 시간 반전 드리프트를 학습할 수 있는가?
• RQ2 신경망 기반의 변분 근사가 고차원 및 비선형 설정에서 진정한 확산 브리지 분포를 얼마나 잘 모방할 수 있는가?
• RQ3 기존의 브라운 운동 브리지나 보조 과정 근사와 비교해 본다면, 경로 정확도와 샘플링 효율성 측면에서 제안된 방법의 성능은 어떠한가?
• RQ4 이 방법은 전이 밀도가 계산이 불가능한 모델, 예를 들어 이자율 모델과 세포 분화 모델을 포함한 다양한 확률 과정으로 일반화될 수 있는가?
• RQ5 실제 시뮬레이션 작업에서 시간 범위와 차원 수가 증가함에 따라 이 방법은 어떻게 스케일링되는가?

주요 결과

• 모든 테스트 모델—오르누슈타인–울렌벡, 이자율, 세포 분화—에서 확산 브리지의 정확한 시뮬레이션을 달성하였으며, 다양한 시간 범위와 차원에 대해 강건함을 입증하였다.
• 오르누슈타인–울렌벡 과정에서 학습된 시간 반전 드리프트는 분석적 해와 매우 유사했으며, 500회 최적화 반복과 δt = 0.02에서 수렴이 관찰되었다.
• 이자율 모델에서는 복잡한 전이 밀도의 로그 기울기를 성공적으로 근사하였으며, 1000회 반복과 반복당 1000개의 샘플 경로로 안정된 결과를 도출하였다.
• 세포 분화 모델에서는 T=16 및 σ²=1 조건에서도 정확도를 유지하였으며, 2000회 반복과 반복당 100개의 샘플 경로로 확장 가능성을 입증하였다.
• 점수 매칭을 사용함으로써 명시적 밀도 평가가 필요 없어졌으며, PDE 해법기가 실패하는 고차원 설정에서도 효율적인 훈련과 추론이 가능했다.
• 프레임워크를 통해 효과적인 중요도 샘플링과 메트로폴리스–해스팅스 보정이 가능해져, 후속 추론 작업에서 경로 제안 품질을 향상시키고 기각률을 감소시켰다.