[논문 리뷰] Black-box Variational Inference for Stochastic Differential Equations

Thomas Ryder, Andrew Golightly외 2명|arXiv (Cornell University)|2018. 02. 09.

Gaussian Processes and Bayesian Inference참고 문헌 39인용 수 26

한 줄 요약

이 논문은 확률미분방정식(SDEs)에 대한 블랙박스 변분 추론 방법을 제안하며, 매개변수와 잠재 확산 경로를 함께 추정하기 위해 순환신경망(RNN)을 사용하여 매개변수 조건부 잠재 확산 경로의 사후분포를 근사한다. 이 방법은 표준 하드웨어에서 몇 시간 내에 정확한 매개변수 추정을 달성하며, MCMC보다 빠르면서도 진짜 사후 경로와 밀도 있는 일致를 유지한다.

ABSTRACT

Parameter inference for stochastic differential equations is challenging due to the presence of a latent diffusion process. Working with an Euler-Maruyama discretisation for the diffusion, we use variational inference to jointly learn the parameters and the diffusion paths. We use a standard mean-field variational approximation of the parameter posterior, and introduce a recurrent neural network to approximate the posterior for the diffusion paths conditional on the parameters. This neural network learns how to provide Gaussian state transitions which bridge between observations in a very similar way to the conditioned diffusion process. The resulting black-box inference method can be applied to any SDE system with light tuning requirements. We illustrate the method on a Lotka-Volterra system and an epidemic model, producing accurate parameter estimates in a few hours.

연구 동기 및 목표

• 잠재 과정으로 인해 고차원적이며 비가역적인 SDE에서 매개변수와 잠재 확산 경로를 함께 추론하는 문제에 대응하기 위해.
• 문제에 특화된 설계 없이도 넓은 범위의 SDE 시스템에 적용 가능한 유연하고 확장 가능한 추론 방법을 개발하기 위해.
• 기존의 MCMC 및 다리 기반 몽테카를로 방법과 비교해 계산 비용과 튜닝 복잡성을 줄이기 위해.
• 평균장 또는 가우시안 근사보다 더 복잡한 관계를 모델링하기 위해 RNN을 사용해 관측치 간의 복잡한 구조적 의존성을 반영함으로써, 잠재 경로의 근사 품질을 향상시키기 위해.
• 시스템 생물학 및 전염병학과 같은 실제 응용 분야에서 SDE에 대해 실용적이고 빠른 추론을 가능하게 하기 위해.

제안 방법

• 시간 격자상에서 연속 SDE를 가우시안 전이의 시퀀스로 근사하기 위해 옐러-마르야모 이산화를 사용한다.
• 매개변수에 대한 사후분포를 근사하기 위해 평균장 변분 추론을 적용하며, 독립 사전분포를 가진 랜덤 변수로 간주한다.
• 매개변수 조건부 잠재 확산 경로의 사후분포를 모델링하기 위해 순환신경망(RNN)을 도입하며, 진짜 조건부 과정을 모방하는 상태 전이를 생성하도록 학습한다.
• 변분 근사를 학습하기 위해 확률적 최적화를 사용하여, 변분 미분학에 의존하지 않고 엔드 투 엔드 학습을 가능하게 한다.
• RNN 기반 근사를 표준 정규분포 표본을 관측된 데이터와 매개변수에 일치하는 경로 표본으로 변환하는 정규화 플로(normalizing flow)로 간주한다.
• 특히 모델 비교를 위해, 500,000회 반복하는 중요도 샘플링을 사용해 변분 사후의 품질을 평가하고 검증한다.

실험 결과

연구 질문

• RQ1 최소한의 튜닝으로 SDE에서 매개변수와 잠재 경로를 함께 추론할 수 있는 블랙박스 변분 추론 프레임워크를 설계할 수 있는가?
• RQ2 SDE에서 관측이 희박한 경우, RNN 기반 변분 근사는 잠재 확산 경로의 복잡한 의존성 구조를 얼마나 잘 포괄하는가?
• RQ3 MCMC 및 다리 기반 몽테카를로 방법과 비교해 계산 효율성과 근사 정확성 사이의 상충 관계는 어떠한가?
• RQ4 합성 데이터에서 알려진 매개변수 값을 회복할 수 있으며, 실제 전염병 데이터에서는 이전에 발표된 결과와 높은 정밀도로 일치하는가?
• RQ5 마진형 사후 추정치와 경로 샘플링 측면에서, 변분 근사는 MCMC에 비해 얼마나 우수한가?

주요 결과

• 로트카-볼테라 및 SIR 전염병 모델 모두에서 데스크톱 PC에서 3.5시간 이내에 정확한 매개변수 추정을 달성하였으며, MCMC가 수일이 소요되는 것과 비교해 상당히 빠르다.
• 시간 불변 SIR 모델의 경우, 효과적 표본 크기(Ess = 718.2)가 낮음에도 불구하고, 변분 추론의 마진형 사후 추정치가 중요도 샘플링 및 이전 MCMC 연구 결과와 매우 유사하게 일치한다.
• 시간 변화 SIR 모델의 경우, 추정된 분산(σ²)이 더 작고, 데이터 변동성, 특히 t=7~9 부근에서 더 잘 포착하는 더 민첩한 확산 경로를 생성하여 더 나은 데이터 피팅을 보인다.
• RNN 기반 사후 근사는 50개의 타당한 확산 경로를 생성하며, 이는 진짜 데이터 추세와 빌드업이 잘 일치함을 보여주어, 방법이 잠재 과정의 복잡한 시간적 의존성을 잘 포착하고 있음을 시사한다.
• 비록 매개변수 사후분포가 약간 과도하게 집중되어 있기는 하지만, 조건부 확산 경로의 변분 근사는 진짜 사후분포와 매우 가까운 편이다. 이는 변분 방법의 일반적인 한계이다.
• 중요도 샘플링 기반의 증거를 통한 모델 비교 결과, 시간 변화 모델이 데이터에 더 잘 맞는 것으로 나타났지만, 복잡도 증가로 인해 과적합의 위험이 있어, 모델 선택에서 더 나은 사후 추정이 필요함을 시사한다.