[논문 리뷰] A variational approach to path estimation and parameter inference of hidden diffusion processes

Tobias Sutter, Arnab Ganguly외 1명|arXiv (Cornell University)|2015. 08. 03.

Statistical Methods and Inference인용 수 3

한 줄 요약

이 논문은 확률적 미분 방정식(SDE)에 의해 지배되는 은닉 확산 과정에서 경로 추정 및 매개변수 추론을 위한 변분 추론 프레임워크를 제안한다. 은닉 상태의 사후 분포를 가우시안 과정로 근사하고, 최적 제어를 통해 칼리브라-라이블러(Kullback-Leibler) 발산을 최소화함으로써, 이론적 이론화나 몬테카를로 샘플링에 의존하지 않고도 효율적인 스무딩과 매개변수 추정이 가능해지며, 두 가지 예시에서 높은 정확도를 달성한다.

ABSTRACT

We consider a hidden Markov model, where the signal process, given by a diffusion, is only indirectly observed through some noisy measurements. The article develops a variational method for approximating the hidden states of the signal process given the full set of observations. This, in particular, leads to systematic approximations of the smoothing densities of the signal process. The paper then demonstrates how an efficient inference scheme, based on this variational approach to the approximation of the hidden states, can be designed to estimate the unknown parameters of stochastic differential equations. Two examples at the end illustrate the efficacy and the accuracy of the presented method.

연구 동기 및 목표

• 은닉 마르코프 모델에 포함된 확산 과정에 대해 스무딩 밀도를 체계적으로 근사화하는 변분 방법을 개발하는 것.
• 일정한 확산 계수를 갖지 않는 일반적인 SDE에서의 추론 과제를 해결하여, 이전 연구에서 일정한 확산에 국한된 제한을 초월하는 것.
• 은닉 상태의 변분 근사에 기반해 미지의 SDE 매개변수를 효율적으로 추론하는 방법을 설계하는 것.
• 비선형 SDE의 사후 추정을 위한 기존 수치적 방법의 대안으로 이론적으로 탄탄한, 몬테카를로 기반 방법이 아닌 대안을 제공하는 것.
• 진짜 사후 분포와 가우시안 근사 간 상대 엔트로피를 최소화하여 정확한 경로 재구성과 매개변수 추정을 가능하게 하는 것.

제안 방법

• 해당 방법은 진짜 은닉 상태 과정의 사후 분포를 가우시안 과정으로 근사하고, 충실도를 확보하기 위해 칼리브라-라이블러 발산을 최소화한다.
• 최적 제어 공식화를 통해 근사 SDE의 최적 매개변수를 도출하며, 평균과 공분산을 제어 변수로 간주한다.
• 전체 사후 분포를 국소 가우시안 근사의 볼록 조합으로 표현함으로써, 모멘트와 도함수의 계산이 가능하게 한다.
• 평균과 공분산의 역학은 포크너-플랭크 방정식과 변분 미적분학에서 유도된 상미분 방정식 시스템에 의해 지배된다.
• 이토 공식과 조건부 기대값을 활용하여 근사 과정의 일阶 및 이阶 모멘트의 시간 진화 방정식을 유도한다.
• 매개변수 추론은 변분 하한을 최적화함으로써 수행되며, 추정된 경로를 사용해 SDE 매개변수를 반복적으로 갱신한다.

실험 결과

연구 질문

• RQ1 입자 필터나 MCMC에 의존하지 않고 은닉 확산 과정의 스무딩 밀도를 어떻게 체계적으로 근사화할 수 있는가?
• RQ2 가우시안 근사를 기반으로 한 변분 접근법이 비일정한 확산 계수를 갖는 SDE에 대해 정확한 경로 추정을 제공할 수 있는가?
• RQ3 진짜 사후 분포로부터 KL 발산을 최소화하기 위해 근사 SDE를 어떻게 최적의 방식으로 매개변수화할 수 있는가?
• RQ4 유도된 추론 체계를 고차원 또는 복잡한 SDE에 대해 계산적으로 효율적이고 확장 가능하게 만들 수 있는가?
• RQ5 정확도와 수렴 속도 측면에서 기존의 이산화 기반 또는 샘플링 기반 접근법에 비해 변분 방법이 어느 정도 뛰어나게 성능을 발휘하는가?

주요 결과

• 진짜 사후 분포와 가우시안 근사 간 KL 발산을 최소화함으로써 변분 방법이 이산화나 샘플링 없이 정확한 경로 추정을 달성한다.
• 이 방법은 이전의 변분 방법이 일정한 확산에 국한된 한계를 극복하여 비일정한 확산 계수를 갖는 SDE를 성공적으로 처리한다.
• 평균과 공분산에 대한 유도된 상미분 방정식 시스템은 시간 연속 최적화를 통해 스무딩 밀도를 효율적으로 계산할 수 있게 한다.
• 두 가지 벤치마크 예제에서 높은 정확도를 보이며 기존의 잘 알려진 추론 기법들과 경쟁 가능한 성능을 나타낸다.
• 변분 경로 추정 기반의 매개변수 추론 체계는 알려지지 않은 SDE 매개변수에 대해 일관되고 정밀한 추정치를 제공한다.
• 이 프레임워크는 입자 필터링과 MCMC의 이론적으로 탄탄한 비스토케스틱적 대안을 제공하며, 변분 목표 함수를 통해 오차 통제가 가능하다.