[논문 리뷰] Stochastic Normalizing Flows

Liam Hodgkinson, Christopher van der Heide외 2명|arXiv (Cornell University)|2020. 02. 21.

Model Reduction and Neural Networks참고 문헌 38인용 수 44

한 줄 요약

확률적 정규화 흐름(stochastic normalizing flows)을 도입하여 연속 정규화 흐름(CNF)을 확률 미분방정식(SDE)으로 확장하고 러프 경로 이론을 활용, SDE 및 잠재 브라우니안 모션과 함께 밀도 추정, 최대우도 추정 및 변분 추론을 가능하게 한다. 무작위 ODE 및 Stratonovich SDE에 대한 Wong–Zakai 근사치를 포함한 이론적 프레임워크와 실용적 훈련 방법을 제공하고, 확률적 MCMC 하이퍼파라미터 최적화에의 응용을 보인다.

ABSTRACT

We introduce stochastic normalizing flows, an extension of continuous normalizing flows for maximum likelihood estimation and variational inference (VI) using stochastic differential equations (SDEs). Using the theory of rough paths, the underlying Brownian motion is treated as a latent variable and approximated, enabling efficient training of neural SDEs as random neural ordinary differential equations. These SDEs can be used for constructing efficient Markov chains to sample from the underlying distribution of a given dataset. Furthermore, by considering families of targeted SDEs with prescribed stationary distribution, we can apply VI to the optimization of hyperparameters in stochastic MCMC.

연구 동기 및 목표

• SDE로 구축된 생성 모형을 CNF를 사용해 근사하기 위한 일반 프레임워크를 제공한다.
• 러프 경로 이론을 통해 CNF를 확률적 설정으로 확장하여 SDE 모델의 밀도 추정, MLE, 변분 근사 가능하게 한다.
• 기존 CNF 구현 내에서 Stratonovich SDE, Wong–Zakai 근사, 무작위 ODE를 통합한 실용적 훈련 방법을 제시한다.
• 확률적 MCMC에서의 밀도 추정과 하이퍼파라미터 최적화에의 응용을 시연한다.

제안 방법

• Z_t를 Ito SDE로 모델링하고 러프 경로 이론을 이용해 경로적 형식으로 변환한다.
• Stratonovich 계산법과 Wong–Zakai 근사를 사용해 SDE를 CNF로 학습 가능한 무작위 ODE로 근사한다.
• 러프 경로 설정에서 어덜트(adjoint) 방법을 적용해 확률적 동역학을 역전파한다.
• 잠재 브라우니안 경로 근사에 조건화된 무작위 ODE를 통해 밀도를 추정하고 브라니안 실현에 대한 몬테카를로 평균을 사용한다.
• SDE 구동 동역학을 갖는 무작위 ODE에 대한 재매개화 트릭을 활용한 밀도 추정 및 VI 절차를 제안한다.
• Wong–Zakai 근사(카를루넨-لس카 전개 및 구간 선형)를 통해 SDE 기반 CNF를 학습하고 평가하는 실용적 경로와 이론적 보장을 제공한다.

실험 결과

연구 질문

• RQ1 CNF 프레임워크 내에서 확률적 미분방정식(SDE)을 잠재 모델로 학습하고 사용할 수 있는가?
• RQ2 러프 경로 이론을 사용하여 CNF 스타일 모델에서 SDE에 대한 엄밀하고 구현 가능한 경로 기반 처리를 제공할 수 있는가?
• RQ3 Stratonovich SDE를 무작위 ODE로 근사하여 학습을 위한 로그 밀도와 기울기 계산을 보존할 수 있는가?
• RQ4 이 확률적 정규화 흐름을 변분 추론 및 샘플링, 특히 확률적 MCMC의 하이퍼파라미터 최적화를 포함하여 어떻게 활용할 수 있는가?

주요 결과

• 러프 경로를 사용해 CNF를 SDE로 확장하는 통합된 확률적 정규화 흐름 프레임워크는 SDE 모델에 대한 밀도 추정, MLE 및 VI를 가능하게 한다.
• Stratonovich SDE는 경로 기반으로 러프 미분방정식으로 해석되며 CNF 훈련에 적합한 무작위 ODE로 근사된다.
• Wong–Zakai 근사(Karhunen–Loève 전개와 구간 선형)들은 SDE 기반 CNFs를 학습하고 평가하기 위한 실용적 경로를 제공한다.
• 주요 결과(정리 2)는 희미한 경로를 미분가능한 경로로 근사할 때 로그 밀도와 기울기의 수렴을 보인다.
• 이 프레임워크는 확률적 어드연트 방법을 회복하고 확장하며 비대각 확산 및 고차 SDE 솔버에 대한 기존 방법의 한계를 피한다.
• 수치 실험은 밀도 추정 및 샘플러를 보여주며, 곡률에 더 잘 적응하도록 학습 가능한 확산을 갖춘 2차원 토이 예제를 포함한다.