[논문 리뷰] Multi Level Monte Carlo methods for a class of ergodic stochastic differential equations

Łukasz Szpruch, Sebastian J. Vollmer외 2명|arXiv (Cornell University)|2016. 05. 04.

Markov Chains and Monte Carlo Methods참고 문헌 29인용 수 6

한 줄 요약

이 논문은 강력한 볼록 잠재함수를 가진 과다감쇠 랑주비에 방정식을 위한 다중 수준 몬테카를로(MLMC) 프레임워크를 소개한다. 수축 쌍을 사용하여 시간에 관계없이 분산을 통제함으로써, 불변 측도 기대값의 비편향 추정을 가능하게 한다. 이는 MCMC와 동일한 $Ø(\epsilon^{-2})$ 복잡도를 달성하며, $Ø(\epsilon^{-2}|\log \epsilon|^3)$ 복잡도를 가지는 새로운 다중 수준 SGLD 변형을 도입함으로써 기존의 확률적 기울기 MCMC 방법보다 향상된 성능을 제공한다.

ABSTRACT

We develop a framework that allows the use of the multi-level Monte Carlo (MLMC) methodology (Giles 2015) to calculate expectations with respect to the invariant measures of ergodic SDEs. In that context, we study the (over-damped) Langevin equations with strongly convex potential. We show that, when appropriate contracting couplings for the numerical integrators are available, one can obtain a time-uniform estimates of the MLMC variance in stark contrast to the majority of the results in the MLMC literature. As a consequence, one can approximate expectations with respect to the invariant measure in an unbiased way without the need of a Metropolis- Hastings step. In addition, a root mean square error of $\mathcal{O}(\epsilon)$ is achieved with $\mathcal{O}(\epsilon^{-2})$ complexity on par with Markov Chain Monte Carlo (MCMC) methods, which however can be computationally intensive when applied to large data sets. Finally, we present a multilevel version of the recently introduced Stochastic Gradient Langevin (SGLD) method (Welling and Teh, 2011) built for large datasets applications. We show that this is the first stochastic gradient MCMC method with complexity $\mathcal{O}(\epsilon^{-2}|\log {\epsilon}|^{3})$, which is asymptotically an order $\epsilon$ lower than the $ \mathcal{O}(\epsilon^{-3})$ complexity of all stochastic gradient MCMC methods that are currently available. Numerical experiments confirm our theoretical findings.

연구 동기 및 목표

• 에르고딕 SDE의 불변 측도에 대한 기대값을 근사하기 위한 다중 수준 몬테카를로 방법을 개발하는 것.
• 수축 쌍을 통해 수렴성 보장함으로써 메트로폴리스-하스팅스 단계가 필요 없도록 하여 불변 측도에서의 샘플링을 비편향으로 수행하는 것.
• 대규모 데이터 세트에 적합한 효율성을 유지하면서도 MCMC 방법과 동등한 계산 복잡도를 확보하는 것.
• 특히 대규모 데이터 응용을 위한 다중 수준 프레임워크를 확률적 기울기 MCMC 방법으로 확장하는 것.
• 기존의 확률적 기울기 MCMC 방법보다 향상된 복잡도 경계를 도출함으로써, 특히 대규모 데이터 환경에서의 성능을 향상시키는 것.

제안 방법

• 과다감쇠 랑주비에 SDE의 수치 적분기구에 수축 쌍을 적용하여 MLMC 분산의 시간에 관계없는 경계를 확보한다.
• 잠재함수의 강력한 볼록성 덕분에 수치적 해 경로의 수축 행동을 보장한다.
• 다양한 수준에서 강력한 쌍을 형성하는 쌍체의 오일러-마르야모 이산화를 구성함으로써, 정밀 경로와 거친 경로 간의 강한 결합을 확보한다.
• MLMC와 확률적 기울기 랑주비 동역학을 조합하여 다중 수준 SGLD 알고리즘을 제안함으로써 대규모 데이터 세트에 대한 효율적 샘플링을 가능하게 한다.
• 이론적 분석을 통해 MLMC 추정기의 분산이 시간에 관계없이 균일하게 유한함을 입증함으로써, 메트로폴리스-하스팅스 보정 없이도 비편향 추정이 가능함을 보장한다.
• 복잡도 분석을 통해 제안된 방법이 $Ø(\epsilon^{-2}|\log \epsilon|^3)$ 복잡도를 달성함을 입증하였으며, 이는 기존의 확률적 기울기 MCMC 방법의 $Ø(\epsilon^{-3})$ 경계를 초월하는 성능을 제공한다.

실험 결과

연구 질문

• RQ1 다중 수준 몬테카를로 방법은 메트로폴리스-하스팅스 보정 없이도 에르고딕 SDE의 불변 측도에 대한 비편향 추정을 가능하게 할 수 있는가?
• RQ2 수치 적분기구에 수축 쌍을 적용할 경우, 에르고딕 SDE의 MLMC 프레임워크에서 시간에 관계없이 분산 경계를 확보할 수 있는가?
• RQ3 제안된 다중 수준 SGLD 방법의 계산 복잡도는 기존의 확률적 기울기 MCMC 접근법과 비교해 어떻게 되는가?
• RQ4 대규모 데이터 환경에 적합하게 MLMC 프레임워크를 확장할 수 있는가? 이때도 유리한 복잡도 스케일링을 유지할 수 있는가?
• RQ5 MLMC 추정기의 분산 행동은 쌍의 선택과 잠재함수의 성질에 따라 어떻게 영향을 받는가?

주요 결과

• 제안된 MLMC 방법은 메트로폴리스-하스팅스 보정 없이도 에르고딕 SDE의 불변 측도에 대한 기대값을 비편향으로 추정할 수 있다.
• 수축 쌍 덕분에 MLMC 추정기의 분산이 시간에 관계없이 균일하게 유지됨을 입증하였으며, 이는 기존의 MLMC에서 흔히 관찰되는 분산 증가와는 뚜렷한 차이를 이룹니다.
• 제안된 방법은 루트 평균 제곱 오차 $Ø(\epsilon)$ 를 달성하며, 계산 복잡도는 $Ø(\epsilon^{-2})$ 로서 표준 MCMC 방법과 동등한 효율성을 확보한다.
• 다중 수준 SGLD 방법은 $Ø(\epsilon^{-2}|\log \epsilon|^3)$ 복잡도를 가지며, 이는 기존의 확률적 기울기 MCMC 방법의 $Ø(\epsilon^{-3})$ 복잡도보다 향상된 성능을 제공한다.
• 수치 실험을 통해 이론적 복잡도 경계가 확인되었으며, 제안된 다중 수준 SGLD 방법의 향상된 수렴 속도가 검증되었다.
• 프레임워크는 잠재함수의 강력한 볼록성이 효과적인 쌍을 형성하는 데 기여하며, 이는 균일한 분산 제어와 낮은 복잡도를 달성하는 데 필수적임을 보여주었다.