[논문 리뷰] Fast $\epsilon$-free Inference of Simulation Models with Bayesian Conditional Density Estimation

George Papamakarios, Iain Murray|arXiv (Cornell University)|2016. 05. 20.

Markov Chains and Monte Carlo Methods참고 문헌 25인용 수 27

한 줄 요약

이 논문은 시뮬레이션 모델에서 ε-허용오차가 필요 없는 likelihood-free 추론을 위한 베이지안 조건부 밀도 추정 방법을 제안한다. 베이지안 신경망을 사용해 매개변수화된 사후 분포 근사치를 학습하고, 초기 추론을 통해 시뮬레이션을 안내함으로써, 기존의 ABC 방법보다 수개의 주기 수준으로 더 적은 모델 시뮬레이션 수를 통해 정확한 사후 추정을 달성한다. 특히, 낮은 ε 범위에서 뛰어난 성능을 발휘한다.

ABSTRACT

Many statistical models can be simulated forwards but have intractable likelihoods. Approximate Bayesian Computation (ABC) methods are used to infer properties of these models from data. Traditionally these methods approximate the posterior over parameters by conditioning on data being inside an $\epsilon$-ball around the observed data, which is only correct in the limit $\epsilon\! ightarrow\!0$. Monte Carlo methods can then draw samples from the approximate posterior to approximate predictions or error bars on parameters. These algorithms critically slow down as $\epsilon\! ightarrow\!0$, and in practice draw samples from a broader distribution than the posterior. We propose a new approach to likelihood-free inference based on Bayesian conditional density estimation. Preliminary inferences based on limited simulation data are used to guide later simulations. In some cases, learning an accurate parametric representation of the entire true posterior distribution requires fewer model simulations than Monte Carlo ABC methods need to produce a single sample from an approximate posterior.

연구 동기 및 목표

• ε-허용오차와 표본 기반 사후 근사치에 의존하는 전통적인 Approximate Bayesian Computation(ABC) 방법의 비효율성과 정확도 부족 문제를 해결하기 위해.
• ε-구역에 의존하지 않고, 정확한 사후 분포 p(θ | x = xo)를 직접 추정할 수 있는 매개변수화된 베이지안 접근법을 개발하기 위해.
• 초기 추론을 활용해 후속 시뮬레이션을 안내함으로써, 정확한 추론을 위해 필요한 고비용 모델 시뮬레이션 횟수를 줄이기 위해.
• 과학 분야의 복잡하고 추정이 어려운 사후 분포를 포함한 모델에 대해 더 정확하고 효율적인 사후 추정을 가능하게 하기 위해.

제안 방법

• 베이지안 신경망을 사용해 진짜 사후 분포 p(θ | x = xo)의 매개변수화된 근사치로 조건부 밀도 p(θ | x)를 모델링한다.
• 이중 단계 추론 프로세스를 적용한다: 첫째, 소규모 초기 시뮬레이션 세트를 기반으로 조건부 밀도 추정기를 피팅한다; 둘째, 학습된 모델을 활용해 새로운 시뮬레이션의 능동적 샘플링을 이끈다.
• 스토캐스틱 변분 추론과 인식 네트워크를 사용해 베이지안 신경망을 훈련함으로써, 사후 근사치의 불확실성 정량화를 가능하게 한다.
• 학습된 모델의 예측 분포를 활용해 시뮬레이션 선택을 안내하며, 사후 밀도가 높은 영역에 집중한다.
• 다양한 척도에서의 일반화를 향상시키고 훈련을 안정화하기 위해 피LOT 런을 사용해 요약 통계량을 정규화한다.
• 매개변수의 로그 도메인에서 추론를 수행함으로써 수치 안정성을 향상시키고 사전 가정과 일치시킨다.

실험 결과

연구 질문

• RQ1 매개변수화된 베이지안 조건부 밀도 추정기가 전통적인 ABC 방법보다 시뮬레이션 효율성과 사후 정확도 측면에서 뛰어나게 성능을 발휘할 수 있는가?
• RQ2 초기 사후 근사치가 후속 시뮬레이션을 얼마나 효과적으로 안내함으로써 총 시뮬레이션 횟수를 줄일 수 있는가?
• RQ3 고차원적이고 추정이 어려운 사후 분포를 가진 모델에서 이 방법이 진짜 사후 분포를 얼마나 잘 복원할 수 있는가?
• RQ4 제안된 방법이 ε-허용오차가 없어도 추론 품질을 유지하거나 향상시킬 수 있는가?

주요 결과

• 제안된 방법은 전통적인 ABC 방법보다 훨씬 적은 모델 시뮬레이션 수로 정확한 사후 추정을 달성하며, 일부 사례에서는 요구되는 시뮬레이션 수를 수개의 주기 수준으로 감소시킨다.
• 이 방법은 표준 ABC에서 사용하는 ε-근사치보다 더 정확한 매개변수화된 사후 근사치를 학습하며, 특히 ε → 0에 수렴할수록 성능이 뛰어나다.
• 초기 추론 결과를 활용해 시뮬레이션 선택을 안내함으로써, 계산 자원을 사후 밀도가 높은 영역에 집중시켜 수렴 속도와 정확도를 향상시킨다.
• 이 방법은 고양이-쥐 모델과 M/G/1 큐 모델 모두에서 진짜 매개변수 값을 성공적으로 복원하였으며, 학습된 사후 분포 하에서 진짜 매개변수에 높은 로그 확률이 할당되었다.
• 피LOT 런을 활용한 요약 통계량 정규화가 모델 안정성을 향상시키고 조건부 밀도 추정기의 효과적 훈련을 가능하게 했다.
• 이 방법은 표준 ABC가 높은 시뮬레이션 비용으로 인해 실용성이 떨어지는 복잡하고 추정이 어려운 모델에서도 뛰어난 성능을 보였다.