[논문 리뷰] Fast $ε$-free Inference of Simulation Models with Bayesian Conditional Density Estimation

George Papamakarios, Iain Murray|arXiv (Cornell University)|2016. 05. 20.

Markov Chains and Monte Carlo Methods인용 수 151

한 줄 요약

논문은 시뮬레이션을 안내하기 위한 proposal prior를 사용하고 posterior를 근사하기 위한 Bayesian MDN으로 파라미터의 데이터 조건부 파라메트릭 베이시안 밀도를 학습하는 likelihood-free 추론 방법을 제안하며, 전통적인 ABC 방법을 넘어 ε-free 추론을 가능하게 한다.

ABSTRACT

Many statistical models can be simulated forwards but have intractable likelihoods. Approximate Bayesian Computation (ABC) methods are used to infer properties of these models from data. Traditionally these methods approximate the posterior over parameters by conditioning on data being inside an $ε$-ball around the observed data, which is only correct in the limit $ε\! ightarrow\!0$. Monte Carlo methods can then draw samples from the approximate posterior to approximate predictions or error bars on parameters. These algorithms critically slow down as $ε\! ightarrow\!0$, and in practice draw samples from a broader distribution than the posterior. We propose a new approach to likelihood-free inference based on Bayesian conditional density estimation. Preliminary inferences based on limited simulation data are used to guide later simulations. In some cases, learning an accurate parametric representation of the entire true posterior distribution requires fewer model simulations than Monte Carlo ABC methods need to produce a single sample from an approximate posterior.

연구 동기 및 목표

• 시뮬레이터 기반 모델의 추론에 대한 동기 부여와 비실록된 가능도에서의 정확한 후방 불확실성의 필요성.
• ε-근사화 없이 직접 후방 평가를 가능하게 하는 파라메트릭 후방 추정기를 도입한다.
• 그럴듯한 파라미터 영역에 시뮬레이션을 집중하도록 제안 사전(proposal prior)을 활용하는 실용적 학습 루프를 개발한다.
• 데이터 샘플이 한 번에 제한될 때 학습의 강건성을 높이고 시뮬레이션 수를 줄이기 위해 베이지안 신경 밀도 추정기를 활용한다.
• 다양한 실험에서 기존 ABC 기준선 대비 효율성 및 정확도 향상을 보인다.

제안 방법

• 데이터 x에 조건화된 출력을 갖는 Mixture Density Network (MDN)로 p(θ|x)를 직접 모델링하기 위한 조건부 밀도 추정을 사용한다.
• 시뮬레이션을 안내하고 진짜 후방을 근사하도록 Iteratively 업데이트되는 제안 사전 ṗ(θ)를 채택하여 효율적인 데이터 수집을 가능하게 한다.
• 후방을 p̂(θ|x_o) ∝ [p(θ)/ṗ(θ)] qφ(θ|x_o)로 추정하되, qφ는 시뮬레이션 쌍 (θ_n, x_n)에서 최대우도(MLE)로 학습한다.
• 입력으로 x를 사용하고 출력으로 θ를 사용하여 K개의 가우시안 성분과 완전히 매개변수화된 공분산을 갖는 MDN으로 qφ를 학습한다.
• 데이터가 한 차례에 제한될 때 학습 강건성을 개선하기 위해 Bayesian MDN(MDN-SVI)을 사용한다.
• 선택적으로 알고리즘 2를 부트스트랩하기 위해 초기 Iteration에서 학습된 구성 요소들로 qφ를 초기화한다.

실험 결과

연구 질문

• RQ1 ε-근사화에 의존하지 않고 parametric conditional density 추정기가 likelihood-free 설정에서 정확한 후방 p(θ|x)를 재현할 수 있는가?
• RQ2 가능한 θ 영역에 집중하는 학습된 제안 사전이 정확한 후방 학습에 필요한 시뮬레이션 수를 줄이는가?
• RQ3 MDN 및 MDN-SVI 구성이 전통적인 ABC 기준선과 비교하여 정확도와 시뮬레이션 효율성 측면에서 어떻게 다른가?
• RQ4 베이지안 신경 밀도 추정기를 사용하는 것이 ε-free 추론에서 안정성과 강건성을 어떻게 개선하는가?
• RQ5 제안된 프레임워크가 Lotka–Volterra, M/G/1, 선형 회귀 실험으로 입증된 다양한 모델 유형 및 차원성에 대해 확장 가능한가?

주요 결과

• MDN 기반 후방은 비정규분포형 및 긴 꼬리의 후방을 거부 기반 ABC보다 더 잘 재현하고 경쟁적인 ABC 기준선과도 비슷한 성능을 보인다.
• 이전 후방들에 의해 안내된 제안 사전은 prior-only 학습 및 ABC 방법에 비해 필요한 시뮬레이션 수를 상당히 줄인다.
• MDN-SVI는 과적합에 대한 강건성을 제공하고 검증 세트가 필요 없도록 하여 작은 샘플 학습의 효율을 가능하게 한다.
• 제안 사전의 순차적 정제는 그럴듯한 영역으로 시뮬레이션을 집중시키고 효율성을 향상시키며 때로는 필요한 모델 평가를 한 차례의 규모로 줄인다.
• 실험 전반에서 MDN 및 MDN-SVI 구성은 후방 정확도와 시뮬레이션 효율성 측면에서 ABC 기준선을 능가한다.