[논문 리뷰] Likelihood-free MCMC with Amortized Approximate Likelihood Ratios

Joeri Hermans, Volodimir Begy외 1명|arXiv (Cornell University)|2019. 03. 10.

Markov Chains and Monte Carlo Methods참고 문헌 32인용 수 3

한 줄 요약

이 논문은 추정 불가능한 우도를 가진 모델에서 효율적인 사후 추론을 가능하게 하기 위해, 우도 대 증거 비율을 근사하는 암시적 신경망 추정기를 사용하는 우도-자유 MCMC 방법을 제안한다. 메트로폴리스-해스팅스 및 하이퍼볼릭 몬테카를로에 이 비율 추정기를 통합함으로써, 복잡한 과학 모델에서 고차원 관측값을 가진 경우에도 안정적이고 정확한 추론을 달성한다.

ABSTRACT

Posterior inference with an intractable likelihood is becoming an increasingly common task in scientific domains which rely on sophisticated computer simulations. Typically, these mechanistic models do not admit tractable densities forcing practitioners to rely on approximations during inference. This work proposes a novel approach to address the intractability of the likelihood and the marginal model. We achieve this by learning a flexible estimator which approximates the likelihood-to-evidence ratio. The resulting amortized ratio estimator is embedded in MCMC samplers such as Metropolis-Hastings and Hamiltonian Monte Carlo to approximate the likelihood-ratio between consecutive states in the Markov chain, allowing us to draw samples from the intractable posterior. Techniques are presented to improve the numerical stability. We demonstrate our approach on a variety of benchmarks and compare against well-established approximate inference techniques. Scientific applications in high energy and astrophysics with high-dimensional observations show its applicability.

연구 동기 및 목표

• 복잡한 컴퓨터 시뮬레이션으로 인해 우도가 추정 불가능한 과학 모델에서 사후 추론의 과제를 해결하기 위해.
• 유연하고 암시적인 우도 대 증거 비율 추정기를 학습하여, 기존의 근사 추론 방법의 한계를 극복하기 위해.
• 우도가 추정 불가능하지만 시뮬레이션이 가능할 경우에도 안정적이고 효율적인 MCMC 샘플링을 가능하게 하기 위해.
• 우주론 및 고에너지 물리학에서 흔한 고차원 관측 공간에서의 우도 비율 추정의 수치적 안정성을 향상시키기 위해.

제안 방법

• 모의 데이터를 사용하여 신경망을 학습시켜 우도 대 증거 비율을 근사함으로써, 다양한 매개변수 값에 걸쳐 암시적 추론을 가능하게 한다.
• 학습된 비율 추정기를 메트로폴리스-해스팅스 및 하이퍼볼릭 몬테카를로 샘플러에 통합하여 근사 수용 비율을 계산한다.
• 명시적인 우도 평가 없이도 추정된 비율을 사용하여 MCMC 업데이트를 수행한다.
• 비율 추정 과정 중 수치적 안정성을 향상시키기 위해 정규화 및 정규화 기법을 적용한다.
• 모의 기반 학습을 통해 매개변수 공간 전반에 걸쳐 비율 추정기를 일반화한다.
• 적절한 인도티브 바이어스를 가진 딥 신경망을 사용하여 고차원 관측 공간과의 호환성을 확보한다.

실험 결과

연구 질문

• RQ1 학습된 암시적 비율 추정기는 우도가 추정 불가능한 모델에서 정확한 사후 샘플링을 가능하게 하는가?
• RQ2 제안된 MCMC 방법의 성능은 기존의 근사 추론 기법들과 비교해 정확성과 효율성 측면에서 어떻게 다른가?
• RQ3 이 방법은 고에너지 물리학 및 천체물리학 응용 분야에서 흔한 고차원 관측 공간으로의 확장에 얼마나 잘 대응하는가?
• RQ4 수치적 안정성 기법은 근사 비율을 사용할 때 MCMC 샘플러의 신뢰성에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 유연하고 암시적인 우도 대 증거 비율 근사 추정을 통해, 우도가 추정 불가능한 모델에서 정확한 사후 추론을 달성한다.
• 기본 모델에서의 성능 평가 결과, 기존의 근사 추론 기법들보다 샘플링 정확도 측면에서 뛰어난 성능을 보였다.
• 고에너지 물리학 및 천체물리학 분야의 실제 응용 사례를 통해, 고차원 관측 공간으로의 효과적인 확장이 가능함을 입증했다.
• 수치적 안정성 기법은 근사 우도 비율을 사용할 때 MCMC 샘플링의 신뢰성을 크게 향상시켰다.
• 암시적 비율 추정기는 반복적인 우도 평가의 계산 비용을 줄여, 여러 MCMC 반복 동안 효율적인 추론을 가능하게 하였다.