[논문 리뷰] Approximate Bayesian inference from noisy likelihoods with Gaussian process emulated MCMC

Marko Järvenpää, Jukka Corander|arXiv (Cornell University)|2021. 04. 08.

Gaussian Processes and Bayesian Inference인용 수 3

한 줄 요약

이 논문은 우도 평가가 노이즈가 많고 계산적으로 비용이 많이 드는 경우에 마르코프 체인 몬테카를로(MCMC) 샘플링을 가속화하기 위해 가우시안 프로세스(GP) 에미네이션을 사용하는 새로운 근사 베이지안 추론 프레임워크인 GP-MH를 제안한다. 국소 실험 설계 전략을 통해 정보가 풍부한 우도 평가 지점을 순차적으로 선택함으로써, GP-MH는 정확한 메트로폴리스-하스팅스(MH) 샘플러의 진행을 에미네이트하며, 1,000회 미만의 로그-우도 평가로도 높은 샘플 효율성과 강건성을 달성한다. 이는 유사한 우도-무관 추론 환경에서 기존 방법들보다 뛰어난 성능을 보여준다.

ABSTRACT

We present a framework for approximate Bayesian inference when only a limited number of noisy log-likelihood evaluations can be obtained due to computational constraints, which is becoming increasingly common for applications of complex models. We model the log-likelihood function using a Gaussian process (GP) and the main methodological innovation is to apply this model to emulate the progression that an exact Metropolis-Hastings (MH) sampler would take if it was applicable. Informative log-likelihood evaluation locations are selected using a sequential experimental design strategy until the MH accept/reject decision is done accurately enough according to the GP model. The resulting approximate sampler is conceptually simple and sample-efficient. It is also more robust to violations of GP modelling assumptions compared with earlier, related "Bayesian optimisation-like" methods tailored for Bayesian inference. We discuss some theoretical aspects and various interpretations of the resulting approximate MH sampler, and demonstrate its benefits in the context of Bayesian and generalised Bayesian likelihood-free inference for simulator-based statistical models.

연구 동기 및 목표

• 우도 평가가 계산적으로 비용이 많이 들고 노이즈가 많을 때, 특히 시뮬레이터 기반 모델에서 베이지안 추론을 수행하는 데 도전하는 문제를 해결하기 위해.
• 고차원 또는 단일 피크 후행 분포 설정에서 전역 GP 서로서브 모델의 비효율성을 극복하기 위해.
• 우도-무관 추론을 위한 액티브 러닝 전략에서 획득 함수의 고비용 전역 최적화에 대한 의존도를 줄이기 위해.
• 정확한 MCMC를 GP 모델을 사용해 에미네이트하면서도 강건성과 샘플 효율성을 유지하는 방법을 개발하기 위해.
• 우도-무관 추론에서 베이지안 최적화 유사 접근법에 대한 이론적으로 탄탄한 샘플 효율적 대안을 제공하기 위해.

제안 방법

• 우도 밀도의 후행 분포를 확률적으로 근사하기 위해 로그-우도 함수를 가우시안 프로세스(GP)로 모델링한다.
• GP 모델의 예측 분산과 불확실성에 기반하여 정보가 풍부한 우도 평가 위치를 선택하기 위해 순차적 실험 설계 전략을 사용한다.
• GP를 사용하여 후보 파라미터 값에서 수락/기각 결정을 예측함으로써 정확한 메트로폴리스-하스팅스(MH) 샘플러의 진행을 에미네이트한다.
• 최고의 후행 분포 영역에 집중하는 국소 탐색 전략을 적용하여, 파라미터 경계 근처에서의 반복 평가를 피한다.
• 평가 수집을 위한 임계값 기반 정지 기준을 적용하여, 정지하기 전에 충분한 정확도를 확보한다.
• 더 높은 샘플 효율성을 달성하기 위해 새로운 획득 함수인 EPoE(기대 오류 확률)를 사용하여 평가 선택을 이끌어낸다.

실험 결과

연구 질문

• RQ1 GP 기반의 MH 샘플러 에미네이션은 정확한 MCMC보다 훨씬 적은 우도 평가로 정확한 후행 분포 근사를 달성할 수 있는가?
• RQ2 노이즈가 많은 우도 조건 하에서 GP-MH의 샘플 효율성과 정확도는 BLFI 및 BOLFI와 같은 기존 방법들과 비교해 어떻게 되는가?
• RQ3 고차원 또는 단일 피크 후행 분포 시나리오에서 국소적, MH 지향 실험 설계 전략이 전역 획득 함수를 능가하는가?
• RQ4 복잡하고 비선형적인 모델에서 GP 모델링 가정 위반에 대해 GP-MH는 어느 정도 강건성을 유지하는가?
• RQ5 고노이즈 수준을 가진 합성 우도 방법을 통해 추정된 우도를 GP-MH가 효과적으로 처리할 수 있는가?

주요 결과

• GP-MH는 모든 테스트 케이스에서 1,000회 미만의 로그-우도 평가로 높은 후행 분포 근사 정확도를 달성하였으며, 모든 경우에서 103회 평가 기준을 일관되게 충족하였다.
• GP-MH에서 EPoE 기반 평가 선택은 난이도 높은 전략과 EPoEr 전략보다 뛰어난 샘플 효율성을 보였으며, IMIQR를 사용한 BLFI와 유사하거나 더 높은 정확도를 달성하였다.
• Ricker 모델 실험에서 GP-MH는 EPoE를 사용하여 근사 후행 분포의 모든 마진 분포와 상관관계 구조를 정확하게 추정하였으며, MH-BLFI와 유사한 성능을 보였다.
• 이 방법은 노이즈가 많은 우도에 대해 강건성을 보였고, 이전 연구에서의 히우리스틱 획득 함수와 달리 파라미터 경계 근처에서의 반복 평가를 피했다.
• theta-Ricker 모델에서 EPoE는 난이도 높은 전략과 EPoEr보다 더 균일하고 다양한 평가 위치를 생성하여 더 나은 탐색 성능을 보였다.
• 시간에 따른 평가 수집 비율은 안정적인 수렴을 보였으며, 중앙값과 75퍼센트 분위수 경향선이 100회의 반복 실행 전반에서 신뢰할 수 있고 일관된 성능을 나타내었다.