[논문 리뷰] Bayesian model comparison for simulation-based inference

A. Spurio Mancini, Matthew M. Docherty외 2명|arXiv (Cornell University)|2022. 07. 08.

Gaussian Processes and Bayesian Inference참고 문헌 44인용 수 6

한 줄 요약

이 논문은 후행 분포 표본만을 요구하는 학습된 조화 평균 추정기(harmonic)를 사용하여 시뮬레이션 기반 추론(SBI)에서 베이지안 모델 증거를 계산하는 유연하고 샘플러에 종속되지 않는 방법을 제안한다. 이는 신경 후행 추정(NPE), 신경 우도 추정(NLE), 신경 비율 추정(NRE)의 주요 SBI 프레임워크 전반에서 신뢰할 수 있는 모델 비교를 가능하게 하며, NLE가 유의미한 정확도를 보이며, 우도 기반 내재 샘플링 방법과의 검증을 통해 검증되었다.

ABSTRACT

Comparison of appropriate models to describe observational data is a fundamental task of science. The Bayesian model evidence, or marginal likelihood, is a computationally challenging, yet crucial, quantity to estimate to perform Bayesian model comparison. We introduce a methodology to compute the Bayesian model evidence in simulation-based inference (SBI) scenarios (also often called likelihood-free inference). In particular, we leverage the recently proposed learnt harmonic mean estimator and exploit the fact that it is decoupled from the method used to generate posterior samples, i.e. it requires posterior samples only, which may be generated by any approach. This flexibility, which is lacking in many alternative methods for computing the model evidence, allows us to develop SBI model comparison techniques for the three main neural density estimation approaches, including neural posterior estimation (NPE), neural likelihood estimation (NLE), and neural ratio estimation (NRE). We demonstrate and validate our SBI evidence calculation techniques on a range of inference problems, including a gravitational wave example. Moreover, we further validate the accuracy of the learnt harmonic mean estimator, implemented in the HARMONIC software, in likelihood-based settings. These results highlight the potential of HARMONIC as a sampler-agnostic method to estimate the model evidence in both likelihood-based and simulation-based scenarios.

연구 동기 및 목표

• 시뮬레이션 기반 추론(SBI) 환경에서 신뢰할 수 있고 일반적인 방법이 부족한 베이지안 모델 증거 계산 문제를 해결하기 위해.
• 우도가 추정 불가능하거나 계산적으로 과도한 경우에도 SBI 환경에서 베이지안 모델 비교를 가능하게 하기 위해.
• 학습된 조화 평균 추정기의 샘플러에 종속되지 않는 성질을 활용하여 SBI에서 다양한 후행 분포 샘플링 방법을 지원하기 위해.
• harmonic 소프트웨어의 증거 추정치가 기존의 우도 기반 내재 샘플링 방법과 비교하여 정확도를 검증하기 위해.
• NPE, NLE, NRE의 세 가지 주요 SBI 접근 방식 간의 증거 추정 성능을 비교하기 위해.

제안 방법

• 후행 분포 표본만을 사용하여 모델 증거를 추정하는 학습된 조화 평균 추정기(harmonic)를 활용하며, 이는 샘플링 전략과 분리되어 있다.
• NPE, NLE, NRE를 포함한 모든 SBI 방법으로 생성된 후행 분포 표본에 대해 harmonic 추정기를 적용하여 광범위한 적용 가능성을 확보한다.
• 다단계 검증을 수행: 먼저 PolyChord와 MultiNest를 기준으로 우도 기반 설정에서 검증하고, 그 후 시뮬레이션 기반 설정에서 합성 및 실제 사례를 활용하여 검증한다.
• 바이올린 플롯과 로그 베이즈 요인 비교를 통해 harmonic 추정치와 내재 샘플링 결과 간의 일치성을 평가한다.
• 밀도 추정기의 암시적 및 순차적 학습 전략을 SBI 파이프라인에 적용하여 다양한 추론 환경에서의 강건성을 확보한다.
• 추정기 정확도와 분산을 정량화하며, NLE 기반 증거 추정이 NPE 및 NRE보다 훨씬 낮은 편향을 보임을 확인한다.

실험 결과

연구 질문

• RQ1 우도가 추정 불가능한 SBI 환경에서 학습된 조화 평균 추정기가 신뢰성 있게 모델 증거를 계산할 수 있는가?
• RQ2 동일한 후행 분포 표본을 사용할 때, NPE, NLE, NRE의 세 가지 SBI 프레임워크 간에 증거 추정 성능는 어떻게 달라지는가?
• RQ3 harmonic 기반 증거 추정치가 PolyChord와 MultiNest와 같은 기존의 내재 샘플링 알고리즘 결과와 어느 정도 일치하는가?
• RQ4 SBI 방법의 선택(암시적 대비 순차적)이 harmonic을 통한 증거 추정 정확도에 영향을 미치는가?
• RQ5 harmonic 추정기는 우도 기반 및 SBI 환경 모두에서 내재 샘플링의 실질적인 대안으로 기능할 수 있는가?

주요 결과

• harmonic 소프트웨어의 학습된 조화 평균 추정기는 여러 테스트 케이스에서 우도 기반 내재 샘플링 방법(MultiNest 및 PolyChord)과 매우 뛰어난 일치도를 보이며 모델 증거 추정치를 제공한다.
• 특히 복잡한 추론 문제에서 NLE 기반 증거 추정이 NPE 및 NRE보다 더 정확하고 편향이 적은 로그 베이즈 요인 추정치를 제공한다.
• 모든 SBI 증거 추정 파이프라인(NPE, NLE, NRE)은 일반적으로 진짜 원본 모델을 지지하는 로그 베이즈 요인을 도출하며, 우도 기반 및 SBI 기반 추정기 간에 결과가 일관된다.
• harmonic 추정기는 후행 분포 표본만을 요구하고 그들을 생성하는 데 사용된 샘플링 방법과 독립적이므로 강건성과 융통성 있는 성능을 보인다.
• 이 방법은 실제 응용 분야에도 성공적으로 확장되었으며, 중력파 추론 문제를 포함하여 고차원이고 복잡한 상황에서도 실용적인 타당성을 입증했다.
• 본 연구는 harmonic이 SBI에서 베이지안 모델 선택을 위한 일반 목적 도구로 잠재력을 지녔음을 강조하며, 향후 연구는 분산 추정 및 더 큰 문제에 대한 확장성 향상에 집중할 것이다.