[논문 리뷰] Variational Bayesian Monte Carlo with Noisy Likelihoods

Luigi Acerbi|Työväentutkimus Vuosikirja|2020. 06. 15.

Gaussian Processes and Bayesian Inference참고 문헌 56인용 수 28

한 줄 요약

이 논문은 시뮬레이션 기반 모델에서 효율적이고 샘플 효율적인 베이지안 추론을 가능하게 하기 위해, 노이즈가 있는 로그우도 평가를 다룰 수 있도록 Variational Bayesian Monte Carlo (vbmc)를 확장한다. 예측 정보량(Expected Information Gain, eig)과 변분 사중분위범위(Variational Interquantile Range, viqr)를 포함한 강건한 글로벌 할당 함수를 도입함으로써, 실질적인 신경과학 모델의 새로운 도전적인 벤치마크에서 최신 기술 수준의 성능을 달성한다. 이는 국소 할당 함수 및 다른 서rogate 기반 방법보다 뛰어나며, 계산 비용은 낮게 유지된다.

ABSTRACT

Variational Bayesian Monte Carlo (VBMC) is a recently introduced framework that uses Gaussian process surrogates to perform approximate Bayesian inference in models with black-box, non-cheap likelihoods. In this work, we extend VBMC to deal with noisy log-likelihood evaluations, such as those arising from simulation-based models. We introduce new `global' acquisition functions, such as expected information gain (EIG) and variational interquantile range (VIQR), which are robust to noise and can be efficiently evaluated within the VBMC setting. In a novel, challenging, noisy-inference benchmark comprising of a variety of models with real datasets from computational and cognitive neuroscience, VBMC+VIQR achieves state-of-the-art performance in recovering the ground-truth posteriors and model evidence. In particular, our method vastly outperforms `local' acquisition functions and other surrogate-based inference methods while keeping a small algorithmic cost. Our benchmark corroborates VBMC as a general-purpose technique for sample-efficient black-box Bayesian inference also with noisy models.

연구 동기 및 목표

• 계산 및 인지 신경과학에서 흔한 고비용이고 노이즈가 있는 로그우도 평가를 가진 모델에서 효율적인 베이지안 추론을 수행하는 데 도전하는 것.
• 원래는 노이즈가 없는 평가를 위해 설계된 vbmc 프레임워크를 노이즈가 있는 우도를 강건하게 처리할 수 있도록 확장하면서도 샘플 효율성이나 정확도를 희생하지 않는 것.
• 변분 추론과 가우시안 프로세스 서rogate 프레임워크 내에서 노이즈에 강건하고 계산 비용이 낮은 새로운 할당 함수를 개발하는 것.
• 노이즈가 있는 시뮬레이션 기반 우도를 가진 다섯 개인 실제 신경과학 모델로 구성된 새로운 현실적인 벤치마크에서 방법을 검증하는 것.
• 기존의 서rogate 기반 추론 기법들과 비교하여, viqr를 사용한 vbmc가 사후 분포 복원과 모형 증거 추정에서 뛰어난 성능을 보이는지 입증하는 것.

제안 방법

• 노이즈가 있는 로그우도 평가에 강건하도록 특별히 설계된 두 가지 새로운 글로벌 할당 함수—예측 정보량(Expected Information Gain, eig)과 변분 사중분위범위(Variational Interquantile Range, viqr)—를 도입한다.
• 후행 분포의 변분 표현을 활용하여 할당 함수의 빠른 분석적 계산을 가능하게 하여, 몬테카를로 근사보다 평가 비용을 감소시킨다.
• 비축 방향의 사후 분포를 다루기 위해 변분 화이팅(whitening)을 적용하여 노이즈 조건에서 안정성과 성능을 향상시킨다.
• GP 서rogate를 통해 모형 증거의 변분 하한(ELBO)을 계산하기 위해 베이지안 적분을 적용함으로써, 동시에 사후 분포와 모형 증거 추론이 가능하도록 한다.
• 활성 정밀 조정 이전에 고사후 확률 영역으로의 수렴을 가속화하기 위해 웜업 단계를 구현한다.
• 계층적 노이즈 모델을 사용하여 할당 함수에 노이즈 추정치를 통합하고, 민감도 분석을 통해 부정확한 노이즈 추정치에 대한 강건성을 입증한다.

실험 결과

연구 질문

• RQ1 vbmc 프레임워크 내에서 노이즈가 있는 우도 평가 조건에서, 글로벌 할당 함수인 eig와 viqr가 국소 할당 함수를 능가할 수 있는가?
• RQ2 시뮬레이션 기반 모델에서 관측 노이즈 추정치가 부정확할 경우, 확장된 vbmc 방법의 강건성은 어떠한가?
• RQ3 변분 화이팅의 포함이 노이즈 조건에서 비축 방향의 사후 분포에 대해 추론 성능을 향상시키는가?
• RQ4 실제 신경과학 문제에서, viqr를 사용한 vbmc는 다른 최신 기술 수준의 서rogate 기반 추론 방법과 비교해 사후 정확도와 모형 증거 추정에서 어떻게 성능을 내는가?
• RQ5 실제 데이터와 노이즈가 있는 우도를 가진 복잡한 고차원 모델에 적용했을 때, 제안된 방법이 높은 샘플 효율성과 정확도를 유지할 수 있는가?

주요 결과

• viqr를 사용한 vbmc는 노이즈가 있는 우도를 가진 다섯 개인 실제 신경과학 모델의 다양한 벤치마크에서 참값 사후 분포 복원과 모형 증거 추정에서 최신 기술 수준의 성능을 달성한다.
• 이 방법은 국소 할당 함수 및 다른 서rogate 기반 추론 기법보다 뛰어난 성능을 보이며, 특히 노이즈 조건에서의 강건성과 해의 품질 측면에서 뛰어나다.
• 노이즈가 있는 우도 조건에서도 성능 저하가 미미하며, 노이즈 추정치의 표준편차가 σσ ≈ 0.4에 도달할 경우에도 평균 마진널 총변동(MMTV)의 중앙값 증가 폭이 25% 미만으로 유지된다.
• 노이즈 추정치가 진짜 값에서 2.2배 정도로 변동하더라도 성능 저하가 최소한으로 유지되어, 부정확한 노이즈 추정치에 대해 강건함을 입증한다.
• 변분 화이팅의 사용은 비축 방향의 사후 분포에 대해 추론의 안정성과 정확도를 크게 향상시키며, 특히 노이즈가 많은 환경에서 두드러진다.
• 벤치마크는 g-and-k 모델이 서rogate 기반 방법에 비해 비교적 쉽게 해결 가능하다는 점을 보여주며, 실제 신경과학 문제들은 상당한 성능 격차를 드러내어 제안된 테스트 세트의 도전성과 관련성을 입증한다.