[논문 리뷰] Variational Bayesian Monte Carlo

Luigi Acerbi|arXiv (Cornell University)|2018. 10. 12.

Gaussian Processes and Bayesian Inference인용 수 12

한 줄 요약

이 논문은 비용이 많이 들고 블랙박스인 가능도에 대해 후행 분포와 모형 증거를 근사하기 위해 변분 추론과 가우시안 프로세스 기반 베이지안 적분법을 조합한 샘플 효율적인 프레임워크인 변분 베이지안 몬테카를로(VBMC)를 소개한다. VBMC는 최대 D=10까지의 합성 및 실제 신경 모델에서 가능도 평가 수를 제한된 조건에서도 뛰어난 정확도와 일관성으로 우수한 성능을 보이며, 기존 방법들을 능가한다.

ABSTRACT

Many probabilistic models of interest in scientific computing and machine learning have expensive, black-box likelihoods that prevent the application of standard techniques for Bayesian inference, such as MCMC, which would require access to the gradient or a large number of likelihood evaluations. We introduce here a novel sample-efficient inference framework, Variational Bayesian Monte Carlo (VBMC). VBMC combines variational inference with Gaussian-process based, active-sampling Bayesian quadrature, using the latter to efficiently approximate the intractable integral in the variational objective. Our method produces both a nonparametric approximation of the posterior distribution and an approximate lower bound of the model evidence, useful for model selection. We demonstrate VBMC both on several synthetic likelihoods and on a neuronal model with data from real neurons. Across all tested problems and dimensions (up to $D = 10$), VBMC performs consistently well in reconstructing the posterior and the model evidence with a limited budget of likelihood evaluations, unlike other methods that work only in very low dimensions. Our framework shows great promise as a novel tool for posterior and model inference with expensive, black-box likelihoods.

연구 동기 및 목표

• 표준 MCMC나 변분 방법이 높은 평가 비용으로 인해 비현실적인 고비용 블랙박스 가능도를 가진 모형에서의 베이지안 추론 문제를 해결한다.
• 가능도 평가 예산이 제한된 조건에서 후행 분포와 모형 증거(경계 가능도)를 동시에 근사한다.
• 복잡한 가능도가 다중모달성, 무거운 꼬리, 강한 매개변수 상관관계를 보일 때조차 중간 차원(D=10 이하)에서 효과적으로 작동하는 방법을 개발한다.
• 후행 분포 또는 모형 증거 중 하나만 고려하는 기존의 서rogate 기반 방법의 한계를 극복한다.
• 과학 계산 및 기계 학습 응용 분야에서 계산 비용이 많이 드는 모형에 적합한 강력하고 샘플 효율적인 추론 프레임워크를 제공한다.

제안 방법

• 변분 매개변수 ϕ의 최적화를 통해 KL 발산을 최소화함으로써 진정한 후행 분포를 가우시안 프로세스 기반의 파라미터 가족 qϕ(x)로 근사한다.
• 변분 목표에서 계산이 불가능한 경계 가능도 적분을 GP 기반의 베이지안 적분 근사로 대체하여 효율적인 수치 적분을 가능하게 한다.
• 활성 샘플링을 통해 할당 함수(예: a_pro)를 활용하여 가능도 평가를 전략적으로 선택함으로써, 후행 밀도가 높은 영역에서 GP 서rogate의 정확도를 향상시킨다.
• 가우시안 프로세스를 사용하여 로그 결합 분포 log p(D|x)p(x)를 모델링하고, GP 사후분포를 활용해 샘플링을 안내하며 불확실성 정량화와 함께 적분을 추정한다.
• GP 초모수를 최적화하고 반복적으로 변분 근사를 업데이트함으로써 시간이 지남에 따라 계산 비용을 줄인다.
• GP 서rogate를 변분 목표에 통합하여 모형 증거의 하한(ELBO)을 계산함으로써 모형 선택을 가능하게 한다.

실험 결과

연구 질문

• RQ1 제한된 함수 평가 수로 고비용 블랙박스 가능도에 대해 후행 분포와 모형 증거를 동시에 근사할 수 있는 통합 프레임워크가 존재하는가?
• RQ2 VBMC는 다중모달성, 꼬리가 두꺼운 분포, 강한 매개변수 상관관계를 갖는 가능도에서 어떻게 성능을 발휘하는가?
• RQ3 다양한 합성 및 실제 문제에서 VBMC는 정확도와 샘플 효율성 측면에서 기존 방법보다 뛰어나게 성능을 발휘하는가?
• RQ4 VBMC의 후행 분포 근사 품질이 서rogate 전용 또는 추론 전용 방법보다 모형 증거 추정에 얼마나 기여하는가?
• RQ5 VBMC의 알고리즘 비용은 가능도 평가 횟수에 따라 어떻게 변화하며, WSABI나 BBQ와 비교해 어떻게 다른가?

주요 결과

• VBMC는 최대 D=10 차원에서 합성 가능도와 실제 신경 데이터를 포함한 모든 테스트 케이스에서 후행 분포와 모형 증거를 높은 정확도로 일관되게 재구성한다.
• 복잡하고 비트리비얼한 가능도에서 다중모달성과 상관관계를 보일 경우, VBMC는 WSABI, BBQ, BAPE보다 후행 분포 정확도와 모형 증거 추정에서 뛰어난 성능을 보인다.
• V1 신경 모델(D=7)에서 VBMC는 단지 250~300회의 가능도 평가로 중앙값 기준 가우시안화된 대칭 KL 발산이 1 이하로 낮아졌으며, 바람직한 임계값 이하를 유지했다.
• VBMC의 평균 함수 평가 당 알고리즘 비용은 중간 수준(약 2~3초)이며, 약 275회의 평가 이후 초모수 샘플링에서 최적화로 전환되면서 크게 감소한다.
• 제어 실험 결과, VBMC는 다른 방법보다 더 높은 품질의 샘플을 생성함을 입증하였으며, 이는 VBMC 샘플을 기반으로 WSABI-L를 사용했을 때 향상된 LML 추정치로 확인되었다.
• VBMC 샘플에 직접 GP를 피팅하면 다른 방법보다 더 나은 후행 분포 근사가 가능하지만, 여전히 VBMC의 변분 후행 분포보다 정확도가 떨어지므로 VBMC의 변분 근사 품질이 확인된다.