[논문 리뷰] Sampling for Inference in Probabilistic Models with Fast Bayesian Quadrature

Tom Gunter, Michael A. Osborne외 3명|arXiv (Cornell University)|2014. 11. 03.

Gaussian Processes and Bayesian Inference참고 문헌 18인용 수 40

한 줄 요약

이 논문은 비선형성과 비음성 조건을 만족시키기 위해 우도의 제곱근 변환을 사용하고, 변환된 피드백 함수의 사후 분산을 최소화하는 데 초점을 맞춘 새로운 활성 샘플링 기반의 빠른 베이지안 적분법인 Warped Sequential Active Bayesian Integration (WSABI)을 제안한다. WSABI는 합성 및 실제 문제에서 몬테카를로 방법과 안내된 중요도 샘플링보다도 벽시계 시간 기준으로 더 빠른 수렴을 달성하며, 특히 우도 평가가 저비용일 경우에도 기준 성능을 초월한다.

ABSTRACT

We propose a novel sampling framework for inference in probabilistic models: an active learning approach that converges more quickly (in wall-clock time) than Markov chain Monte Carlo (MCMC) benchmarks. The central challenge in probabilistic inference is numerical integration, to average over ensembles of models or unknown (hyper-)parameters (for example to compute the marginal likelihood or a partition function). MCMC has provided approaches to numerical integration that deliver state-of-the-art inference, but can suffer from sample inefficiency and poor convergence diagnostics. Bayesian quadrature techniques offer a model-based solution to such problems, but their uptake has been hindered by prohibitive computation costs. We introduce a warped model for probabilistic integrands (likelihoods) that are known to be non-negative, permitting a cheap active learning scheme to optimally select sample locations. Our algorithm is demonstrated to offer faster convergence (in seconds) relative to simple Monte Carlo and annealed importance sampling on both synthetic and real-world examples.

연구 동기 및 목표

• 확률 모델의 수치적 통합에서 마르코프 체인 몬테카를로(MCMC) 방법의 비효율성과 열악한 수렴 진단 문제를 해결하기 위해.
• 우도 평가가 저비용일 경우에도 적용이 제한되는 전통적 베이지안 적분(BQ)의 높은 계산 비용을 해결하기 위해.
• 근사 오차 없이 우도의 비음성 조건을 유지하는 모델 기반 추론 프레임워크를 개발하기 위해.
• 정적 불확실성 감소를 위해 최적의 평가 지점 선택 전략을 설계하여 통합 추정치의 불확실성을 최소화하는 빠른 활성 샘플링 전략을 개발하기 위해.
• 특히 우도 평가 비용이 낮은 환경에서도 표준 몬테카를로 및 안내된 중요도 샘플링보다 벽시계 시간 기준으로 더 빠른 수렴을 달성하기 위해.

제안 방법

• 우도의 비음성 조건을 자연스럽게 만족시키기 위해 피드백 함수에 제곱근 가우시안 프로세스(GP) 사전분포를 도입하여 이전의 로그 변환 기반 BQ 접근법에서 사용하는 근사 기법을 피한다.
• 우도 함수의 제곱근에 GP 사전분포를 적용하여 비선형성과 넓은 동적 범위를 효과적으로 처리하고 비음성을 보장하는 비선형 변환된 우도 모델을 사용한다.
• 변환된 피드백 함수의 사후 분산 기대값을 최대화하는 방식으로 새로운 샘플 지점을 선택하는 빠른 활성 샘플링 전략을 도입하여 탐색과 이용의 균형을 이룬다.
• 순차적이고 활성 학습 기반의 전략을 적용하여 높은 불확실성과 높은 확률 질량이 있는 영역에 집중함으로써 통합 추정치의 엔트로피를 감소시킨다.
• 임의의 사전 밀도에 대해 통합이 가능하도록 중요도 재가중 기법을 적용하여 표준 정규 사전을 초월한 적용 가능성을 확장한다.
• GP와 통합에 대한 해석적 사후 갱신을 사용하여 효율적인 추론과 불확실성 정량화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 우도 평가가 계산적으로 저비용일 경우에도, 모델 기반의 베이지안 적분 접근법이 표준 몬테카를로 방법보다 벽시계 시간 기준으로 더 빠른 수렴을 달성할 수 있는가?
• RQ2 제곱근 변환을 통한 우도 모델의 비음성 조건 강제가 로그 변환 또는 직접 GP 모델링 대비 수치적 안정성과 정확도를 향상시키는가?
• RQ3 비선형 피드백 함수의 사후 분산 기반 빠른 활성 샘플링 전략이 무작위 또는 고정 샘플링보다 베이지안 적분에서 성능을 뛰어나게 하는가?
• RQ4 제안된 방법의 성능은 매개변수 공간의 차원 증가에 따라 어떻게 변화하는가?
• RQ5 제안된 방법은 초모수의 잘못된 설정에 대해 강건하며, 실제적인 비합성 우도 표면에서도 효과적으로 작동하는가?

주요 결과

• WSABI는 합성 및 실제 기준 문제에서 단순 몬테카를로 및 안내된 중요도 샘플링보다 벽시계 시간 기준으로 더 빠른 수렴을 달성한다.
• 우도 평가가 저비용일 경우에도 WSABI는 오차 감소량 대비 시간 단위 성능에서 표준 몬테카를로 및 AIS를 뛰어넘어 더 뛰어난 샘플 효율성을 보였다.
• 합성 혼합 모델에서 WSABI-m(중간 탐색)은 약간 더 뛰어난 성능를 보였지만, WSABI-l(낮은 탐색)은 전체적으로 더 빠르고 고차원 문제에서 더 효과적이었다.
• 고차원 문제에서는 WSABI-l이 WSABI-m보다 더 뛰어난 성능를 보였으며, 이는 높은 확률 질량 영역을 적극적으로 이용하는 것이 광범위한 탐색보다 더 효과적임을 시사한다.
• 제곱근 변환을 통한 비선형 GP 모델은 근사 오차 없이 비음성 조건을 성공적으로 강제하여 로그 변환 대비 안정성과 정확도를 향상시켰다.
• 사후 분산 기대값 최대화 기반의 활성 샘플링 전략은 탐색과 이용의 균형을 효과적으로 유지하여 통합에 대한 불확실성 감소 속도를 높였다.