[논문 리뷰] Stacking for Non-mixing Bayesian Computations: The Curse and Blessing of Multimodal Posteriors

Yuling Yao, Aki Vehtari외 1명|arXiv (Cornell University)|2020. 06. 22.

Gaussian Processes and Bayesian Inference참고 문헌 95인용 수 34

한 줄 요약

본 논문은 병렬로 비혼합 추론을 결합하기 위하여 Bayesian stacking을 제안한다( MCMC, 변분 추론, 또는 모드 기반 추론). 다중 모달 포스터리를 더 잘 표현하고 예측 성능을 향상시키며, 특히 모델 오정합(misspecification) 하에서 효과적이다.

ABSTRACT

When working with multimodal Bayesian posterior distributions, Markov chain Monte Carlo (MCMC) algorithms have difficulty moving between modes, and default variational or mode-based approximate inferences will understate posterior uncertainty. And, even if the most important modes can be found, it is difficult to evaluate their relative weights in the posterior. Here we propose an approach using parallel runs of MCMC, variational, or mode-based inference to hit as many modes or separated regions as possible and then combine these using Bayesian stacking, a scalable method for constructing a weighted average of distributions. The result from stacking efficiently samples from multimodal posterior distribution, minimizes cross validation prediction error, and represents the posterior uncertainty better than variational inference, but it is not necessarily equivalent, even asymptotically, to fully Bayesian inference. We present theoretical consistency with an example where the stacked inference approximates the true data generating process from the misspecified model and a non-mixing sampler, from which the predictive performance is better than full Bayesian inference, hence the multimodality can be considered a blessing rather than a curse under model misspecification. We demonstrate practical implementation in several model families: latent Dirichlet allocation, Gaussian process regression, hierarchical regression, horseshoe variable selection, and neural networks.

연구 동기 및 목표

• 베이지안 계산에서 다모달 또는 메타스테이블 포스터리에 대한 추론의 난이도를 제시한다.
• 비혼합 체인을 결합하여 예측 성능을 향상시키는 확장 가능하고 병렬화 가능한 방법으로 스태킹을 제안한다.
• 같은 모델을 피팅하는 여러 체인을 결합하도록 스태킹을 확장하고 실용적인 구현 세부 정보를 제공한다.
• 오정합 하에서 스태킹이 완전한 베이지안 추론보다 성능을 우수할 수 있음을 보이는 점근적 특성을 분석한다.
• 다양한 모델에서 접근법을 시연하여 실용적 효과를 보여준다.

제안 방법

• 교차 체인 혼합에 의존하지 않고 여러 모드를 탐색하기 위해 분산된 시작점에서 다수의 병렬 추론 수행
• 각 실행을 결합될 별도의 밀도 p_k(θ|y)로 클러스터링하거나 취급한다
• 각 실행에 대해 Pareto 평활화 중요 샘플링(PSIS)을 사용하여 leave-one-out 예측 밀도 p_k(y_i|y_-i)을 추정한다
• 가중 혼합의 loo lpd를 최대화하도록 단순체 제약 최적화를 풀어 가중치 w를 구한다
• 가중치에 Dirichlet 타입의 규제화를 도입하여 추정의 안정화를 도모하고 체인 간 가중치를 부분적으로 풀링한다
• 최적 가중치를 가중 샘플링 Monte Carlo 형태에 대입하여 목표 다모달 포스터리를 근사한다
• Lpd를 통한 수렴 모니터링 및 선택적 체인 클러스터링을 포함한 구현의 실용적 단계들을 제공한다.

실험 결과

연구 질문

• RQ1 비혼합의 병렬 추론 스태킹이 단일 체인이나 단순 평균보다 더 나은 예측 성능을 낼 수 있는가?
• RQ2 다중 비혼합 체인을 예측을 위해 다모달 포스터리를 가장 잘 표현하도록 어떻게 가중치를 부여해야 하는가?
• RQ3 모델 오정합 하에서 스태킹된 예측이 정확한 베이지안 포스터리에 비해 더 나을 수 있는가?
• RQ4 체인들이 섞이지 않을 때 leave-one-out 예측 밀도를 어떻게 효율적으로 추정할 수 있는가?
• RQ5 다양한 모델 계열과 계산 환경에서 스태킹을 구현하기 위한 실용적 지침은 무엇인가?

주요 결과

• 스태킹은 비혼합 체인들의 가중 합을 제공하여 균등한 추정이나 단일 체인 추정보다 예측 성능을 향상시킬 수 있다.
• 효율적인 중요 샘플링 기반 접근법(PSIS)이 각 체인에서 전체 데이터 적합으로부터 leave-one-out 예측 밀도를 근사할 수 있다.
• 스태킹 가중치는 교차 검증된 예측 정확도를 최대화하여, 전체적으로 다모달한 포스터리 표현을 유지하되 예측에 더 잘 보정된다.
• 모델 오정합 하에서 특정 이론적 시나리오에서 스택 체인 추론이 예측 측면에서 정확한 포스터리에 우월할 수 있다.
• 이 방법은 여러 모델 계열에 걸쳐 시연되어 잠재 디리클레 할당, Gaussian process regression, hierarchical regression, horseshoe variable selection, and neural networks에 대한 실용적 적용 가능성을 보여준다.