[논문 리뷰] A Deep Learning Method for Comparing Bayesian Hierarchical Models

Lasse Elsemüller, Martin Schnuerch외 2명|arXiv (Cornell University)|2023. 01. 27.

Bayesian Modeling and Causal Inference인용 수 4

한 줄 요약

이 논문은 복잡한 계층적 모델, 특히 암묵적 우도를 가진 모델을 포함하여 계층적 베이지안 모델 비교(BMC)를 위한 딥러닝 방법을 제안한다. 이 방법은 브릿지 샘플링과 유사한 높은 정확도를 달성하면서도 계산 비용을 크게 감소시켜 효율적이고, 추론을 보상하는(amortized) 베이즈 요인과 사후 모델 확률을 추정할 수 있다. 이는 비가역적인 인지 모델에 대해 성공적으로 적용되었으며, 전이 학습의 이점도 제공한다.

ABSTRACT

Bayesian model comparison (BMC) offers a principled approach for assessing the relative merits of competing computational models and propagating uncertainty into model selection decisions. However, BMC is often intractable for the popular class of hierarchical models due to their high-dimensional nested parameter structure. To address this intractability, we propose a deep learning method for performing BMC on any set of hierarchical models which can be instantiated as probabilistic programs. Since our method enables amortized inference, it allows efficient re-estimation of posterior model probabilities and fast performance validation prior to any real-data application. In a series of extensive validation studies, we benchmark the performance of our method against the state-of-the-art bridge sampling method and demonstrate excellent amortized inference across all BMC settings. We then showcase our method by comparing four hierarchical evidence accumulation models that have previously been deemed intractable for BMC due to partly implicit likelihoods. Additionally, we demonstrate how transfer learning can be leveraged to enhance training efficiency. We provide reproducible code for all analyses and an open-source implementation of our method.

연구 동기 및 목표

• 고차원적이고 중첩된 매개변수 공간으로 인해 계층적 모델에 대한 베이지안 모델 비교(BMC)가 비가역적인 문제로 인해 발생하는 문제를 해결하기 위해.
• 고차원 매개변수 공간에 대한 명시적 주변화를 피하는 확장 가능한 시뮬레이션 기반 BMC 방법을 개발하기 위해.
• 실제 데이터 분석 이전에 반복적인 모델 비교를 신속하게 수행할 수 있도록, 보상 추론을 통한 빠른 모델 비교를 가능하게 하기 위해.
• 인지 과학에서 사용되는 시뮬레이션 기반 모델과 같은 암묵적 우도를 가진 계층적 모델로 BMC의 적용 범위를 확장하기 위해.
• 모델 캘리브레이션을 진단하고, 학습 효율성을 향상시키기 위해 전이 학습을 지원하기 위해.

제안 방법

• 이 방법은 확률적 프로그램에서 직접적으로 베이즈 요인과 사후 모델 확률을 근사하기 위해 계층적 신경망 아키텍처를 활용한다.
• 이것은 베이즈플로우 프레임워크에 기반하여, 경쟁적인 계층적 모델의 시뮬레이션 데이터에서 엔드 투 엔드로 훈련이 가능하게 한다.
• 모델은 시뮬레이션된 데이터를 사용하여 모델 증거와 사후 모델 확률을 예측하도록 훈련되며, 이는 새로운 데이터셋에 대해 보상 추론을 가능하게 한다.
• 신경망 근사의 자기 일관성과 신뢰성 평가를 위해 캘리브레이션 오차 지표를 계산한다.
• 유사한 모델 가족에 대해 사전에 훈련된 네트워크를 미세조정함으로써 전이 학습을 지원하여, 새로운 작업에 대한 훈련 시간을 단축시킨다.
• 이 방법은 명시적 우도를 가진 모델과 몬테카를로 시뮬레이터로만 접근 가능한 모델(암묵적 우도) 모두에 적용 가능하다.

(a) Marginal Likelihoods

실험 결과

연구 질문

• RQ1 복잡하고 고차원적인 매개변수 구조를 가진 계층적 모델에 대해 딥러닝 모델이 베이즈 요인과 사후 모델 확률을 정확하게 근사할 수 있는가?
• RQ2 정확도와 계산 효율성 측면에서 제안된 딥러닝 방법이 최신 기술인 브릿지 샘플링과 비교해 어떻게 성능을 내는가?
• RQ3 이 방법은 인지심리학에서 사용되는 암묵적 우도를 가진 계층적 모델에 효과적으로 적용될 수 있는가?
• RQ4 이 방법을 새로운 그러나 관련된 계층적 모델에 적용할 때 전이 학습이 훈련 시간을 얼마나 줄일 수 있는가?
• RQ5 이 방법의 자체 캘리브레이션 오차는 모델 일관성에 대한 신뢰할 수 있는 진단 도구로 활용될 수 있는가?

주요 결과

• 딥러닝 방법은 모든 테스트된 BMC 설정에서 브릿지 샘플링과 유사한 성능을 보이며, 베이즈 요인과 사후 모델 확률 근사에 높은 정확도를 달성한다.
• 이 방법은 보상 추론을 가능하게 하여, 새로운 데이터셋에 대해 다시 학습하지 않고도 모델 확률을 신속하게 재추정할 수 있다.
• 이 방법은 부분적으로 암묵적 우도를 가진 네 개의 계층적 증거 누적 모델을 성공적으로 비교하였으며, 이는 이전에는 BMC에 비가역적이었던 문제였다.
• 이 방법의 캘리브레이션 오차는 모델 일관성에 대한 신뢰할 수 있는 진단 도구를 제공하며, 낮은 오차는 잘 캘리브레이션된 사후 추정을 의미한다.
• 전이 학습은 새로운 계층적 모델에 이 방법을 적용할 때 훈련 시간을 크게 단축시켜, 확장성과 재사용성을 향상시킨다.
• 오픈소스 구현과 재현 가능한 코드가 제공되어 전체 재현성과 커뮤니티의 도입을 지원한다.

(b) Posterior Model Probabilities