[논문 리뷰] Gradient-based Bayesian Experimental Design for Implicit Models using Mutual Information Lower Bounds

Steven Kleinegesse, Michael U. Gutmann|arXiv (Cornell University)|2021. 05. 10.

Gaussian Processes and Bayesian Inference인용 수 6

한 줄 요약

이 논문은 신경망을 통한 효율적 최적화를 가능하게 하는, 미분 가능한 상호정보량 하한을 사용한, 은닉 모델을 위한 기울기 기반 베이지안 실험 설계 프레임워크를 제안한다. 다양한 데이터를 사용해 상호정보량 하한을 추정하는 신경망을 훈련하고, 확률적 기울기 상승을 통해 실험 설계를 동시에 최적화함으로써, 전염병학에서의 확률적 미분 방정식을 포함한 비가역 모델에서 매개변수 추정, 모형 구별, 예측 개선 작업에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

We introduce a framework for Bayesian experimental design (BED) with implicit models, where the data-generating distribution is intractable but sampling from it is still possible. In order to find optimal experimental designs for such models, our approach maximises mutual information lower bounds that are parametrised by neural networks. By training a neural network on sampled data, we simultaneously update network parameters and designs using stochastic gradient-ascent. The framework enables experimental design with a variety of prominent lower bounds and can be applied to a wide range of scientific tasks, such as parameter estimation, model discrimination and improving future predictions. Using a set of intractable toy models, we provide a comprehensive empirical comparison of prominent lower bounds applied to the aforementioned tasks. We further validate our framework on a challenging system of stochastic differential equations from epidemiology.

연구 동기 및 목표

• 우리가 관측 가능한 데이터를 시뮬레이션할 수 있지만, 우도가 비가역적인 은닉 모델에서 베이지안 실험 설계(BED)의 과제를 해결하기 위해.
• 다양한 상호정보량 하한을 지원하는 일반화 가능한 프레임워크를 개발하여 실험 설계를 최적화하기 위해.
• 변분 근사에 의존하지 않고, 확률적 기울기 상승을 통해 신경망 파라미터와 실험 설계를 동시에 최적화할 수 있도록 하기 위해.
• 매개변수 추정을 넘어서 모형 구별 및 미래 예측 작업을 포함한 BED의 적용 범위를 확장하기 위해.
• 완전한 모의 모델과 실제 전염병학적 SDE 모델에 프레임워크를 검증하여, 강건성과 확장성의 가능성을 입증하기 위해.

제안 방법

• 프레임워크는 JSD, NWJ 등 다양한 미분 가능한 상호정보량(MI) 하한을 실험 설계의 유틸리티 함수로 사용한다.
• 신경망은 은닉 모델에서 샘플된 데이터를 사용해 MI 하한을 추정하도록 훈련되며, 확률적 기울기 상승을 통해 파라미터가 갱신된다.
• 신경망과 함께 기울기 역전파를 통해 하한 목적 함수를 통해 실험 설계도 최적화된다.
• 변분 추론을 피하기 위해, 신경망을 사용해 직접적으로 MI 추정과 설계 최적화를 파arameter화한다.
• 여러 하한(예: JSD, NWJ)을 평가하고 비교하며, 훈련에는 JSD 하한을, 검증에는 NWJ 하한을 사용해 분산을 줄인다.
• 이 방법은 매개변수 추정, 모형 구별, 예측 개선 작업에 적용되며, 시뮬레이션 및 실제 SDE 모델에서 검증된다.

실험 결과

연구 질문

• RQ1 상호정보량 하한은 은닉 모델의 베이지안 실험 설계에서 유효한 유틸리티 함수로 효과적으로 사용될 수 있는가?
• RQ2 JSD, NWJ 등 다양한 MI 하한은 BED 작업 전반에서 최적화의 안정성과 성능 측면에서 어떻게 비교되는가?
• RQ3 기울기 상승을 통한 신경망과 실험 설계의 공동 최적화가 기존 방법보다 매개변수 추정 및 모형 구별에서 더 우수한 성능을 내는가?
• RQ4 이 프레임워크는 예측 개선 및 모형 비교와 같은 다양한 과학적 과제에 일반화될 수 있는가?
• RQ5 이 방법은 전염병학에서의 복잡한 비가역 모델, 예를 들어 확률적 미분 방정식에 대해 얼마나 잘 스케일링되고 성능을 내는가?

주요 결과

• 상호정보량 하한에 대한 기울기 상승을 통해 실험 설계를 성공적으로 최적화하였으며, 다양한 작업에서 안정적인 수렴을 보였다.
• 제논-섀논 발산(JSD) 하한은 매끄러운 훈련 곡선과 효과적인 최적화를 보였고, NWJ 하한은 높은 분산을 보였지만 검증에 유용하게 기능했다.
• SIR 및 SEIR 전염병 모델의 경우, 최적의 설계가 항상 초기 측정 시간에 집중되어 있었으며, 이는 모형 반응이 가장 구별 가능성이 높았기 때문이다.
• 실험 예산이 증가할수록 모형 구별 성능이 향상되었지만, SEIR 모형은 SIR 모형보다 반응 역학이 겹쳐져 있어 항상 더 복구하기 어려웠다.
• 모의 모델과 실제 SDE 모델 모두에서 강력한 경험적 성능을 보이며, 이는 복잡한 과학 문제에 대한 적용 가능성을 입증했다.
• 신경망과 실험 설계의 공동 최적화를 통해 변분 근사가 필요 없이 효율적이고 확장 가능한 BED를 실현했다.