[논문 리뷰] Bayesian Experimental Design for Implicit Models by Mutual Information Neural Estimation

Steven Kleinegesse, Michael U. Gutmann|arXiv (Cornell University)|2020. 02. 19.

Advanced Multi-Objective Optimization Algorithms참고 문헌 26인용 수 8

한 줄 요약

이 논문은 신경 상호정보 추정을 사용하여 실험 설계와 사후 추론을 공동으로 최적화하는, 암묵 모델을 위한 새로운 베이지안 실험 설계 방법인 MINEBED를 제안한다. 기울기 상승을 통해 상호정보의 미분 가능한 하한을 최대화함으로써, 명시적 우도나 사후 추정 단계가 필요 없이도 스케일러블하고 고차원적인 실험 설계를 가능하게 한다.

ABSTRACT

Implicit stochastic models, where the data-generation distribution is intractable but sampling is possible, are ubiquitous in the natural sciences. The models typically have free parameters that need to be inferred from data collected in scientific experiments. A fundamental question is how to design the experiments so that the collected data are most useful. The field of Bayesian experimental design advocates that, ideally, we should choose designs that maximise the mutual information (MI) between the data and the parameters. For implicit models, however, this approach is severely hampered by the high computational cost of computing posteriors and maximising MI, in particular when we have more than a handful of design variables to optimise. In this paper, we propose a new approach to Bayesian experimental design for implicit models that leverages recent advances in neural MI estimation to deal with these issues. We show that training a neural network to maximise a lower bound on MI allows us to jointly determine the optimal design and the posterior. Simulation studies illustrate that this gracefully extends Bayesian experimental design for implicit models to higher design dimensions.

연구 동기 및 목표

• 우도가 추정이 불가능하지만 시뮬레이션을 통해 데이터를 생성할 수 있는 암묵 모델을 위한 최적의 실험 설계 문제를 해결한다.
• 고차원 설계 공간에서 모델 파라미터와 데이터 간의 상호정보(MI)를 최대화하는 데 있어 계산상의 비현실성을 극복한다.
• 별도의 추론 단계 없이 최적의 실험 설계와 사후 분포를 동시에 학습하는 스케일러블한 접근법을 개발한다.
• 데이터 생성 과정이 암묵적이고 우도가 없는 경우에도 기울기 기반 실험 설계 최적화를 가능하게 한다.

제안 방법

• 모델 파라미터와 데이터 간의 상호정보의 하한을 최대화하는 데 목적이 있는 신경망을 훈련하기 위해 상호정보 신경추정(MINE)을 활용한다.
• 엔드 투 엔드 훈련을 통해 단일 신경망을 사용해 최적의 실험 설계와 사후 분포를 동시에 추정한다.
• 신경망 파라미터와 설계 변수를 동시에 업데이트하기 위해 기울기 상승을 적용함으로써 고차원 설계 공간에서의 스케일러블 최적화를 가능하게 한다.
• 유용도 함수를 상호정보의 미분 가능한 하한으로 설정하여, 기울기가 가용한 경우 데이터 생성 과정을 통해 역전파가 가능하도록 한다.
• 설계 변수에 대한 기울기가 없는 경우, MINE를 베이지안 최적화와 조합하여 설계를 업데이트하면서 신경망을 훈련한다.
• 훈련된 네트워크를 사용해 추가적인 추론 없이도 최적 설계에서 사후분포 $ p(\bm{\theta} \mid \mathbf{y}, \mathbf{d}) $ 를 직접 계산할 수 있다.

실험 결과

연구 질문

• RQ1 암묵 모델의 고차원 실험 설계 공간에서 상호정보를 효과적으로 최적화할 수 있는가?
• RQ2 명시적 우도 없이도 단일 신경망이 최적의 실험 설계와 근사 사후 분포를 동시에 학습할 수 있는가?
• RQ3 상호정보 하한의 기울기 기반 최적화가 저차원 설정을 넘어서 스케일러블하고 효율적인 실험 설계를 가능하게 하는가?
• RQ4 복잡하고 추정이 어려운 모델을 가진 현실적인 시뮬레이션 시나리오에서 이 방법의 성능은 얼마나 우수한가?
• RQ5 이 방법은 순차적 또는 적응형 실험 설계 설정으로 확장될 수 있는가?

주요 결과

• 제안된 MINEBED 방법은 기존 방법이 실패하는 고차원 설계 공간(예: 가스 누출 사례에서 10차원)에까지 베이지안 실험 설계를 확장하는 데 성공한다.
• 이 방법은 가스 누출 탐지 작업에서 센서를 상류에 배치하여 정보 수확을 극대화하는 등 직관적이고 효과적인 실험 설계를 생성한다.
• 제한된 데이터로도 훈련된 신경망을 통한 사후 분포 추정은 불확실성을 정확히 반영하며 진짜 파라미터 값이 포함된다.
• 한 번의 측정에서 사후 분포는 넓지만 가스 누출의 방향을 정확히 반영한다; 다섯 번의 측정에서는 사후 분포가 더 좁아지고 진짜 원천 위치를 정확히 포괄한다.
• 별도의 우도 없는 추론 단계가 필요 없이 설계와 사후 분포를 공동 최적화함으로써 계산 오버헤드를 줄인다.
• 데이터 생성 과정이 설계 변수에 대해 기울기를 제공하지 않는 경우에도 MINE와 베이지안 최적화를 조합함으로써 방법의 효과성이 유지된다.