[논문 리뷰] Robust Expected Information Gain for Optimal Bayesian Experimental Design Using Ambiguity Sets

Jinwoo Go, Tobin Isaac|arXiv (Cornell University)|2022. 05. 20.

Optimal Experimental Design Methods인용 수 5

한 줄 요약

이 논문은 KL-발산으로부터 원래의 사전분포에 가까운 불확실성 집합 내에서 기대 정보량을 최소화하는 방식으로 베이지안 실험 설계를 향상시키는 Robust Expected Information Gain (REIG)을 소개한다. REIG는 표본에 대한 로그-합-지수 후처리를 통해 EIG 추정을 안정화시켜 사전분포의 잘못된 특정화와 샘플링 노이즈에 대한 저항력을 높이며, 수치 결과에서는 VNMC, ACE, MINE와 같은 추정기의 편향을 수정하면서도 최적의 실험 설계 선택을 유지함을 보여준다.

ABSTRACT

The ranking of experiments by expected information gain (EIG) in Bayesian experimental design is sensitive to changes in the model's prior distribution, and the approximation of EIG yielded by sampling will have errors similar to the use of a perturbed prior. We define and analyze \emph{robust expected information gain} (REIG), a modification of the objective in EIG maximization by minimizing an affine relaxation of EIG over an ambiguity set of distributions that are close to the original prior in KL-divergence. We show that, when combined with a sampling-based approach to estimating EIG, REIG corresponds to a `log-sum-exp' stabilization of the samples used to estimate EIG, meaning that it can be efficiently implemented in practice. Numerical tests combining REIG with variational nested Monte Carlo (VNMC), adaptive contrastive estimation (ACE) and mutual information neural estimation (MINE) suggest that in practice REIG also compensates for the variability of under-sampled estimators.

연구 동기 및 목표

• 베이지안 실험 설계에서 기대 정보량(EIG)이 사전분포의 잘못된 특정화에 민감한 문제를 해결하기 위해.
• 고차원적이거나 복잡한 모델에서 샘플링 기반 근사가 오차와 불안정성에 취약한 상황에서 EIG 추정의 신뢰성을 향상시키기 위해.
• 사전분포에 대한 불확실성 하에서 실험 설계의 최적성을 유지하면서도 실용적이고 계산 효율적인 방법을 개발하기 위해.
• REIG가 VNMC, ACE, MINE와 같은 추정기의 편향을 줄여주며, 부족한 샘플로 인한 추정의 편향을 보정함으로써 추정 정확도를 향상시키는지 확인하기 위해.

제안 방법

• 기준 사전분포 p(θ)로부터 KL-발산으로 ε 이내의 사전분포 집합인 불확실성 집합을 정의하여 타당한 사전분포 변형을 표현한다.
• 이 불확실성 집합 위에서 최대화된 기대 정보량을 최소화하는 방식으로 Robust Expected Information Gain(REIG)을 수립하여 악성 사전분포 편차에 대한 저항력을 확보한다.
• REIG 추정이 표준 EIG 추정기에서 얻은 표본에 대한 로그-합-지수 안정화로 환원됨을 보여주어 효율적인 후처리를 가능하게 한다.
• 볼록 해석을 통해 REIG 추정이 기존의 샘플링 기반 EIG 추정 방법과 호환되는 1차원 볼록 최적화 문제를 풀이함으로써 수행됨을 도출한다.
• REIG를 Variational Nested Monte Carlo(VNMC), Adaptive Contrastive Estimation(ACE), Mutual Information Neural Estimation(MINE)과 같은 세 가지 현대적 EIG 추정기와 통합한다.
• 베이킹 문제로써 가우시안 모델과 약물동태학 모델을 적용하여 안정성과 수렴성을 평가한다.

실험 결과

연구 질문

• RQ1 실제로 사전분포의 잘못된 특정화가 EIG 기반 실험 설계의 신뢰성에 어떤 영향을 미치는가?
• RQ2 사전분포의 작은 변형에 대해서도 안정적인 EIG의 강건한 공식화가 가능할 수 있는가?
• RQ3 기존의 샘플링 기반 EIG 추정기의 핵심 구조를 수정하지 않고도 REIG를 효율적으로 구현할 수 있는가?
• RQ4 REIG는 샘플링 노이즈 하에서 VNMC, ACE, MINE와 같은 EIG 추정기의 정확도와 수렴성을 향상시키는가?
• RQ5 불확실성 집합 반경 ε이 실제 실험 설계 과제에서 REIG의 강건성과 성능에 어떤 영향을 미치는가?

주요 결과

• REIG는 표본화된 EIG 값에 로그-합-지수 변환을 적용함으로써 EIG 추정을 안정화시키며, 부족한 샘플로 인한 분산과 편향을 효과적으로 감소시킨다.
• 불확실성 집합 반경 ε = 0.1일 때, ACE 추정기의 EIG 하한선이 진짜 EIG를 초과하고, VNMC의 상한선은 그 이하에 위치하여 REIG가 추정기의 편향을 수정함을 보여준다.
• 약물동태학 모델에서, ε = 0.1인 REIG를 사용한 MINE는 표준 MINE가 크게 낮게 평가하는 것과는 달리 진짜 값에 가까운 EIG 추정치를 도출하였다.
• 표준 EIG 추정기가 편향을 보일 때도 REIG는 가우시안 모델과 약물동태학 벤치마크에서 최적의 실험 설계 선택을 유지한다.
• 이 방법은 계산적으로 효율적이며, 기존의 EIG 표본에 대한 1차원 볼록 최적화 단계만 추가로 필요로 하여 VNMC, ACE, MINE와 즉시 통합 가능하다.
• 결과는 REIG를 상한선과 하한선 추정기인 ACE와 VNMC와 결합하면, 최적의 불확실성 집합 반경 ε를 사후적으로 추정할 수 있을 것임을 시사한다.