[논문 리뷰] Efficient Bayesian Experimental Design for Implicit Models

Steven Kleinegesse, Michael U. Gutmann|arXiv (Cornell University)|2018. 10. 23.

Advanced Multi-Objective Optimization Algorithms참고 문헌 27인용 수 8

한 줄 요약

이 논문은 추정 가능하지만 정확한 우도가 없는 모델을 위한 새로운 베이지안 실험 설계 프레임워크를 제안한다. 이는 우도 자유 추론을 통한 비율 추정(LFIRE)을 사용하여 사후 분포와 상호정보량을 근사하고, 이를 유틸리티 함수로 사용한다. 또한 고차원 공간에서 최적의 설계를 효율적으로 찾기 위해 베이지안 최적화를 적용한다. 8차원 SIR 모델에서 약 15회의 유틸리티 평가 이내로 수렴하며, 사후 추정치는 참 수치와 매우 유사하다.

ABSTRACT

Bayesian experimental design involves the optimal allocation of resources in an experiment, with the aim of optimising cost and performance. For implicit models, where the likelihood is intractable but sampling from the model is possible, this task is particularly difficult and therefore largely unexplored. This is mainly due to technical difficulties associated with approximating posterior distributions and utility functions. We devise a novel experimental design framework for implicit models that improves upon previous work in two ways. First, we use the mutual information between parameters and data as the utility function, which has previously not been feasible. We achieve this by utilising Likelihood-Free Inference by Ratio Estimation (LFIRE) to approximate posterior distributions, instead of the traditional approximate Bayesian computation or synthetic likelihood methods. Secondly, we use Bayesian optimisation in order to solve the optimal design problem, as opposed to the typically used grid search or sampling-based methods. We find that this increases efficiency and allows us to consider higher design dimensions.

연구 동기 및 목표

• 정확한 우도가 없지만 시뮬레이션은 가능한 암묵적 모델에서 베이지안 실험 설계의 과제를 해결하기 위해.
• 정확한 사후 분포가 없는 경우 상호정보량을 유틸리티 함수로 계산하는 데 어려움을 해결하기 위해.
• 고차원 설계 공간에서 격자 탐색을 베이지안 최적화로 대체하여 효율성을 향상시키기 위해.
• 에피데미올로지적 SIR 모델과 같이 여러 관측 시점이 있는 복잡한 과학 모델에서 실용적인 실험 설계를 가능하게 하기 위해.

제안 방법

• 우도 자유 추론을 통한 비율 추정(LFIRE)을 사용하여 사후 밀도 대 사전 밀도 비율을 추정함으로써, 명시적 우도 없이도 상호정보량 계산이 가능하도록 한다.
• 모델의 매개변수와 데이터 사이의 상호정보량을 유틸리티 함수로 사용하며, 이는 매개변수 추정과 효율적 추론에 최적이다.
• 기대 유틸리티를 최대화하기 위해 베이지안 최적화를 적용하여 고차원에서의 격자 탐색이 불가능한 문제를 피한다.
• 몬테카를로 샘플링과 커널 밀도 추정을 사용하여 LFIRE 샘플로부터 사후 근사값을 스무딩한다.
• 설계 변수를 모델 입력의 일부로 간주함으로써 실험 설계와 LFIRE를 통합하여 데이터 수집 전략의 공동 최적화를 가능하게 한다.
• 알고리즘 1을 사용하여 기대 유틸리티를 평가하고, 베이지안 최적화를 반복적으로 적용하여 설계 공간을 정밀화한다.

실험 결과

연구 질문

• RQ1 정확한 우도가 없는 암묵적 모델에서 상호정보량을 유틸리티 함수로 효과적으로 사용할 수 있는가?
• RQ2 명시적 우도가 없을 경우 사후 분포를 효율적으로 근사하여 유틸리티 함수를 계산할 수 있는가?
• RQ3 고차원 실험 설계 문제에서 베이지안 최적화가 격자 탐색이나 샘플링 기반 방법보다 우수한가?
• RQ4 제안된 프레임워크는 여러 관측 시점이 있는 실제 고차원 모델, 예를 들어 SIR 모델에서 어떻게 성능을 발휘하는가?
• RQ5 등간격 샘플링에 비해 최적의 설계가 매개변수 추정 정확도를 얼마나 향상시키는가?

주요 결과

• 이 프레임워크는 LFIRE를 사용하여 암묵적 모델에서 상호정보량을 유틸리티 함수로 성공적으로 계산함으로써, 이전 연구에서의 주요 기술적 장벽을 극복하였다.
• 베이지안 최적화를 통해 8차원 SIR 모델에서 약 15회의 기대 유틸리티 평가 이내로 최적 설계에 수렴함을 확인하여 높은 효율성을 입증하였다.
• 최적 설계에서 매개변수 추정치는 (β̂, γ̂) = (0.13, 0.05)였고, 95% 신뢰구간은 각각 (0.02, 0.18)과 (0.02, 0.07)였으며, 참 값 (0.15, 0.05)을 모두 포함하였다.
• 최적 설계의 기대 유틸리티(U(d*) = 1.10)는 등간격 샘플링(U(deq) = 1.08)보다 略로 높아 정보 획득의 향상을 확인하였다.
• 이 방법은 더 높은 차원의 설계 공간으로도 확장 가능하여, 격자 탐색이 계산적으로 불가능한 상황에서도 적용 가능하다.
• 초기 결과에 따르면 이 프레임워크는 순차적 실험 설계로 확장 가능할 것으로 보이지만, 이는 아직 열린 연구 방향이다.