[논문 리뷰] AABC: approximate approximate Bayesian computation when simulating a large number of data sets is computationally infeasible

Erkan O. Buzbas, Noah A. Rosenberg|arXiv (Cornell University)|2013. 01. 26.

Markov Chains and Monte Carlo Methods참고 문헌 42인용 수 3

한 줄 요약

이 논문은 시뮬레이션 비용이 과도하게 높아 데이터 시뮬레이션을 수행하기 어려운 복잡한 기계적 모델에 대해 베이지안 추론을 가능하게 하는 AABC (Approximate Approximate Bayesian Computation) 방법을 제안한다. 유한한 수의 시뮬레이션을 통해 비기계적이고 재표본화된 모델을 구축함으로써 AABC는 큰 사후 분포 표본을 효율적으로 생성할 수 있으며, 시뮬레이션 크기와 데이터 크기가 증가함에 따라 진짜 ABC 사후분포로 수렴한다.

ABSTRACT

Approximate Bayesian computation (ABC) methods perform inference on model-specific parameters of mechanistically motivated parametric statistical models when evaluating likelihoods is difficult. Central to the success of ABC methods is computationally inexpensive simulation of data sets from the parametric model of interest. However, when simulating data sets from a model is so computationally expensive that the posterior distribution of parameters cannot be adequately sampled by ABC, inference is not straightforward. We present approximate approximate Bayesian computation" (AABC), a class of methods that extends simulation-based inference by ABC to models in which simulating data is expensive. In AABC, we first simulate a limited number of data sets that is computationally feasible to simulate from the parametric model. We use these data sets as fixed background information to inform a non-mechanistic statistical model that approximates the correct parametric model and enables efficient simulation of a large number of data sets by Bayesian resampling methods. We show that under mild assumptions, the posterior distribution obtained by AABC converges to the posterior distribution obtained by ABC, as the number of data sets simulated from the parametric model and the sample size of the observed data set increase simultaneously. We illustrate the performance of AABC on a population-genetic model of natural selection, as well as on a model of the admixture history of hybrid populations.

연구 동기 및 목표

• 기계적 모델에서 데이터를 시뮬레이션하는 데 계산 비용이 너무 높아 표준 ABC를 적용하기 어려운 상황에서 ABC 추론을 수행하는 데 도전하는 것.
• 계산 비용이 높은 이러한 모델에서 모델 전용 매개변수에 대한 효율적인 사후 표본 추출 방법을 개발하는 것.
• 이중 근사화 프레임워크를 통해 기계적 모델링과 비모수 베이지안 방법을 연결하는 것.
• 약간의 규칙성 조건 하에 AABC 사후분포가 진짜 ABC 사후분포로 수렴함을 보장하는 것.

제안 방법

• AABC는 계산 비용이 높은 기계적 모델에서 제한된 수의 데이터 세트를 시뮬레이션하여 고정된 데이터 세트 집합을 형성한다.
• 이러한 시뮬레이션된 데이터 세트를 딜레르트 재표본화하여 비기계적 통계 모델을 구축함으로써 대규모의 가짜 데이터 세트를 효율적으로 시뮬레이션할 수 있도록 한다.
• 사전 분포에서 추출한 각 매개변수 값에 대해, 시뮬레이션된 데이터 세트 집합 내에서 가장 가까운 매개변수를 사용하여 매개변수 공간에 균일 커널 스무딩 근사를 도입한다.
• 이 방법은 루빈의 베이지안 부트스트랩과 유사한 방식으로 초기 시뮬레이션에서 데이터 포인트에 확률을 할당함으로써 반복적인 표본 추출을 가능하게 한다.
• 사후 추론은 원래의 기계적 모델이 아닌, 비기계적 재표본화된 모델에서 유도된 우도를 사용한다.
• 연구자들이 초기 시뮬레이션 수(m)를 설정하여 사전에 계산 시간을 고정할 수 있도록 하여, 목표로 하는 사후 표본 크기를 확보할 수 있다.

실험 결과

연구 질문

• RQ1 기계적 모델에서 데이터를 시뮬레이션하는 데 비용이 너무 높아 표준 ABC를 적용하기 어려운 상황에서 사후 추론을 신뢰성 있게 수행할 수 있는가?
• RQ2 복잡한 모델에서 제한된 수의 시뮬레이션을 어떻게 활용하여 대규모 사후 표본 추출을 가능하게 할 수 있는가?
• RQ3 초기 시뮬레이션 수와 관측 데이터 크기가 증가함에 따라 AABC 사후분포와 진짜 ABC 사후분포 사이의 이론적 관계는 어떠한가?
• RQ4 비기계적이고 재표본화된 모델이 기계적 모델의 모델 전용 매개변수의 해석 가능성을 유지할 수 있는가?

주요 결과

• AABC는 표준 ABC가 데이터 시뮬레이션의 계산 비용으로 실패하는 모델에서 모델 전용 매개변수에 대한 사후 표본 추출을 가능하게 한다.
• 초기 시뮬레이션 수(m)와 관측 데이터 크기가 증가함에 따라 AABC로 얻은 사후분포는 진짜 ABC 사후분포로 수렴한다.
• m의 중간 정도의 값(예: 10^3에서 10^4)에 대해서도 AABC는 표준 ABC 방법이 실패하는 상황에서 충분한 사후 표본을 생성한다.
• 이 방법은 m를 고정함으로써 연구자가 사전에 계산 시간을 설정하고 목표로 하는 사후 표본 크기를 보장할 수 있는 실용적인 해결책을 제공한다.
• AABC는 순수 비모수적 접근 방식과 달리 기계적 모델의 모델 전용 매개변수의 해석 가능성을 유지한다.
• 이 방법은 두 가지 근사를 도입한다: 매개변수 공간에 대한 최근접 이웃 매핑 근사와 시뮬레이션된 데이터의 딜레르트 재표본화를 통한 모델 공간 근사.