[논문 리뷰] Constructing Summary Statistics for Approximate Bayesian Computation: Semi-automatic ABC

Paul Fearnhead, Dennis Prangle|arXiv (Cornell University)|2010. 04. 07.

Markov Chains and Monte Carlo Methods참고 문헌 38인용 수 37

한 줄 요약

이 논문은 근사 베이지안 계산(ABC)에서 요약 통계량을 구축하기 위한 반자동 방법을 제안하며, 보조 시뮬레이션 단계를 통해 매개변수의 사후 평균을 요약 통계량으로 추정하여 추론 정확도를 크게 향상시킵니다. 이 방법은 데이터에 대한 사후 평균의 회귀 기반 추정을 사용하여, 수시로 사용되는 요약 통계량보다 더 효율적이고 정확한 ABC 추론을 가능하게 합니다.

ABSTRACT

Many modern statistical applications involve inference for complex stochastic models, where it is easy to simulate from the models, but impossible to calculate likelihoods. Approximate Bayesian computation (ABC) is a method of inference for such models. It replaces calculation of the likelihood by a step which involves simulating artificial data for different parameter values, and comparing summary statistics of the simulated data to summary statistics of the observed data. Here we show how to construct appropriate summary statistics for ABC in a semi-automatic manner. We aim for summary statistics which will enable inference about certain parameters of interest to be as accurate as possible. Theoretical results show that optimal summary statistics are the posterior means of the parameters. While these cannot be calculated analytically, we use an extra stage of simulation to estimate how the posterior means vary as a function of the data; and then use these estimates of our summary statistics within ABC. Empirical results show that our approach is a robust method for choosing summary statistics, that can result in substantially more accurate ABC analyses than the ad-hoc choices of summary statistics proposed in the literature. We also demonstrate advantages over two alternative methods of simulation-based inference.

연구 동기 및 목표

• 근사 베이지안 계산(ABC)에서 정보가 풍부한 요약 통계량을 선택하는 데 도전하는 문제를 해결하기 위해, 부적절한 선택은 효율성과 정확도를 떨어뜨린다.
• ABC에서 추정 오차를 최소화하는 데이터 기반의 체계적인 요약 통계량 구축 방법을 개발하기 위해.
• 해석식 표현이 필요 없는 시뮬레이션을 활용하여 최적의 요약 통계량을 추정하는 실용적이고 반자동의 프레임워크를 제공하기 위해.
• 관심 있는 매개변수의 사후 평균과 일치시키는 요약 통계량을 통해 ABC 사후 근사의 정확도를 향상시키기 위해.

제안 방법

• 이론적으로 추정 손실을 최소화하기 위해 이상적인 요약 통계량으로서 매개변수의 사후 평균을 사용하는 것이 제안된다.
• 관측된 데이터와 매개변수의 사후 평균 간의 기능적 관계를 회귀를 통해 추정하기 위해 보조 시뮬레이션 단계를 수행한다.
• 추정된 사후 평균 함수를 ABC 알고리즘 내에서 요약 통계량으로 사용하여 수시로 사용되는 선택을 대체한다.
• 핵밀도 추정과 대역폭 파rameter를 사용하여 요약 통계량의 가능도를 근사함으로써, ABC 사후 계산을 가능하게 한다.
• 이 방법은 모형 오류에 대해 강건하며, 전체 가능도가 필요 없이 오직 모형에서의 정방향 시뮬레이션에 의존한다.
• 이론적 근거로는, 정규성 조건 하에 대역폭이 감소함에 따라 결과 ABC 사후가 진짜 사후로 수렴한다는 것을 보여준다.

실험 결과

연구 질문

• RQ1 관심 있는 매개변수의 추정 오차를 최소화하는 방식으로 ABC 요약 통계량을 어떻게 구성할 수 있는가?
• RQ2 데이터 기반의 시뮬레이션 기반 방법이 ABC 추론에서 수시로 사용되는 요약 통계량보다 우월한가?
• RQ3 ABC에서 사후 평균을 요약 통계량으로 사용하는 데 이론적 근거는 무엇인가?
• RQ4 반자동 접근법은 다른 시뮬레이션 기반 추론 방법과 비교해 성능가능성이 어떻게 되는가?
• RQ5 이 방법은 복잡한 스토케스틱 모델에서 ABC 사후 근사의 정확도를 어느 정도 향상시키는가?

주요 결과

• 제안된 방법은 문헌에서 흔히 사용되는 수시로 선택된 요약 통계량보다 훨씬 더 정확한 ABC 분석을 가능하게 한다.
• 추정된 사후 평균을 요약 통계량으로 사용할 경우, 사후 분산과 평균제곱오차로 측정된 바에 비해 진짜 사후에 더 가까운 ABC 사후를 도출한다.
• 이 방법은 모형 복잡성에 대해 강건하며, 진짜 가능도가 계산이 불가능한 경우에도 잘 작동한다.
• 이론적 분석에 따르면, 제안된 요약 통계량을 기반으로 한 ABC 사후가 대역폭이 0으로 수렴함에 따라 진짜 사후로 수렴한다.
• 실험 결과는 이 방법이 추정 정확도와 효율성 측면에서 두 가지 다른 시뮬레이션 기반 추론 기법보다 뛰어나다는 것을 보여준다.
• 보조 시뮬레이션 단계는 분석 계산이 필요 없이도 최적의 요약 통계량이 되는 사후 평균 함수를 정확하게 추정할 수 있게 한다.