[논문 리뷰] Approximate Bayesian computation via empirical likelihood

Kerrie Mengersen, Pierre Pudlo외 1명|arXiv (Cornell University)|2012. 05. 25.

Markov Chains and Monte Carlo Methods참고 문헌 40인용 수 6

한 줄 요약

이 논문은 모델 시뮬레이션과 ABC 매개변수 선택(요약 통계, 거리, 관용 수준)을 경험적 유사도로 대체하는 새로운 근사 베이지안 계산 방법인 ABCel을 소개한다. 이는 유의미한 계산적 절감과 함께 증명 가능한 수렴성을 보장하며, 인구 유전학 및 시계열 모델을 포함한 복잡한 모델에서 뛰어난 성능을 보인다.

ABSTRACT

Approximate Bayesian computation (ABC) has now become an essential tool for the analysis of complex stochastic models when the likelihood function is unavailable. The well-established statistical method of empirical likelihood however provides another route to such settings that bypasses simulations from the model and the choices of the ABC parameters (summary statistics, distance, tolerance), while being provably convergent in the number of observations. Furthermore, avoiding model simulations leads to significant time savings in complex models, such as those used in population genetics. The ABCel algorithm we develop in this paper also provides an evaluation of its own performance through an associated effective sample size. The method is illustrated using several examples, including estimation of standard and quantile distributions, and time series and population genetics models.

연구 동기 및 목표

• 모델 시뮬레이션과 ABC 매개변수 캘리브레이션의 필요성을 피하는 가능도 자유 베이지안 추론 방법을 개발하기 위해.
• 요약 통계, 거리 측정법, 관용 수준과 같은 요소에 의존하지 않는 표준 ABC의 증명 가능한 수렴성을 보장하는 대안을 제공하기 위해.
• 인구 유전학과 같은 복잡한 모델에서 시뮬레이션 단계를 제거함으로써 계산 비용을 절감하기 위해.
• 후행 분포의 품질 평가를 위한 내부 성능 지표로 효과적 표본 크기 추정치를 제공하기 위해.
• 시간 시리즈 및 분위수 분포를 포함한 다양한 모델에서 메서드의 강건성과 정확성을 입증하기 위해.

제안 방법

• ABCel은 기존 ABC의 시뮬레이션 기반 가능도 근사 방식을 관측 데이터에서 직접 가능도 함수를 구성하는 경험적 유사도로 대체한다.
• 이 방법은 정규 조건 하에서 渐近적으로 타당한 가짜 가능도를 구성하며, 표본 크기가 증가함에 따라 수렴성을 보장한다.
• 표본 통계, 거리 측정법, 관용 수준 선택이 필요 없어지며, 이는 기존 ABC에서 주관성과 계산 부담의 주요 원인이 된다.
• 알고리즘은 후행 분포 품질의 자가 평가로 효과적 표본 크기(Ess)를 계산하여 신뢰성에 대한 진단을 제공한다.
• ABCel은 모델에서 유도된 모멘트 조건을 충족하는 제약 최적화 프레임워크를 통해 구현된다.
• 가능도가 추정 불가능하지만 추정 방정식 또는 모멘트 조건이 존재하는 모델에 적용 가능하다.

실험 결과

연구 질문

• RQ1 경험적 유사도를 사용하여 모델 시뮬레이션과 ABC 캘리브레이션 매개변수를 피하는 가능도 자유 베이지안 추론 방법을 구성할 수 있는가?
• RQ2 결과적으로 도출된 ABCel 방법이 후행 추정에서 渐近적 일致성과 수렴성을 달성하는가?
• RQ3 복잡한 모델에서 표준 ABC와 비교해 ABCel의 계산 효율성과 정확도는 어떠한가?
• RQ4 시뮬레이션에 의존하지 않고도 효과적 표본 크기와 같은 신뢰할 수 있는 내부 성능 지표를 제공할 수 있는가?
• RQ5 실제 모델, 예를 들어 인구 유전학 및 시계열 모델에서 ABCel의 성능은 어떠한가?

주요 결과

• 관측 수가 증가함에 따라 ABCel은 모델 시뮬레이션 없이도 후행 추정에서 증명 가능한 수렴성을 달성한다.
• 표본 통계, 거리 측정법, 관용 수준과 같은 ABC 매개변수의 캘리브레이션 필요성이 제거되어 주관성과 계산 비용이 감소한다.
• 시뮬레이션을 경험적 유사도로 대체함으로써, 특히 인구 유전학 모델과 같은 복잡한 모델에서 뚜렷한 시간 절감 효과를 얻는다.
• 알고리즘은 내부 효과적 표본 크기 추정치를 제공하여 후행 분포 신뢰성의 자가 평가가 가능하다.
• 실증 결과에 따르면 ABCel은 표준 및 분위수 분포, 시계열, 인구 유전학 모델을 포함한 다양한 모델에서 잘 작동함을 보였다.
• 더 높은 계산 효율성과 강건성과 함께 표준 ABC와 유사한 정확도를 유지한다.