[논문 리뷰] Improved Convergence of Regression Adjusted Approximate Bayesian Computation

Wentao Li, Paul Fearnhead|arXiv (Cornell University)|2016. 09. 22.

Markov Chains and Monte Carlo Methods참고 문헌 38인용 수 5

한 줄 요약

이 논문은 최적의 대역폭 선택을 통해 회귀 보정을 적용한 근사 베이지안 계산(ABC)을 개선하여, ABC 사후분포가 渐近적으로 정확하게 불확실성을 측정함을 보여준다. 또한, 이 설정을 기반으로 한 중요도 표본 추출 알고리즘이 데이터 크기가 증가함에 따라 수용 확률이 1에 수렴함을 입증하여, 작은 대역폭을 사용할 경우 발생하는 높은 몬테카를로 오차를 피한다.

ABSTRACT

We present a number of surprisingly strong asymptotic results for the regression-adjusted version of Approximate Bayesian Computation (ABC) introduced by Beaumont et al. (2002). We show that for an appropriate choice of the bandwidth in ABC, using regression-adjustment will lead to an ABC posterior that, asymptotically, correctly quantifies uncertainty. Further- more, for such a choice of bandwidth we can implement an importance sampling algorithm to sample from the ABC posterior whose acceptance probability tends to 1 as we increase the data sample size. This compares favorably to results for standard ABC, where the only way to obtain an ABC posterior that correctly quantifies uncertainty is to choose a much smaller bandwidth, for which the acceptance probability tends to 0 and hence for which Monte Carlo error will dominate.

연구 동기 및 목표

• 작은 대역폭을 사용할 경우 표준 ABC에서 불확실성 측정이 잘못되는 문제를 해결하기 위해.
• 점점 증가하는 표본 크기 조건 하에서 정확한 사후 추론을 유지하는 회귀 보정 ABC 방법을 개발하기 위해.
• 중요도 표본 추출을 통해 효율적인 표본 추출이 가능하고 높은 수용 확률을 달성할 수 있는 대역폭 선택을 찾기 위해.
• ABC에서의 회귀 보정이 점점 증가하는 표본 크기 조건 하에서 유효한 불확실성 측정과 계산 효율성을 동시에 달성할 수 있음을 보여주기 위해.

제안 방법

• 저자들은 편향과 분산을 균형 있게 조절하는 특정한 대역폭 선택 조건 하에서, 회귀 보정 ABC의 점점 증가하는 표본 크기 조건 하에서의 행동을 분석한다.
• 그들은 사후분포에서 표본을 추출하기 위해 중요도 표본 추출 알고리즘을 사용하며, 제안의 효율성을 향상시키기 위해 회귀 보정을 적용한다.
• 대역폭는 ABC 사후분포가 진짜 사후분포로 수렴하고 불확실성을 정확히 반영하도록 선택된다.
• 이 방법은 중요도 표본 추출에서의 수용 확률이 표본 크기가 증가함에 따라 1으로 수렴함을 증명하기 위해 渐近 이론에 기반한다.
• 요약 통계량과 매개변수 사이의 불일치를 보정하기 위해 회귀 보정을 사용하여 사후분포 근사치를 향상시킨다.

실험 결과

연구 질문

• RQ1 적절한 대역폭 선택 조건 하에서, 회귀 보정 ABC는 점점 증가하는 표본 크기 조건 하에서 정확한 불확실성 측정을 할 수 있는가?
• RQ2 표본 크기가 증가함에 따라, 회귀 보정 ABC의 중요도 표본 추출에서의 수용 확률은 1로 수렴하는가?
• RQ3 몬테카를로 오차와 사후 정확도 측면에서, 회귀 보정 ABC는 표준 ABC보다 어떻게 다른가?
• RQ4 어떤 대역폭 선택 기준이 ABC에서 유효한 추론과 높은 표본 추출 효율성을 동시에 달성하는가?

주요 결과

• 적절한 대역폭 선택 조건 하에서, 회귀 보정 ABC 사후분포는 점점 증가하는 표본 크기 조건 하에서 정확하게 불확실성을 측정한다.
• ABC 사후분포에 대한 중요도 표본 추출 알고리즘이 데이터 표본 크기가 증가함에 따라 수용 확률이 1로 수렴한다.
• 이러한 성능은 작은 대역폭을 필요로 하는 유효한 불확실성 측정을 위해 사용되는 표준 ABC와 대조적으로, 수용 확률이 0으로 수렴하고 몬테카를로 오차가 높아지는 현상과 대비된다.
• 회귀 보정은 사후 정확도를 희생시키지 않으면서도, 점점 증가하는 표본 크기 조건 하에서 효율적인 표본 추출을 가능하게 한다.