[논문 리뷰] Tutorial on ABC rejection and ABC SMC for parameter estimation and model selection

Tina Toni, Michael P. H. Stumpf|arXiv (Cornell University)|2009. 10. 23.

Markov Chains and Monte Carlo Methods참고 문헌 7인용 수 7

한 줄 요약

이 튜토리얼은 당연한 가능도가 없는 복잡한 시스템에서 베이지안 매개변수 추정과 모델 선택을 위한 ABC 기각 및 ABC SMC 알고리즘을 제시한다. 순차적 몬테카를로 방법이 적응형 허용 오차 스케줄과 변형 핵을 사용하여 입자 근사값을 반복적으로 개선함으로써 표준 기각 샘플링에 비해 계산 효율성을 향상시킨다는 것을 설명한다.

ABSTRACT

In this tutorial we schematically illustrate four algorithms: (1) ABC rejection for parameter estimation (2) ABC SMC for parameter estimation (3) ABC rejection for model selection on the joint space (4) ABC SMC for model selection on the joint space.

연구 동기 및 목표

• 시스템 및 인구 생물학에서 흔한 가능도가 계산이 불가능한 모델에서 베이지안 추론의 과제를 다루기.
• 시뮬레이션 기반 추론 분야에 익숙하지 않은 연구자들을 위한 ABC 기각 및 ABC SMC에 대한 종합적이고 접근하기 쉬운 튜토리얼 제공.
• 명시적인 가능도 계산 없이도 시뮬레이션만으로 정확한 매개변수 추정과 모델 선택을 가능하게 하기.
• 순차적 방법(ABC SMC)이 기본 기각 샘플링에 비해 계산 비용을 어떻게 줄이는지 보여주기.

제안 방법

• ABC 기각은 사전분포에서 매개변수를 샘플링하고, 데이터를 시뮬레이션한 후 관측된 데이터와 허용 오차 ε 이내에 있을 경우 해당 매개변수를 수락한다.
• ABC SMC는 점점 감소하는 허용 오차 수준 ε₁ > ε₂ > … > ε_T의 시퀀스를 사용하여 후행 분포에 대한 입자 근사값을 반복적으로 개선한다.
• 각 단계에서 입자들은 커널(예: 가우시안 랜덤 워크)을 사용해 변형되고, 시뮬레이션된 데이터와 관측된 데이터 간의 거리가 현재 허용 오차 이내일 경우 수락된다.
• 각 집단에서 입자들에게 가중치를 할당하여 제안 분포를 고려하고 후행 분포 근사값을 향상시킨다.
• 모델 선택을 위해 모델과 매개변수의 공동 공간이 탐색되며, 수락된 입자들로부터 추정된 주변 후행 모델 확률이 산정된다.
• 순차적 샘플링 동안 모델 및 매개변수 성분 모두에 대해 변형 핵을 사용하여 복잡하고 고차원적인 공간 탐색이 가능해진다.

실험 결과

연구 질문

• RQ1 가능도 함수가 계산이 불가능하거나 계산 비용이 너무 높을 경우 매개변수 추정은 어떻게 수행할 수 있는가?
• RQ2 계산 효율성과 정확성 측면에서 ABC 기각과 ABC SMC 사이의 주요 차이점과 상호 보완적 특성은 무엇인가?
• RQ3 ABC 방법은 모델과 매개변수의 공동 공간에서 어떻게 모델 선택을 수행할 수 있는가?
• RQ4 ABC SMC 알고리즘이 ABC 기각에 비해 샘플링 효율성과 수렴 속도 측면에서 얼마나 향상되는가?
• RQ5 순차적 ABC 알고리즘을 사용하여 주변 후행 모델 확률을 일관되게 추정할 수 있는가?

주요 결과

• ABC 기각은 허용 오차 ε가 감소할수록 높은 기각 비율로 인해 계산적으로 비효율적이다.
• ABC SMC는 감소하는 허용 오차 시퀀스와 적응형 입자 전파를 사용함으로써 계산 효율성을 크게 향상시킨다.
• 특정 모델에 대한 주변 후행 모델 확률은 최종 집단에서 그 모델에 속하는 수락된 입자 비율로 추정된다.
• 모델 선택을 위해 ABC SMC는 입자 수 N이 증가함에 따라 후행 모델 확률의 일관된 추정을 유지한다.
• ABC SMC의 최종 집단 T는 가중치가 할당된 샘플을 제공하여 공동 후행 분포 P(m, θ|D₀)를 근사하며, 가중치는 집단 간 정규화된다.
• 이 방법은 가능도가 존재하지 않거나 계산 비용이 너무 높아 계산이 불가능한 복잡한 동역학 시스템에서도 일관된 추론을 가능하게 한다.