[논문 리뷰] pyABC: Efficient and robust easy-to-use approximate Bayesian computation

Yannik Schälte, Emmanuel Klinger외 2명|arXiv (Cornell University)|2022. 03. 24.

Markov Chains and Monte Carlo Methods인용 수 4

한 줄 요약

이 논문은 약간의 사용자 조정으로 다양한 모델과 데이터 유형에서 강력하고 효율적이며 자동화된 가능도 없는 추론을 위한 향상된 오픈소스 파이썬 프레임워크인 pyABC v0.12를 제시한다. 이 프레임워크는 적응적 거리 척도화, 이상치에 대한 강건성, 회귀를 통한 정보성 요약 통계량, 최적 운반 거리, 임계값 최적화를 도입하여 사후 분포 근사의 정확도를 향상시킨다.

ABSTRACT

The Python package pyABC provides a framework for approximate Bayesian computation (ABC), a likelihood-free parameter inference method popular in many research areas. At its core, it implements a sequential Monte-Carlo (SMC) scheme, with various algorithms to adapt to the problem structure and automatically tune hyperparameters. To scale to computationally expensive problems, it provides efficient parallelization strategies for multi-core and distributed systems. The package is highly modular and designed to be easily usable. In this major update to pyABC, we implement several advanced algorithms that facilitate efficient and robust inference on a wide range of data and model types. In particular, we implement algorithms to account for noise, to adaptively scale-normalize distance metrics, to robustly handle data outliers, to elucidate informative data points via regression models, to circumvent summary statistics via optimal transport based distances, and to avoid local optima in acceptance threshold sequences by predicting acceptance rate curves. Further, we provide, besides previously existing support of Python and R, interfaces in particular to the Julia language, the COPASI simulator, and the PEtab standard.

연구 동기 및 목표

• 복잡한 모델에서 가능도 없는 매개변수 추론을 위한 사용자 우호적이고 확장 가능하며 강건한 ABC 프레임워크를 개발하는 것.
• 전이 핵심, 인구 크기, 수용 임계값에 대한 자가 조정 알고리즘을 구현하여 수동 하이퍼파rameter 조정을 최소화하는 것.
• 노이즈가 많거나 이상치가 영향을 미치거나 고차원적인 데이터에서 적응적 거리 척도 및 정보성 요약 통계량을 통해 추론 정확도와 효율성을 향상시키는 것.
• 줄리아, R, COPASI, PEtab 표준과의 통합을 통해 이질적인 모델링 환경을 지원하는 것.
• 다중 코어 및 분산 시스템에서 동적 병렬 처리를 통해 확장 가능한 추론을 가능하게 하는 것.

제안 방법

• 수렴 성능을 향상시키기 위해 적응적 전이 핵심과 자가 조정된 인구 크기를 갖춘 순차 몬테카를로(ABC-SMC) 기반 기법을 구현한다.
• 반복 재가중 기법을 사용하여 다양한 척도를 가진 데이터 포인트를 처리하기 위해 거리 척도의 적응적 스케일링을 도입한다.
• Prangle(2017)의 수정된 버전을 적용하여 이상치 탐지 및 억제를 수행하여 측정 오차의 영향을 줄인다.
• 역회귀 모델(예: 선형 회귀, 신경망, 가우시안 프로세스)을 사용하여 데이터 기반의 정보성 요약 통계량을 생성한다.
• 수동으로 요약 통계량을 설정할 필요 없이 강건성을 향상시키기 위해 최적 운반 기반 거리 척도를 적용한다.
• 수용률 곡선을 예측하여 임계값 시퀀스에서 국소 최적화를 방지하고, 더 안정적이고 효율적인 SMC 적응을 가능하게 한다.

실험 결과

연구 질문

• RQ1 측정 오차가 있는 실세계 데이터에서 수동 조정 없이 ABC 추론의 강건성을 어떻게 향상시킬 수 있는가?
• RQ2 이질적인 데이터 척도를 가진 모델에서 적응적 거리 척도화가 사후 분포 근사에 기여하는가?
• RQ3 회귀 기반 요약 통계량이 ABC에서 추론 효율성과 정확도를 얼마나 향상시킬 수 있는가?
• RQ4 최적 운반 기반 거리 척도가 요약 통계량을 대체하면서도 추론 품질을 유지할 수 있는가?
• RQ5 수용률 곡선의 예측 모델링을 통해 ABC-SMC에서 비최적의 임계값 시퀀스를 방지할 수 있는가?

주요 결과

• 적응적 거리 척도화와 이상치에 대한 강건성 통합이 측정 오차가 있는 실세계 데이터에서 사후 추정에 상당한 기여를 한다.
• 회귀 기반 요약 통계량은 고차원 사후 근사와 사용자 정의 요약 통계량에 대한 의존도 감소를 이끈다.
• 최적 운반 기반 거리 척도를 통해 요약 통계량 없이도 효과적인 추론이 가능하며, 특히 복잡하거나 고차원 데이터에 유리하다.
• 수용률 곡선의 예측 모델링은 임계값 시퀀스에서 국소 최적화를 방지하여 수렴 안정성을 향상시킨다.
• pyABC 내 동적 병렬화 전략은 다중 코어 및 분산 컴퓨팅 환경에서 효율적인 확장성을 제공한다.
• 프레임워크는 줄리아, R, COPASI, PEtab 표준과의 원활한 상호운용성을 지원하여 시스템 생물학 및 계산 모델링 워크플로우 전반에서의 사용성 향상에 기여한다.