[논문 리뷰] Parameter Estimation in Computational Biology by Approximate Bayesian Computation coupled with Sensitivity Analysis

Xin Liu, Mahesan Niranjan|arXiv (Cornell University)|2017. 04. 28.

Markov Chains and Monte Carlo Methods참고 문헌 34인용 수 4

한 줄 요약

이 논문은 시스템 생물학에서의 매개변수 추정의 계산 효율성을 향상시키기 위해 민감도 분석을 통합한 삼단계 근사 베이지안 계산(ABC) 프레임워크를 제안한다. 강성 있는(민감한) 매개변수와 낮은 영향을 미치는(민감도가 낮은) 매개변수를 식별함으로써, 계산 자원을 선택적으로 할당한다—민감도가 낮은 매개변수에는 굵은 샘플링을, 강성 있는 매개변수에는 정밀한 최적화를 적용한다. 이는 진동 및 일시적 반응 모델에서 유사한 정확도를 유지하면서 계산 비용을 감소시킴을 보여준다.

ABSTRACT

We address the problem of parameter estimation in models of systems biology from noisy observations. The models we consider are characterized by simultaneous deterministic nonlinear differential equations whose parameters are either taken from in vitro experiments, or are hand-tuned during the model development process to reproduces observations from the system. We consider the family of algorithms coming under the Bayesian formulation of Approximate Bayesian Computation (ABC), and show that sensitivity analysis could be deployed to quantify the relative roles of different parameters in the system. Parameters to which a system is relatively less sensitive (known as sloppy parameters) need not be estimated to high precision, while the values of parameters that are more critical (stiff parameters) need to be determined with care. A tradeoff between computational complexity and the accuracy with which the posterior distribution may be probed is an important characteristic of this class of algorithms.

연구 동기 및 목표

• 노이즈가 있는 관측치를 가진 동적 시스템 생물학 모델에서의 매개변수 추정에 따른 높은 계산 비용 문제를 해결한다.
• 근사 베이지안 계산(ABC)에서 균일한 계산 예산 할당의 비효율성을 극복하기 위해 매개변수 민감도를 식별한다.
• 민감도를 활용하여 영향력 있는(강성 있는) 매개변수의 정확한 추정을 우선시하고, 영향력이 낮은(느슨한) 매개변수의 경우는 낮은 정밀도로 허용하는 전략을 개발한다.
• 적응형 허용 기준 스케줄링과 민감도 유도 샘플링을 통해 ABC 추론의 효율성과 정확도를 향상시킨다.
• 실제 시스템 생물학 모델—진동 및 일시적 반응 시스템—에 대해 방법을 검증하여 실용적 적용 가능성을 입증한다.

제안 방법

• 모든 모델 매개변수에 대해 전역 민감도 지수를 계산하기 위해 eFAST(확장된 푸리에 진폭 민감도 테스팅)를 적용하여, 모델 출력에 미치는 영향에 따라 매개변수를 강성 있는(스티프) 또는 느슨한(슬로프)으로 분류한다.
• 삼단계 추론 전략을 구현한다: (1) 느슨한 매개변수에 대해 허용 기준을 완화한 굵은 ABC 샘플링; (2) 강성 있는 매개변수에 대해 더 좁은 허용 기준을 사용한 최적화; (3) 점진적 허용 기준 감소를 통한 적응형 ABC-SMC.
• 입자 재가중 및 거부 없이 작동하는 ABC-SMC(순차 몬테카를로)를 사용하여 샘플링 효율성을 높이고 병렬 처리를 가능하게 한다.
• ABC 샘플링 이전에 민감도 분석을 통합하여 사전 분포 선택과 계산 예산 할당을 안내한다.
• 입자 다양성과 수용률에 기반해 수용 기준을 점진적으로 감소시키는 허용 기준 스케줄 적응 전략을 적용한다.
• 정규화된 평균 제곱근 오차(NRMSE)를 사용해 사후 분포의 품질을 검증하고, 다양한 입자 수($N_{\text{smc}}$) 간 성능을 비교한다.

실험 결과

연구 질문

• RQ1 민감도 분석을 사용해 ABC 기반 매개변수 추정에서 계산 예산 할당을 유도함으로써 효율성을 향상시킬 수 있는가?
• RQ2 민감도 기반 매개변수 그룹화를 통한 삼단계 ABC 전략은 표준 ABC에 비해 정확도와 계산 비용 측면에서 어떻게 비교되는가?
• RQ3 시스템 생물학 모델에서 느슨한 매개변수는 강성 있는 매개변수에 비해 얼마나 높은 정밀도 추정이 필요한가?
• RQ4 ABC-SMC에서 적응형 허용 기준 스케줄링을 사용하면 노이즈가 많고 비선형적인 동적 시스템에서 수렴성 향상과 계산 부담 감소에 기여하는가?
• RQ5 복잡한 생물학적 모델에서 추론 이전에 eFAST 민감도 분석이 강성 있는 매개변수와 느슨한 매개변수를 신뢰성 있게 식별할 수 있는가?

주요 결과

• 제안된 방법은 특히 지연에 기인한 진동 시스템과 같은 단순 모델에서 표준 ABC 접근법에 비해 계산 비용을 크게 감소시키면서도 유사한 정확도를 유지한다.
• ABC-SMC에서 $N_{\text{smc}} = 2000$ 입자를 사용할 경우 NRMSE 성능이 최고였으며, 이는 더 높은 입자 수가 추론 품질 향상에 기여함을 시사한다.
• eFAST 민감도 분석은 강성 있는 매개변수와 느슨한 매개변수를 효과적으로 식별하였으며, 입자 분포가 정규분포가 아니어도 결과가 안정적임이 Henze-Zirkler 검정을 통해 확인되었다.
• 삼단계 전략—느슨한 매개변수에 대한 굵은 샘플링과 강성 있는 매개변수에 대한 정밀 추정—을 통해 차원 수가 줄어든 중요한 영역에서의 사후 분포 탐색을 효율적으로 수행할 수 있었다.
• ABC-SMC에서의 적응형 허용 기준 스케줄링은 수렴성을 향상시키고 거부율을 감소시켜 병렬 처리 가능한 입자 업데이트를 통해 효율성을 높였다.
• 민감도 기반 매개변수 그룹화를 통해 정밀도 추정이 필요한 매개변수 수를 전략적으로 감소시켜 계산 확장성 향상에 직접 기여하였다.