[논문 리뷰] Efficient Bayesian inference in stochastic chemical kinetic models using graphical processing units

Jarad Niemi, Matthew W. Wheeler|arXiv (Cornell University)|2011. 01. 21.

Gene Regulatory Network Analysis참고 문헌 27인용 수 4

한 줄 요약

이 논문은 잠재 경로에 대한 거부 샘플링을 활용하여, 효율적인 베이지안 추론을 위한 GPU 가속화된 데이터 증강 마르코프 체인 몽테카를로(대사-몬테카를로, DA-MCMC) 방법을 제안한다. 이 방법은 기존의 CPU 기반 계산 대비 최대 200배의 속도 향상을 달성하여, 마이클리스-멘텐 동역학과 같은 복잡한 시스템에서 전체 사후 분포 특성화와 불확실성 정량화를 실현 가능한 범위로 만든다.

ABSTRACT

A goal of systems biology is to understand the dynamics of intracellular systems. Stochastic chemical kinetic models are often utilized to accurately capture the stochastic nature of these systems due to low numbers of molecules. Collecting system data allows for estimation of stochastic chemical kinetic rate parameters. We describe a well-known, but typically impractical data augmentation Markov chain Monte Carlo algorithm for estimating these parameters. The impracticality is due to the use of rejection sampling for latent trajectories with fixed initial and final endpoints which can have diminutive acceptance probability. We show how graphical processing units can be efficiently utilized for parameter estimation in systems that hitherto were inestimable. For more complex systems, we show the efficiency gain over traditional CPU computing is on the order of 200. Finally, we show a Bayesian analysis of a system based on Michaelis-Menton kinetics.

연구 동기 및 목표

• 잠재 경로에 대한 거부 샘플링에서 낮은 수용률로 인해 기존의 데이터 증강 MCMC가 확률적 화학 동역학 모델에서 계산적으로 비현실적이 되는 문제를 해결하기 위해.
• 낮은 분자 수로 인해 결정론적 모델이 실패하는 복잡한 세포 내 시스템에서의 베이지안 매개변수 추정을 가능하게 하기 위해.
• GPU 가속화가 이전에는 해결 불가능한 시스템을 합리적인 시간 내에 추정 가능하게 만들 수 있음을 보여주기 위해.
• ABC와 같은 근사 방법과의 비교를 위한 기준이 되는 베이지안 분석을 제공하기 위해, 전체 사후 추론을 통해.
• 특히 식별성 문제를 가진 모델에서 MCMC에 대한 GPU의 사용 가능성과 효율성 향상을 탐색하기 위해.

제안 방법

• 확률적 화학 동역학 모델에서 반응 속도 매개변수와 잠재 경로를 동시에 추론하기 위해 데이터 증강 MCMC(대사-몬테카를로, DA-MCMC)를 활용한다.
• 관측 데이터와 고정된 종료점 조건 하에 잠재 경로를 생성하기 위해 스토하스틱 시뮬레이션 알고리즘(SSA)과 거부 샘플링을 사용한다.
• CUDA 기반 병렬화를 통해 그래픽스 처리 장치(GPU)를 활용하여 계산적으로 부담이 큰 거부 샘플링 단계를 가속화한다.
• 거대한 스레드 수준 병렬성의 특성을 활용하여 화학 마스터 방정식(CME)의 병렬 전방 시뮬레이션을 GPU에서 실행한다.
• 독립적인 메트로폴리스-하스팅스 제안과 다중 제안 생성을 통해 비완전 관측 모델에 대한 방법을 확장한다.
• 매개변수, 매개변수의 함수(예: 마이클리스 상수) 및 상태 경로의 신뢰 구간을 포함한 사후 분포 추정을 위해 베이지안 추론을 적용한다.

실험 결과

연구 질문

• RQ1 GPU 가속 거부 샘플링을 통해 이전에 계산적으로 비현실적으로 여겨졌던 복잡한 확률적 화학 동역학 모델에 대한 베이지안 추론이 실현 가능한가?
• RQ2 DA-MCMC에서 GPU를 CPU 대비 사용할 경우, 확률적 동역학 모델에 대해 얼마나 큰 계산 속도 향상을 달성할 수 있는가?
• RQ3 마이클리스-멘텐 시스템에서 매개변수 및 파생된 양(예: $K_M$, $K_D$)의 사후 분포는 얼마나 잘 추정될 수 있는가?
• RQ4 식별성 문제를 가진 시스템에서 베이지안 방법이 동적 경로 및 파생 함수에 대해 얼마나 잘 불확실성 정량화를 제공할 수 있는가?
• RQ5 정확성과 효율성 측면에서 GPU 기반 DA-MCMC는 근사 베이지안 계산(ABC) 방법보다 어떻게 비교되는가?

주요 결과

• GPU 가속 DA-MCMC 방법은 CPU 기반 구현 대비 최대 200배의 계산 속도 향상을 달성하여, 복잡한 시스템에 대한 추론 가능성을 확보한다.
• 이 방법은 마이클리스-멘텐 시스템의 매개변수에 대한 전체 베이지안 사후 추정을 가능하게 하며, $K_M$ 및 $K_D$와 같은 파생 상수의 불확실성 정량화도 가능하다.
• 사후 분석 결과 마이클리스 상수 $K_M$에 대한 95% 신뢰 구간은 246에서 343 사이로 나타나, 기존 방법에서는 확보할 수 없었던 불확실성 추정을 제공한다.
• 속도 매개변수 $\theta_1$와 $\theta_2$의 공동 사후 분포는 식별성 문제를 드러내며, $\theta_1 + \theta_2$는 추정 가능하지만 개별 값은 정확히 결정되지 않는다.
• 사후 경로 분석 결과 질량 보존 효과가 나타나, $E$와 $ES$는 상호 거울상이고 $S$와 $P$는 거의 거울상이어서 모델의 일관성을 확인한다.
• 이 방법은 $ES$가 90개 이상의 분자 수를 초과할 확률이나 $S \to P$ 전환이 90% 완료되는 시점과 같은 복잡한 동적 질문에 직접적인 베이지안 답변을 제공할 수 있다.