[论文解读] Efficient Bayesian inference in stochastic chemical kinetic models using graphical processing units

Jarad Niemi, Matthew W. Wheeler|arXiv (Cornell University)|Jan 21, 2011

Gene Regulatory Network Analysis参考文献 27被引用 4

一句话总结

本文提出了一种基于GPU加速的新型数据增强马尔可夫链蒙特卡洛（DA-MCMC）方法，用于在随机化学动力学模型中实现高效的贝叶斯推断，利用拒绝采样生成隐变量轨迹。该方法相较基于CPU的计算实现了高达200倍的加速，使得在复杂系统（如米氏- Menten动力学）中实现实际的推断成为可能，包括完整的后验分布表征与不确定性量化。

ABSTRACT

A goal of systems biology is to understand the dynamics of intracellular systems. Stochastic chemical kinetic models are often utilized to accurately capture the stochastic nature of these systems due to low numbers of molecules. Collecting system data allows for estimation of stochastic chemical kinetic rate parameters. We describe a well-known, but typically impractical data augmentation Markov chain Monte Carlo algorithm for estimating these parameters. The impracticality is due to the use of rejection sampling for latent trajectories with fixed initial and final endpoints which can have diminutive acceptance probability. We show how graphical processing units can be efficiently utilized for parameter estimation in systems that hitherto were inestimable. For more complex systems, we show the efficiency gain over traditional CPU computing is on the order of 200. Finally, we show a Bayesian analysis of a system based on Michaelis-Menton kinetics.

研究动机与目标

• 为解决传统数据增强MCMC在随机化学动力学模型中因隐变量轨迹拒绝采样接受率过低而导致的计算不可行性问题。
• 实现在确定性模型因分子数量过低而失效的复杂胞内系统中的贝叶斯参数估计。
• 证明GPU加速可使此前难以处理的系统在合理时间内实现可估计性。
• 提供金标准贝叶斯分析，用于与近似方法（如ABC）进行比较，实现完整的后验推断。
• 探索在系统生物学中使用GPU进行MCMC的可行性与效率增益，尤其针对具有可识别性挑战的模型。

提出的方法

• 采用数据增强MCMC（DA-MCMC）联合推断随机化学动力学模型中的反应速率参数与隐变量轨迹。
• 利用随机模拟算法（SSA）结合拒绝采样，生成在观测数据和固定端点条件下的隐变量轨迹。
• 通过CUDA支持的并行化，在图形处理器（GPU）上加速计算密集型的拒绝采样步骤。
• 在GPU上并行化化学主方程（CME）的正向模拟，充分利用细粒度线程级并行性。
• 采用独立的梅特罗波利斯-黑斯廷斯提议与多组提议生成策略，将方法扩展至非完美观测模型。
• 应用贝叶斯推断，对参数、参数函数（如米氏常数）以及状态轨迹进行后验估计，并提供可信区间。

实验结果

研究问题

• RQ1 GPU加速的拒绝采样是否能使此前被认为计算上不可行的复杂随机化学动力学模型实现贝叶斯推断？
• RQ2 在随机动力学模型的DA-MCMC中，使用GPU相较于CPU可实现多大的计算加速？
• RQ3 在米氏- Menten系统中，对参数及其导出量（如$K_M$、$K_D$）的后验分布估计效果如何？
• RQ4 在具有可识别性问题的系统中，贝叶斯方法在多大程度上能提供对动态轨迹及导出函数的不确定性量化？
• RQ5 在准确性和效率方面，基于GPU的DA-MCMC与近似贝叶斯计算（ABC）方法相比表现如何？

主要发现

• GPU加速的DA-MCMC方法相较基于CPU的实现，计算加速最高可达200倍，使复杂系统的推断成为可能。
• 该方法实现了米氏- Menten系统中参数的完整贝叶斯后验估计，包括对$K_M$和$K_D$等导出常数的不确定性量化。
• 后验分析显示，米氏常数$K_M$的95%可信区间为246至343，提供了经典方法无法获得的不确定性估计。
• 速率参数$\theta_1$与$\theta_2$的联合后验揭示了可识别性问题：$\theta_1 + \theta_2$可被估计，但单个参数值难以确定。
• 后验轨迹显示质量守恒效应：$E$与$ES$互为镜像，$S$与$P$几乎互为镜像，验证了模型的一致性。
• 该方法可直接回答复杂的动态问题，例如$ES$超过90个分子的概率，或$S \to P$转化完成90%的时间点。