[论文解读] A comparison of nonlinear population Monte Carlo and particle Markov chain Monte Carlo algorithms for Bayesian inference in stochastic kinetic models

Eugenia Koblents, Joaquı́n Mı́guez|arXiv (Cornell University)|Apr 21, 2014

Statistical Methods and Bayesian Inference参考文献 3被引用 4

一句话总结

本文比较了非线性种群蒙特卡洛（NPMC）与粒子马尔可夫链蒙特卡洛（pMCMC）在随机动力学模型中的贝叶斯推断表现，结果表明NPMC在计算成本更低的情况下显著优于pMCMC。该方法采用迭代重要性采样结合非线性权重变换以缓解高维空间中的退化问题，渐近收敛性分析证实，当似然函数通过顺序蒙特卡洛近似时，方法仍具有鲁棒性。

ABSTRACT

In this paper we address the problem of Monte Carlo approximation of posterior probability distributions in stochastic kinetic models (SKMs). SKMs are multivariate Markov jump processes that model the interactions among species in biochemical systems according to a set of uncertain parameters. Markov chain Monte Carlo (MCMC) methods have been typically preferred for this Bayesian inference problem. Specifically, the particle MCMC (pMCMC) method has been recently shown to be an effective, while computationally demanding, method applicable to this problem. Within the pMCMC framework, importance sampling (IS) has been used only as the basis of the sequential Monte Carlo (SMC) approximation of the acceptance ratio in the Metropolis-Hastings kernel. However, the recently proposed nonlinear population Monte Carlo (NPMC) algorithm, based on an iterative IS scheme, has also been shown to be effective as a Bayesian inference tool for low dimensional (predator-prey) SKMs. In this paper, we provide an extensive performance comparison of pMCMC versus NPMC, when applied to the challenging prokaryotic autoregulatory network. We show how the NPMC method can greatly outperform the pMCMC algorithm in this scenario, with an overall moderate computational effort. We complement the numerical comparison of the two techniques with an asymptotic convergence analysis of the nonlinear IS scheme at the core of the proposed method when the importance weights can only be computed approximately.

研究动机与目标

• 解决高维随机动力学模型（SKMs）中存在隐变量与参数不确定性时的贝叶斯推断挑战。
• 比较非线性种群蒙特卡洛（NPMC）与粒子MCMC（pMCMC）在估计SKMs后验分布方面的性能。
• 分析当重要性权重通过顺序蒙特卡洛近似时，非线性IS的渐近收敛性。
• 在不同观测模型与维度下，对复杂原核生物自调节网络中的两种方法进行评估。

提出的方法

• NPMC采用迭代重要性采样，并对重要性权重进行非线性变换（退火与截断），以减少高维空间中的退化现象。
• 该方法使用顺序蒙特卡洛（SMC）近似隐变量的后验分布，进而用于计算参数推断的重要权重。
• 非线性权重变换可平滑权重方差，提升采样效率，并减少标准PMC方法所需的粒子数量。
• 算法与混合PMC（MPMC）结合，通过高斯或t分布的混合模型来拟合复杂、高维的目标分布。
• 针对近似似然下的非线性IS方案，推导出渐近收敛性分析，表明误差界以 $ J^{-\frac{1}{2}+\epsilon} $ 的速率衰减，其中 $ J $ 为粒子数。
• 建立了精确似然与近似似然之间差异的理论边界，证明似然乘积的误差为 $ \mathcal{O}(J^{-\frac{1}{2}+\epsilon}) $ 几乎必然成立。

实验结果

研究问题

• RQ1 在随机动力学模型的贝叶斯推断中，非线性种群蒙特卡洛（NPMC）是否在估计精度与计算效率方面显著优于粒子MCMC（pMCMC）？
• RQ2 在原核生物自调节网络中，NPMC的性能如何随模型维度增加与观测噪声增强而变化？
• RQ3 通过顺序蒙特卡洛近似似然对NPMC中非线性IS方案的收敛性与准确性有何影响？
• RQ4 与标准PMC相比，NPMC中的非线性权重变换是否能有效缓解高维SKMs中的退化问题？
• RQ5 当重要性权重近似计算时，NPMC的收敛性可提供哪些理论保证？

主要发现

• 在原核生物自调节网络中，NPMC在显著降低计算成本的同时，实现了更高的估计精度，优于pMCMC。
• 由于非线性权重变换有效缓解了退化问题，NPMC在后验估计中表现出更优的收敛性与更低的方差。
• NPMC中似然近似误差的渐近界以 $ \mathcal{O}(J^{-\frac{1}{2}+\epsilon}) $ 速率衰减，其中 $ J $ 为粒子数，证实了在近似条件下的鲁棒性。
• 收敛性分析表明，即使似然函数通过SMC估计，似然乘积的误差仍保持有界，并随粒子数增加而趋于零。
• 数值结果表明，无论在低维还是高维场景下，NPMC均以更少的迭代次数与更低的计算负载，提供了比pMCMC更精确的后验估计。
• NPMC与MPMC的结合通过t分布混合模型有效建模复杂后验分布，实现了高维SKMs中的高效推断。