[论文解读] Scalable Bayesian Inference for Population Markov Jump Processes

Iker Perez, Theodore Kypraios|arXiv (Cornell University)|Apr 17, 2019

Gene Regulatory Network Analysis参考文献 26被引用 3

一句话总结

本文提出了一种可扩展的、通用的数据增强框架，用于在使用非平稳跳跃过程的统一表示法时，对种群马尔可夫跳跃过程进行精确贝叶斯推断。该框架通过引入辅助变量，显著提升了混合效率与可扩展性，尤其适用于大规模或无限状态空间系统，从而实现了在多种模型（如流行病、移民、捕食者-猎物系统）中高效的MCMC采样。

ABSTRACT

Bayesian inference for Markov jump processes (MJPs) where available observations relate to either system states or jumps typically relies on data-augmentation Markov Chain Monte Carlo. State-of-the-art developments involve representing MJP paths with auxiliary candidate jump times that are later thinned. However, these algorithms are i) unfeasible in situations involving large or infinite capacity systems and ii) not amenable for all observation types. In this paper we establish and present a general data-augmentation framework for population MJPs based on uniformized representations of the underlying non-stationary jump processes. This leads to multiple novel MCMC samplers which enable exact (in the Monte Carlo sense) inference tasks for model parameters. We show that proposed samplers outperform existing popular approaches, and offer substantial efficiency gains in applications to partially observed stochastic epidemics, immigration processes and predator-prey dynamical systems.

研究动机与目标

• 解决现有MCMC方法在大规模或无限状态空间下对种群马尔可夫跳跃过程计算不可行的问题。
• 克服当前数据增强方案在处理多种观测类型（如种群数量或跳跃事件）时的不适用性。
• 开发一种通用框架，支持对非平稳、时变跳跃过程进行精确贝叶斯推断（蒙特卡罗意义下的精确性）。
• 实现在复杂系统（如随机流行病、移民-死亡过程、捕食者-猎物动力学）中的可扩展推断，即使存在部分或噪声观测。
• 设计高效的MCMC采样器，其在有效样本量和计算效率方面优于现有最先进方法。

提出的方法

• 利用非平稳跳跃过程的统一化表示，构建适用于MJP推断的通用数据增强框架。
• 基于统一化跳跃过程的泊松薄化方法引入辅助变量，实现在不拒绝路径的前提下精确路径增强。
• 采用支配率函数 $\Omega = \max_{x \in \mathcal{S}} \sup_{t \in [0,T]} |Q_x(t)|$ 控制统一化速率，确保随机模拟的有效性。
• 推导出新型MCMC采样器，通过联合更新隐含跳跃时间与路径，利用基于方程 (1) 中统一化路径密度的条件密度。
• 应用基于算子的薄化策略（如 $\psi(t,x) = 0.5 \cdot |Q_x(t)|$），以提升混合效率并降低MCMC链的自相关性。
• 实施基于滞后的时间条件桥梁（如 $l = 0.5N$ 或 $0.75N$），以增强高维状态空间中的混合性能，尤其在大规模种群系统中表现显著。

实验结果

研究问题

• RQ1 能否为非平稳、大规模种群马尔可夫跳跃过程开发一种通用的数据增强框架，以实现精确贝叶斯推断？
• RQ2 如何设计基于辅助变量的MCMC方法，使其在大规模或无限状态空间系统中仍保持高效与可扩展？
• RQ3 所提出的采样器在有效样本量和计算效率方面，相较于现有最先进方法的性能提升程度如何？
• RQ4 该框架能否处理多种观测类型（包括种群数量和跳跃事件），并在不同随机模型中保持适用性？
• RQ5 基于滞后的条件桥梁与自适应薄化算子对高维推断任务中MCMC的混合与收敛性有何影响？

主要发现

• 所提出的框架利用基于统一化路径表示的MCMC采样器，实现了对种群马尔可夫跳跃过程的精确贝叶斯推断。
• 新型MCMC采样器在效率上取得显著提升，在大规模种群设置下，有效样本量比率超过1.5倍，优于原始统一化方法与现有基准。
• 在状态空间高达 $14,400$（即 $120^2$）的捕食者-猎物模型中，该方法表现出良好可扩展性，即使在高种群上限下也维持了较高的有效样本量。
• 采用 $l = 0.5N$ 和 $l = 0.75N$ 的滞后条件桥梁显著改善了混合性能，优于普通与参考辅助变量采样器。
• 该框架将先前方法（如Rao和Teh, 2013）作为特例涵盖并加以推广，验证了理论一致性。
• 实证结果表明，所提采样器在所有参数（$\alpha, \beta, \delta, \gamma$）下均保持高性能，所有测试配置下的最小有效样本量比率始终高于1.2。