[论文解读] Autocorrelated measurement processes and inference for ordinary differential equation models of biological systems

Ben Lambert, Chon Lok Lei+6 more|arXiv (Cornell University)|Oct 4, 2022

Gene Regulatory Network Analysis被引用 2

一句话总结

本文挑战了生物系统常微分方程（ODE）模型中普遍存在的独立同分布（IID）高斯噪声假设，表明由于持续测量缺陷引起的自相关测量误差，会导致参数不确定性的虚假降低。本文提出一种诊断自相关性的工作流程，并引入ARMA和状态空间时间序列（STS）模型以校正推断，证明忽略自相关性会导致参数估计过于自信。

ABSTRACT

Ordinary differential equation models are used to describe dynamic processes across biology. To perform likelihood-based parameter inference on these models, it is necessary to specify a statistical process representing the contribution of factors not explicitly included in the mathematical model. For this, independent Gaussian noise is commonly chosen, with its use so widespread that researchers typically provide no explicit justification for this choice. This noise model assumes `random' latent factors affect the system in ephemeral fashion resulting in unsystematic deviation of observables from their modelled counterparts. However, like the deterministically modelled parts of a system, these latent factors can have persistent effects on observables. Here, we use experimental data from dynamical systems drawn from cardiac physiology and electrochemistry to demonstrate that highly persistent differences between observations and modelled quantities can occur. Considering the case when persistent noise arises due only to measurement imperfections, we use the Fisher information matrix to quantify how uncertainty in parameter estimates is artificially reduced when erroneously assuming independent noise. We present a workflow to diagnose persistent noise from model fits and describe how to remodel accounting for correlated errors.

研究动机与目标

• 研究自相关测量噪声对生物系统ODE模型中参数推断的影响。
• 挑战基于ODE的统计推断中默认的独立同分布（IID）高斯噪声假设。
• 开发一种诊断工作流程，用于检测模型拟合中的持续性噪声。
• 提出并评估替代噪声模型——ARMA和状态空间时间序列（STS）——以考虑自相关性。
• 证明忽略自相关性会导致参数估计的不确定性被人为降低。

提出的方法

• 提出一种统计框架，将测量误差建模为自相关过程，而非IID高斯噪声。
• 利用费雪信息矩阵，从理论上量化当错误地假设IID噪声时，自相关性如何导致精度估计被放大。
• 应用ARMA(1,1)和AR(1)模型，以表示基于ODE的推断中时间相关的测量误差。
• 采用状态空间时间序列（STS）模型，灵活表示复杂且持续的噪声结构。
• 基于残差分析开发一种诊断工作流程，用于检测模型拟合中的自相关性。
• 使用来自心脏生理学和电化学的真实数据，比较IID、AR(1)和ARMA(1,1)噪声模型在参数推断性能上的表现。

实验结果

研究问题

• RQ1 在生物系统的ODE模型中，假设IID高斯噪声是否会导致参数估计产生偏差或过于自信？
• RQ2 测量缺陷在多大程度上引起残差中的自相关性？这种自相关性如何影响统计推断？
• RQ3 ARMA和状态空间时间序列（STS）模型能否有效捕捉基于ODE的系统中的持续性测量噪声？
• RQ4 测量误差中的自相关性如何扭曲费雪信息矩阵，从而影响参数估计的精度？
• RQ5 哪些诊断指标能够可靠地检测出ODE模型拟合中自相关测量噪声的存在？

主要发现

• 由持续测量缺陷引起的自相关测量噪声，当错误地假设为IID噪声时，会导致参数估计的不确定性被人为降低。
• 费雪信息矩阵显示，在模拟和真实数据中，假设IID噪声会使参数估计的真实方差被低估高达30%。
• 基于残差的诊断分析能成功识别出模型拟合中的自相关性，尤其在时间分辨率较高的系统（如电化学和心脏生理学）中表现显著。
• 与IID模型相比，ARMA(1,1)和AR(1)噪声模型能减少参数估计的过度自信，提高稳健性。
• ARMA(1,1)和AR(1)模型下的后验分布显示，可信区间比IID模型更宽，反映出更真实的不确定性。
• 本研究证明，低阶ARMA或简单STS噪声模型优于IID噪声，在减轻过拟合并提高ODE推断的泛化能力方面更具优势。