[论文解读] Systems Biology: Identifiability analysis and parameter identification via systems-biology informed neural networks

Mitchell Daneker, Zhen Zhang+2 more|arXiv (Cornell University)|Feb 3, 2022

Gene Regulatory Network Analysis被引用 4

一句话总结

本文提出了系统生物学启发的神经网络（SBINN），用于基于常微分方程（ODE）的生物模型中的参数估计，整合了结构可辨识性与实用可辨识性分析，以确保推断的可靠性。该方法在超昼夜节律葡萄糖-胰岛素模型上进行了验证，结果表明SBINN能够实现高精度的参数恢复；基于Fisher信息矩阵（FIM）的实用可辨识性分析进一步揭示，由于Fisher信息矩阵中灵敏度接近零，参数 $ C_2 $ 实用上不可辨识。

ABSTRACT

The dynamics of systems biological processes are usually modeled by a system of ordinary differential equations (ODEs) with many unknown parameters that need to be inferred from noisy and sparse measurements. Here, we introduce systems-biology informed neural networks for parameter estimation by incorporating the system of ODEs into the neural networks. To complete the workflow of system identification, we also describe structural and practical identifiability analysis to analyze the identifiability of parameters. We use the ultridian endocrine model for glucose-insulin interaction as the example to demonstrate all these methods and their implementation.

研究动机与目标

• 开发一个统一的工作流程，用于系统生物学模型识别，整合结构可辨识性与实用可辨识性分析以及参数估计。
• 解决在系统生物学中，从噪声大且稀疏的实验数据中估计未知ODE模型参数的挑战。
• 展示系统生物学启发的神经网络（SBINN）在高精度估计复杂生物系统参数方面的有效性。
• 利用基于Fisher信息矩阵（FIM）的实用可辨识性分析，识别并诊断不可辨识参数，尤其在真实世界生物数据限制的背景下。
• 通过在神经网络架构中引入可学习函数，将SBINN框架扩展至处理时变参数。

提出的方法

• 将ODE系统直接集成到物理信息神经网络（PINN）框架中，在训练过程中通过将ODE动力学作为损失项来估计未知参数。
• 在参数估计之前应用结构可辨识性分析，以确定在无噪声条件下参数是否唯一可辨识。
• 使用神经网络近似状态变量及其时间导数，通过损失函数惩罚ODE残差，以确保模型一致性。
• 通过ODE系统对参数的敏感性分析，计算Fisher信息矩阵（FIM），在参数估计后进行实用可辨识性分析。
• 从FIM的逆矩阵计算参数相关性矩阵，以检测高相关性参数（提示不可辨识性），并分析FIM的零空间特征向量，以识别对观测变量影响可忽略的参数。
• 通过在神经网络架构中引入额外的输出神经元来表示时变参数函数，将SBINN扩展至处理时变参数，从而实现动态参数推断。

实验结果

研究问题

• RQ1 系统生物学启发的神经网络（SBINN）能否有效从噪声大且稀疏的数据中估计基于ODE的生物模型中的未知参数？
• RQ2 在超昼夜节律葡萄糖-胰岛素模型中，哪些参数是结构可辨识的，需要施加何种约束以确保解的唯一性？
• RQ3 在存在测量噪声的情况下，如何评估实用可辨识性，哪些参数对数据不确定性敏感？
• RQ4 Fisher信息矩阵（FIM）在诊断参数不可辨识性方面发挥什么作用，零空间特征向量如何揭示非信息性参数？
• RQ5 SBINN能否通过在神经网络架构中将参数建模为可学习函数，扩展至推断时变参数？

主要发现

• SBINN成功以高精度估计了超昼夜节律葡萄糖-胰岛素模型的全部21个参数，其结果与表1中的标称值对比验证了其准确性。
• 结构可辨识性分析证实所有参数均为结构可辨识的，因此在理想条件下可实现可靠的参数估计。
• 基于FIM的实用可辨识性分析揭示，参数 $ C_2 $ 实用上不可辨识，表现为FIM中存在接近零的特征值，且其对应的零空间特征向量具有主导分量。
• 相关性矩阵显示某些参数之间存在高度相关性，提示可能存在可辨识性问题，但该结论的确定性低于零空间特征向量分析。
• 零空间特征向量分析表明，$ C_2 $ 对可观测状态变量 $ G $ 的影响可忽略，从而确认其从数据集中实用上不可辨识。
• 该框架成功实现了基于FIM的实用可辨识性分析与SBINN流程的集成，使得在模型部署前即可早期检测到不可靠的参数估计。