[论文解读] Analysis of sloppiness in model simulations: unveiling parameter uncertainty when mathematical models are fitted to data

Gloria M. Monsalve-Bravo, Brodie Lawson+8 more|arXiv (Cornell University)|Mar 29, 2022

Spectroscopy and Quantum Chemical Studies参考文献 94被引用 42

一句话总结

本文提出一种贝叶斯启发的方法，通过整合先验知识与数据，分析模型的松散性，识别出刚性特征参数——即对模型输出具有强烈影响的关键参数组合。该方法将降维技术（后验协方差矩阵与似然信息子空间）扩展应用于区分数据驱动与先验信息驱动的参数敏感性，揭示了在系统生物学、生态学和心脏电生理学等复杂模型中隐藏的控制机制。

ABSTRACT

This work introduces a comprehensive approach to assess the sensitivity of model outputs to changes in parameter values, constrained by the combination of prior beliefs and data. This novel approach identifies stiff parameter combinations strongly affecting the quality of the model-data fit while simultaneously revealing which of these key parameter combinations are informed primarily by the data or are also substantively influenced by the priors. We focus on the very common context in complex systems where the amount and quality of data are low compared to the number of model parameters to be collectively estimated, and showcase the benefits of this technique for applications in biochemistry, ecology, and cardiac electrophysiology. We also show how stiff parameter combinations, once identified, uncover controlling mechanisms underlying the system being modeled and inform which of the model parameters need to be prioritized in future experiments for improved parameter inference from collective model-data fitting.

研究动机与目标

• 解决在有限数据下拟合复杂模型时面临的高维参数不确定性挑战。
• 识别出尽管单个参数存在模糊性，但能控制模型输出的关键参数组合（刚性特征参数）。
• 区分参数敏感性主要源于数据还是先验信念，从而增强模型推断的可解释性。
• 提供一种稳健且基于不确定性的敏感性分析方法，超越对最优拟合值处局部曲率的分析。
• 通过识别未来数据采集应优先关注的参数，支持更优的实验设计。

提出的方法

• 使用贝叶斯推断生成后验样本，结合数据与先验信念以表征参数不确定性。
• 应用后验协方差矩阵（P）评估数据对参数组合的信息量，假设对数变换后参数呈多变量正态分布。
• 采用似然信息子空间（LIS）方法（G）通过排除先验影响来隔离数据驱动的敏感性，利用海森矩阵近似。
• 借鉴Cui等人（2016）的降维技术，分离先验与数据对参数敏感性的贡献。
• 通过比较P与G矩阵的结果，识别出由数据紧密约束的刚性特征参数组合，同时考虑先验信息的影响。
• 在三个领域进行方法验证：生化通路、生态种群动力学和心脏动作电位模型，使用合成数据与真实数据。

实验结果

研究问题

• RQ1 在数据有限的复杂模型中，如何将参数敏感性分解为数据驱动与先验信息驱动的组成部分？
• RQ2 哪些参数组合（特征参数）对模型输出影响最大，且这些组合是受数据约束而非先验信念约束的？
• RQ3 在多种建模情境下，不同的贝叶斯降维方法（后验协方差 vs. LIS）在识别刚性特征参数方面的表现如何比较？
• RQ4 所提出的方法是否能揭示在单独分析参数时被掩盖的模型行为隐藏控制机制？
• RQ5 该框架在多大程度上可通过识别应优先测量的参数来指导未来实验设计，以改善模型推断？

主要发现

• 后验协方差方法（P）在对数变换后参数后验分布近似为多变量正态分布的假设下，成功识别出刚性特征参数。
• 似然信息子空间（LIS）方法（G）能有效隔离数据驱动的敏感性，在似然曲面复杂或非高斯时，其表现优于标准方法。
• 在所有测试案例中——包括生化、生态与心脏模型——刚性特征参数均表现为参数组合而非单个参数，且这些组合控制着模型输出。
• 该方法揭示了先验信念可显著影响参数敏感性，尤其在数据稀疏时，且这些影响可与数据驱动的约束明确分离。
• 该方法可识别出‘控制旋钮’——即必须高精度测量的参数组合，以提升模型预测能力。
• 该框架通过突出应优先收集数据的参数，支持更优的实验设计，从而降低模型输出的不确定性。