[論文レビュー] Analysis of sloppiness in model simulations: unveiling parameter uncertainty when mathematical models are fitted to data

Gloria M. Monsalve-Bravo, Brodie Lawson+8 more|arXiv (Cornell University)|Mar 29, 2022

Spectroscopy and Quantum Chemical Studies参考文献 94被引用数 42

ひとこと要約

本稿では、事前知識とデータを統合することで、モデルのだらしなさ（sloppiness）をベイズ的手法で分析するアプローチを提案する。この手法により、モデル出力に強く影響を与える重要なパラメータの組み合わせ（スティフ固有パラメータ）を同定する。次に、事後分布共分散と尤度に基づく部分空間（likelihood-informed subspace）の次元削減技術を拡張し、データ駆動型と事前知識に基づく感度を区別する。これにより、システム生物学、生態学、心筋電気生理学の分野における複雑なモデルに潜む隠れた制御機構を明らかにする。

ABSTRACT

This work introduces a comprehensive approach to assess the sensitivity of model outputs to changes in parameter values, constrained by the combination of prior beliefs and data. This novel approach identifies stiff parameter combinations strongly affecting the quality of the model-data fit while simultaneously revealing which of these key parameter combinations are informed primarily by the data or are also substantively influenced by the priors. We focus on the very common context in complex systems where the amount and quality of data are low compared to the number of model parameters to be collectively estimated, and showcase the benefits of this technique for applications in biochemistry, ecology, and cardiac electrophysiology. We also show how stiff parameter combinations, once identified, uncover controlling mechanisms underlying the system being modeled and inform which of the model parameters need to be prioritized in future experiments for improved parameter inference from collective model-data fitting.

研究の動機と目的

• 限られたデータにフィットする複雑なモデルにおける高次元パラメータ不確実性の課題に対処すること。
• 個々のパラメータの曖昧さにもかかわらず、モデル出力を支配する重要なパラメータの組み合わせ（スティフ固有パラメータ）を同定すること。
• パラメータ感度が主にデータ由来か事前信念由来かを区別し、モデル推論の解釈可能性を向上させること。
• 最適適合値における局所的曲率を越えて、不確実性を考慮した強固な感度分析手法を提供すること。
• 今後のデータ収集に向け、どのパラメータを優先すべきかを特定することで、より良い実験設計を可能にすること。

提案手法

• データと事前信念を統合してパラメータ不確実性を特徴付けるために、ベイズ推論を用いて事後サンプルを生成する。
• パラメータの組み合わせに対するデータの情報量を評価するため、対数変換されたパラメータの多変量正規分布を仮定し、事後分布共分散行列（P）を適用する。
• 事前知識の影響を除外してデータ駆動型感度を特定するため、ヘッセ行列の近似を用いて、尤度に基づく部分空間（LIS）手法（G）を採用する。
• Cuiら（2016）の次元削減手法を応用し、パラメータ感度への事前知識とデータの寄与を分離する。
• P行列とG行列の結果を比較して、データによって強く制約されるスティフ固有パラメータ（組み合わせ）を同定する。この際、事前知識の影響を考慮する。
• 合成データおよび実データを用いて、生化学的経路、生態的個体群動態、心筋アクションポテンシャルモデルの3分野で手法を検証する。

実験結果

リサーチクエスチョン

• RQ1 限られたデータを持つ複雑なモデルにおいて、パラメータ感度をデータ駆動型と事前知識に基づく成分に分離する方法は何か？
• RQ2 どのパラメータの組み合わせ（固有パラメータ）がモデル出力に最も強く影響を与え、かつそれらが主にデータによって制約されているのか？
• RQ3 異なるベイズ的手法による次元削減（事後分布共分散対LIS）は、多様なモデリング文脈においてスティフ固有パラメータを同定する上で、どのように比較されるか？
• RQ4 提案手法は、個々のパラメータを分析する際に見えにくくなる、モデル挙動における隠れた制御機構を明らかにできるか？
• RQ5 この枠組みは、今後の実験設計をどの程度支援できるか。具体的には、モデル推論の不確実性を低減するために、どのパラメータを測定すべきかを特定できるか？

主な発見

• 対数変換されたパラメータの事後分布が概ね多変量正規分布に従うと仮定した場合、事後分布共分散法（P）はスティフ固有パラメータを効果的に同定できる。
• 尤度に基づく部分空間（LIS）手法（G）は、データ駆動型感度を分離し、尤度曲面が複雑または非ガウス分布である場合、標準的手法を上回る性能を示す。
• すべてのテストケース（生化学的、生態的、心筋モデル）において、スティフ固有パラメータは個々のパラメータそのものではなく、パラメータの組み合わせとして同定された。
• この手法により、データが乏しい場合に事前信念がパラメータ感度に顕著に影響することが明らかになり、その影響をデータによる制約から明確に分離できることが示された。
• このアプローチにより、モデル予測を改善するために高精度で測定すべき「制御ノブ（コントロールノブ）」と呼ばれるパラメータの組み合わせを同定可能である。
• このフレームワークは、モデル出力の不確実性を低減するためにどのパラメータを優先してデータ収集すべきかを明確に示すため、より良い実験設計を支援する。