[論文レビュー] Autocorrelated measurement processes and inference for ordinary differential equation models of biological systems

Ben Lambert, Chon Lok Lei+6 more|arXiv (Cornell University)|Oct 4, 2022

Gene Regulatory Network Analysis被引用数 2

ひとこと要約

この論文は、生物学的システムの常微分方程式（ODE）モデルにおける独立同分布（IID）ガウスノイズの広く受け入れられている仮定に挑戦し、持続的な測定不具合に起因する自己相関のある測定誤差が、パラメータの不確実性を不自然に低減することを示している。自己相関の診断のためのワークフローを提案し、ARMAおよび状態空間時系列（STS）モデルを用いて推論を是正する手法を導入しており、自己相関を無視するとパラメータ推定が過信しすぎてしまうことを示している。

ABSTRACT

Ordinary differential equation models are used to describe dynamic processes across biology. To perform likelihood-based parameter inference on these models, it is necessary to specify a statistical process representing the contribution of factors not explicitly included in the mathematical model. For this, independent Gaussian noise is commonly chosen, with its use so widespread that researchers typically provide no explicit justification for this choice. This noise model assumes `random' latent factors affect the system in ephemeral fashion resulting in unsystematic deviation of observables from their modelled counterparts. However, like the deterministically modelled parts of a system, these latent factors can have persistent effects on observables. Here, we use experimental data from dynamical systems drawn from cardiac physiology and electrochemistry to demonstrate that highly persistent differences between observations and modelled quantities can occur. Considering the case when persistent noise arises due only to measurement imperfections, we use the Fisher information matrix to quantify how uncertainty in parameter estimates is artificially reduced when erroneously assuming independent noise. We present a workflow to diagnose persistent noise from model fits and describe how to remodel accounting for correlated errors.

研究の動機と目的

• 生物学的システムのODEモデルにおける自己相関のある測定ノイズがパラメータ推定に与える影響を調査すること。
• ODEベースの統計的推論における独立同分布（IID）ガウスノイズという前提を疑うこと。
• モデルのフィットに生じる持続的ノイズを検出するための診断ワークフローを開発すること。
• 自己相関を考慮する代替ノイズモデル（ARMAおよび状態空間時系列（STS））を提案・評価すること。
• 自己相関を無視すると、パラメータ推定の不確実性が不自然に低減されることを実証すること。

提案手法

• 測定誤差をIIDガウスノイズではなく、自己相関のあるプロセスとしてモデル化する統計的フレームワークを提案する。
• フィッシャー情報行列を用いて、IIDノイズが誤って仮定された場合に精度推定値がどのように過大評価されるかを解析的に定量化する。
• ODEベースの推論において時間的に相関のある測定誤差を表現するために、ARMA(1,1)およびAR(1)モデルを適用する。
• 複雑で持続的なノイズ構造を柔軟に表現するために、状態空間時系列（STS）モデルを用いる。
• 残差解析に基づく診断ワークフローを開発し、モデルフィットにおける自己相関を検出する。
• 心臓生理学および電気化学分野の実データを用いて、IID、AR(1)、ARMA(1,1)ノイズモデルの間でパラメータ推定の性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 生物学的システムのODEモデルにおいて、IIDガウスノイズの仮定は、バイアスや過信しすぎたパラメータ推定を引き起こすか？
• RQ2 測定不具合がどの程度残差における自己相関を誘発し、統計的推論にどのような影響を与えるか？
• RQ3 ARMAおよび状態空間時系列（STS）モデルは、ODEベースのシステムにおける持続的測定ノイズを効果的に捉えることができるか？
• RQ4 測定誤差の自己相関がフィッシャー情報行列をどのように歪め、結果としてパラメータ推定の精度にどのような影響を与えるか？
• RQ5 ODEモデルのフィットにおいて、自己相関のある測定ノイズの存在を信頼性高く検出するための指標は何か？

主な発見

• 持続的な測定不具合に起因する自己相関のある測定ノイズは、IIDノイズが仮定された場合、パラメータ推定の不確実性が不自然に低減される。
• フィッシャー情報行列の結果、IIDノイズを仮定すると、シミュレーションおよび実データにおいて、パラメータ推定の真の分散が最大30％低く見積もられる。
• 診断用の残差解析は、電気化学や心臓生理学のように時間分解能の高い系において、モデルフィットにおける自己相関を効果的に同定できた。
• ARMA(1,1)およびAR(1)ノイズモデルは、IIDモデルと比較してパラメータ推定の過信を低減し、より頑健な推定を可能にする。
• ARMA(1,1)およびAR(1)モデルにおける事後分布は、IIDモデルと比較して幅広い最高信用区間を示しており、より現実的な不確実性を反映している。
• 本研究は、低次のARMAまたは単純なSTSノイズモデルが、ODE推論における過学習の緩和と一般化性能の向上の観点でIIDノイズよりも優れていることを示している。