[論文レビュー] Implementing measurement error models with mechanistic mathematical models in a likelihood-based framework for estimation, identifiability analysis, and prediction in the life sciences

Ryan J. Murphy, Oliver J. Maclaren+1 more|arXiv (Cornell University)|Jul 4, 2023

Gene Regulatory Network AnalysisBiochemistry, Genetics and Molecular Biology被引用数 3

ひとこと要約

本論文は、システム生物学および数学的生物学における力学的ODEおよびPDEモデルに、加法的ガウス誤差、乗法的対数正規誤差、ポアソン誤差などの多様な測定誤差モデルを統合する尤度に基づくフレームワークを提示する。プロファイル尤度解析が、さまざまな誤差仮定のもとでの頑健なパラメータ推定、同定可能性の評価、予測を可能にすることを示しており、再現性を確保するためのオープンソースのJuliaコードを提供する。

ABSTRACT

Throughout the life sciences we routinely seek to interpret measurements and observations using parameterised mechanistic mathematical models. A fundamental and often overlooked choice in this approach involves relating the solution of a mathematical model with noisy and incomplete measurement data. This is often achieved by assuming that the data are noisy measurements of the solution of a deterministic mathematical model, and that measurement errors are additive and normally distributed. While this assumption of additive Gaussian noise is extremely common and simple to implement and interpret, it is often unjustified and can lead to poor parameter estimates and non-physical predictions. One way to overcome this challenge is to implement a different measurement error model. In this review, we demonstrate how to implement a range of measurement error models in a likelihood-based framework for estimation, identifiability analysis, and prediction, called Profile-Wise Analysis. This frequentist approach to uncertainty quantification for mechanistic models leverages the profile likelihood for targeting parameters and understanding their influence on predictions. Case studies, motivated by simple caricature models routinely used in systems biology and mathematical biology literature, illustrate how the same ideas apply to different types of mathematical models. Open-source Julia code to reproduce results is available on GitHub.

研究の動機と目的

• 生命科学のモデリングにおいて広く用いられているが、しばしば正当化されていない加法的ガウス誤差モデルの使用を是正すること。
• 乗法的誤差やポアソン誤差などの代替誤差モデルが、標準的な加法的ガウス仮定よりも、より正確で物理的に妥当なパラメータ推定と予測をもたらすことを示すこと。
• 尤度に基づく推論アプローチにおいて、異なる測定誤差モデルを統合・比較するための実用的で統一的なフレームワークを提供すること。
• 多様な誤差構造を有する力学的モデルにおいて、プロファイル尤度を用いた構造的および実用的同定可能性解析を可能にすること。
• すべてのモデル実装および分析に用いるオープンソースのJuliaコードを提供することで、再現性のある研究を支援すること。

提案手法

• 力学的ODE/PDEモデルの解と観測データを、さまざまな測定誤差モデル（加法的ガウス、乗法的対数正規、ポアソンなど）を用いて結びつける尤度関数を定式化する。
• JuliaのDistributionsパッケージからの対数尤度関数を用いて、異なる誤差仮定のもとでのモデル適合を計算する。
• 尤度を最大化してパラメータを推定するために、数値最適化（Nelder-Mead）を適用する。
• パラメータの実用的同定可能性を評価し、信頼区間を計算するためにプロファイル対数尤度解析を実施する。
• 尤度比検定に基づく近似信頼区間を定義するためにカイ二乗分布の閾値を用いる。
• JuliaのDifferentialEquations.jlパッケージを用いてODE/PDE系を数値的に解く。

Figure 1: Implementing a variety of measurement error models in a profile likelihood-based framework for parameter estimation, identifiability analysis, and prediction. (a) Synthetic data (circles). (b) The framework is applicable to a range of mathematical models and measurement error models. Schem

実験結果

リサーチクエスチョン

• RQ1 測定誤差モデルの選択が、生物学的システムの力学的モデルにおけるパラメータ推定と予測精度にどのように影響するか？
• RQ2 乗法的対数正規やポアソン誤差などの代替誤差モデルが、標準的な加法的ガウス仮定よりも、生物学的ばらつきをより適切に捉えることができるか？
• RQ3 非ガウス誤差モデルを用いる場合、プロファイル尤度は実用的同定可能性をどのように評価できるか？
• RQ4 離散的または不等分散誤差モデルをシステム生物学の応用に用いる場合の、計算的および統計的影響は何か？
• RQ5 同じ尤度に基づくフレームワークが、ODEやPDEを含むさまざまな力学的モデルおよび誤差構造にどの程度一般化可能か？

主な発見

• 元のデータ生成過程がこの仮定に従わない場合、加法的ガウス誤差モデルはしばしば不良なパラメータ推定と非物理的予測をもたらす。
• データに不等分散性がある場合やカウントデータである場合には、乗法的対数正規誤差モデルやポアソン誤差モデルがより適切なフィットを提供する。
• プロファイル尤度解析は、複雑な誤差構造下でも同定不能なパラメータを的確に特定でき、モデルの信頼性を向上させる。
• 尤度比に基づく閾値を用いることで、パラメータの正確な信頼区間が得られ、具体的な値（例：90%、95%、99%、99.9%区間のχ²(ν)分位数）が提示されている。
• このアプローチは計算的に効率的で拡張性が高く、ガンマ分布、ベータ分布、負の二項分布などのさまざまな分布や誤差構造をサポートする。
• GitHubにオープンソースのJuliaコードが公開されており、フレームワークの完全な再現性と、新たな生物学的モデルや誤差モデルへの拡張を可能にする。

Figure 2: Caricature ODE model with linear reactions (Eq ( 16 )). (a) Synthetic data (circles) at sixteen equally–spaced time points from $t=0.0$ to $t=2.0$ are generated by simulating Eq ( 16 ), the additive Gaussian measurement error model, known model parameters $\theta=(r_{1},r_{2},\sigma_{\math