[論文レビュー] Data-driven approaches for predicting spread of infectious diseases through DINNs: Disease Informed Neural Networks

Sagi Shaier, Maziar Raissi+1 more|arXiv (Cornell University)|Oct 11, 2021

COVID-19 epidemiological studies被引用数 13

ひとこと要約

本稿では、区画疫学的モデルからの通常微分方程式（ODE）系を活用して感染症の広がりを予測し、未知のパラメータを推定する、物理情報付きディープラーニングフレームワークである疾患情報付きニューラルネットワーク（DINNs）を紹介する。DINNsは、COVID-19、ジカ、エボラを含む11種の多様な疾患において、ノイズが多く、スパarsな実世界のデータからも、動的特性を効果的に学習でき、欠損データやパラメータの不確実性があるような困難な状況でも高い精度を示し、従来の最適化手法を上回る性能を発揮する。

ABSTRACT

In this work, we present an approach called Disease Informed Neural Networks (DINNs) that can be employed to effectively predict the spread of infectious diseases. This approach builds on a successful physics informed neural network approaches that have been applied to a variety of applications that can be modeled by linear and non-linear ordinary and partial differential equations. Specifically, we build on the application of PINNs to SIR compartmental models and expand it a scaffolded family of mathematical models describing various infectious diseases. We show how the neural networks are capable of learning how diseases spread, forecasting their progression, and finding their unique parameters (e.g. death rate). To demonstrate the robustness and efficacy of DINNs, we apply the approach to eleven highly infectious diseases that have been modeled in increasing levels of complexity. Our computational experiments suggest that DINNs is a reliable candidate for effectively learn about the dynamics of spread and forecast its progression into the future from available real-world data.

研究の動機と目的

• 感染症の動的変化をモデル化・予測するために、既知の疫学的ODEをニューラルネットワークと統合するデータ駆動型で微分可能なフレームワークの開発。
• 初期値のずれやノイズの多いデータがある中で、従来の最適化手法が失敗する複雑な区画モデルにおけるパラメータ推定の課題への対応。
• 伝染病の伝播ダイナミクスやモデルの複雑さに応じて変動する多様な感染症の分野にわたり、提案手法の汎用性と頑健性を実証すること。
• 疾患固有の生物学的・疫学的制約をニューラルネットワークのアーキテクチャに埋め込むことで、大規模なデータセットや計算リソースへの依存を低減すること。
• 公衆衛生意思決定におけるリアルタイムの予測とパラメータ推定のためのスケーラブルで信頼性の高い逆問題モデリング手法の提供。

提案手法

• DINNsは、区画ODE系（例：SIR、SEIR、ジカ、エボラなど）を深層ニューラルネットワークの損失関数に直接埋め込むことで、物理情報付きニューラルネットワーク（PINNs）を拡張する。
• ニューラルネットワークは、ODEの残差誤差を最小化するとともに観測データにフィットするように、時間発展する状態変数（例：S、I、R）と未知パラメータ（例：β、α、γ）を同時に学習する。
• ODEの残差の勾配を自動微分により計算することで、微分方程式を介したバックプロパゲーションによるエンドツーエンドの学習が可能になる。
• 段階的な訓練戦略を採用：まず、ネットワークがデータからダイナミクスを学習する。次に、データ誤差とODE残差の両方を最小化する損失関数を用いて、未知パラメータのファインチューニングを行う。
• 区画数やパラメータ数が異なるモデル、ならびに隠れ状態（例：潜伏期、無症状、媒介者を介した感染段階など）を含む未観測状態を有するシステムにも対応可能。
• 合成データおよびノイズと欠損データを制御した実世界データを用いて、11種の疾患（SIRからジカ、炭疽病に至るまでの複雑なマルチステージモデルまで）を対象に評価。

実験結果

リサーチクエスチョン

• RQ1 DINNsは、複雑さが異なる多様な区画モデルにおいて、感染症の広がりの進行を正確に予測できるか？
• RQ2 DINNは、ノイズが多く、スパarsあるいは不完全な実世界データにおいて、パラメータ推定とダイナミクス予測の両面でどれほど頑健か？
• RQ3 初期パラメータ推定値が真の値から大きくずれている場合を含め、DINNの性能は従来の最適化手法（例：ネルダー・ミード法、ガウス・ニュートン法）と比べて収束性や初期値への感受性の面で優れているか？
• RQ4 モデルの次元数や学習可能なパラメータ数が、DINNの訓練時間と精度に与える影響は何か？
• RQ5 DINNsは、アントラックスやポリオに見られるような急激な周期的変動や複雑なダイナミクスを示す系を効果的に学習できるか？

主な発見

• ジカ熱モデルにおいて、状態変数の予測で相対誤差が最小2.215e-06にまで低下し、複雑なマルチコンパートメントODE系への適合精度が極めて高いことが示された。
• ジカ熱モデルでは14のすべてのパラメータを相対誤差5.87%未満で推定でき、特にパラメータ'a'の最良推定値では相対誤差がたった0.0588%にとどまった。
• すべてのテストケースにおいて、従来の最適化手法（例：ネルダー・ミード法、ガウス・ニュートン法）を上回る性能を示した。特に初期パラメータ推定値が真の値から大きくずれている場合、他の手法は収束に失敗するが、DINNsはそのような状況でも安定して性能を発揮した。
• 既知のパラメータを固定した場合、訓練時間は50時間から数分にまで短縮された。これは、事前知識がある場合に極めて効率的であることを示している。
• DINNsはデータのばらつきや欠損データに対しても頑健であり、最大30%のデータポイントをランダムに削除しても高い精度を維持した。
• 振動の複雑さが低～中程度のモデル（例：麻疹、結核）に対しては、DINNsは特に効果的であったが、急激な急激な振動を示す系（例：アントラックス）では、著しく長い訓練時間とハイパーパrameterチューニングが必要であった。