[论文解读] Data-driven approaches for predicting spread of infectious diseases through DINNs: Disease Informed Neural Networks

Sagi Shaier, Maziar Raissi+1 more|arXiv (Cornell University)|Oct 11, 2021

COVID-19 epidemiological studies被引用 13

一句话总结

该论文提出了一种疾病信息神经网络（Disease Informed Neural Networks, DINNs），这是一种物理信息深度学习框架，利用来自分室流行病学模型的常微分方程（ODE）系统来预测传染病传播并估计未知参数。DINNs 在11种不同疾病（包括COVID-19、寨卡病毒和埃博拉病毒）中，即使在数据缺失和参数不确定性等挑战性条件下，也能从嘈杂且稀疏的真实世界数据中有效学习动态，其性能优于传统优化方法，预测精度极高。

ABSTRACT

In this work, we present an approach called Disease Informed Neural Networks (DINNs) that can be employed to effectively predict the spread of infectious diseases. This approach builds on a successful physics informed neural network approaches that have been applied to a variety of applications that can be modeled by linear and non-linear ordinary and partial differential equations. Specifically, we build on the application of PINNs to SIR compartmental models and expand it a scaffolded family of mathematical models describing various infectious diseases. We show how the neural networks are capable of learning how diseases spread, forecasting their progression, and finding their unique parameters (e.g. death rate). To demonstrate the robustness and efficacy of DINNs, we apply the approach to eleven highly infectious diseases that have been modeled in increasing levels of complexity. Our computational experiments suggest that DINNs is a reliable candidate for effectively learn about the dynamics of spread and forecast its progression into the future from available real-world data.

研究动机与目标

• 开发一种数据驱动、可微分的框架，将已知的流行病学 ODE 与神经网络相结合，以建模和预测传染病动力学。
• 解决在复杂分室模型中参数估计的挑战，这些模型在初始猜测不佳或数据嘈杂时，传统优化方法会失效。
• 证明所提出方法在多种传播动力学和模型复杂度各异的传染病中的泛化能力和鲁棒性。
• 通过将特定疾病的生物学和流行病学约束嵌入神经网络架构，减少对大规模数据集和计算资源的依赖。
• 为公共卫生决策中的实时预测和参数推断提供一种可扩展、可靠的反向建模方法。

提出的方法

• DINNs 通过将分室 ODE 系统（如 SIR、SEIR、寨卡病毒、埃博拉病毒模型）直接嵌入深度神经网络的损失函数中，扩展了物理信息神经网络（PINNs）。
• 神经网络通过最小化 ODE 残差误差和拟合观测数据，同时学习随时间演化的状态变量（如 S、I、R）和未知参数（如 β、α、γ）。
• 该方法使用自动微分计算 ODE 残差的梯度，从而实现通过微分方程的反向传播端到端训练。
• 采用多阶段训练策略：首先，网络从数据中学习动态；其次，通过结合数据拟合误差和 ODE 残差最小化的损失函数，对未知参数进行微调。
• 该框架支持具有不同数量分室和参数的模型，包括存在潜在或未观测状态的系统（如潜伏期、无症状期或虫媒传播阶段）。
• 该方法在合成数据和真实世界数据（含受控噪声和缺失数据）下，对11种疾病（从简单的 SIR 模型到复杂的多阶段模型如寨卡病毒和炭疽热）进行了评估。

实验结果

研究问题

• RQ1 DINNs 是否能准确预测在复杂度各异的分室模型中传染病传播的进展？
• RQ2 DINN 在参数估计和动态预测中对嘈杂、稀疏或不完整的现实世界数据的鲁棒性如何？
• RQ3 与传统优化方法（如 Nelder-Mead、高斯-牛顿法）相比，DINN 在收敛性和对初始参数猜测敏感性方面表现如何？
• RQ4 模型维度和可学习参数数量对 DINN 训练时间和准确性有何影响？
• RQ5 DINNs 是否能有效学习具有快速振荡或复杂动态的系统，如炭疽热或脊髓灰质炎病毒所示？

主要发现

• 在寨卡病毒模型中，DINNs 对状态变量预测的相对误差低至 2.215e-06，表明其在拟合复杂多分室 ODE 系统方面具有极高精度。
• 对于寨卡病毒模型，DINN 对全部 14 个参数的估计相对误差均低于 5.87%，其中最佳参数估计对参数 'a' 的相对误差仅为 0.0588%。
• 在所有测试案例中，DINNs 均优于传统优化方法（如 Nelder-Mead、高斯-牛顿法），尤其在初始参数猜测远离真实值时，其他方法无法收敛，而 DINNs 仍能有效工作。
• 当已知参数被固定时，训练时间从 50 小时缩短至仅数分钟，表明在具备先验知识时，DINNs 具有极高的效率。
• DINNs 对数据变异性和数据缺失表现出强鲁棒性，在随机移除高达 30% 数据点的情况下仍能保持高精度。
• 该方法在低至中等振荡复杂度的模型（如麻疹、结核病）中最为有效，而具有急剧快速振荡的系统（如炭疽热）则需要显著更长的训练时间和超参数调优。