[论文解读] STAN: Spatio-Temporal Attention Network for Pandemic Prediction Using Real World Evidence

Junyi Gao, Rakshith Sharma+6 more|arXiv (Cornell University)|Jul 23, 2020

Data-Driven Disease Surveillance参考文献 17被引用 7

一句话总结

STAN 提出了一种时空注意力网络，利用现实世界中的电子健康记录（EHR）数据、地理邻近性以及人口统计相似性，以提升大流行病预测的准确性。通过将基于物理定律的正则化整合到具备注意力机制的图卷积网络中，STAN 在美国各县的短期和长期 COVID-19 病例预测中，相较于基线模型，平均误差降低了高达 87%。

ABSTRACT

Objective: The COVID-19 pandemic has created many challenges that need immediate attention. Various epidemiological and deep learning models have been developed to predict the COVID-19 outbreak, but all have limitations that affect the accuracy and robustness of the predictions. Our method aims at addressing these limitations and making earlier and more accurate pandemic outbreak predictions by (1) using patients' EHR data from different counties and states that encode local disease status and medical resource utilization condition; (2) considering demographic similarity and geographical proximity between locations; and (3) integrating pandemic transmission dynamics into deep learning models. Materials and Methods: We proposed a spatio-temporal attention network (STAN) for pandemic prediction. It uses an attention-based graph convolutional network to capture geographical and temporal trends and predict the number of cases for a fixed number of days into the future. We also designed a physical law-based loss term for enhancing long-term prediction. STAN was tested using both massive real-world patient data and open source COVID-19 statistics provided by Johns Hopkins university across all U.S. counties. Results: STAN outperforms epidemiological modeling methods such as SIR and SEIR and deep learning models on both long-term and short-term predictions, achieving up to 87% lower mean squared error compared to the best baseline prediction model. Conclusions: By using information from real-world patient data and geographical data, STAN can better capture the disease status and medical resource utilization information and thus provides more accurate pandemic modeling. With pandemic transmission law based regularization, STAN also achieves good long-term prediction performance.

研究动机与目标

• 在 COVID-19 危机期间，提升大流行病暴发预测的准确性和鲁棒性。
• 通过整合现实世界患者数据和时空动态，解决现有流行病学与深度学习模型的局限性。
• 利用区域间的本地医疗资源使用情况和人口统计相似性，建模疾病传播。
• 通过在深度学习框架中引入基于物理定律的正则化，提升长期预测性能。
• 通过将现实世界证据整合到可扩展的深度学习架构中，实现更早且更可靠的预测。

提出的方法

• STAN 采用基于注意力机制的图卷积网络，利用 EHR 数据对美国各县的时空依赖关系进行建模。
• 通过将地理位置邻近性和区域间的人口统计相似性编码为图结构，以提升表征学习效果。
• 时空注意力机制动态加权相关区域和时间步长，以提升预测性能。
• 引入基于物理启发的损失项，依据大流行病传播动力学对预测进行正则化，从而提升长期准确性。
• 模型在真实世界 EHR 数据上进行训练，并使用约翰霍普金斯大学提供的开源 COVID-19 病例数据进行验证。
• 端到端训练通过在固定时间范围内优化未来病例数预测，采用均方误差损失并结合物理正则化。

实验结果

研究问题

• RQ1 与传统流行病学模型相比，现实世界中的 EHR 数据是否能提升大流行病预测的准确性？
• RQ2 在大流行病建模中，整合区域间的地理与人口统计相似性在多大程度上能提升时空预测性能？
• RQ3 基于物理定律的正则化在多大程度上能提升深度学习模型在长期预测中的稳定性与准确性？
• RQ4 STAN 在短期和长期预测任务中，相较于 SIR、SEIR 及其他深度学习基线模型的表现如何？
• RQ5 注意力机制是否能有效捕捉异质性现实世界健康数据中的复杂时空模式，以实现大流行病预测？

主要发现

• 在全美各县的长期预测中，STAN 相较于最佳基线模型，平均误差降低了高达 87%。
• 该模型在短期和长期预测中，均优于经典流行病学模型（SIR、SEIR）以及深度学习基线模型。
• 引入基于物理定律的正则化显著提升了长期预测性能，使模型输出与已知传播动力学保持一致。
• 注意力机制能有效识别并加权关键区域和时间点，从而提升预测的鲁棒性。
• 本地疾病状态和医疗资源使用情况的 EHR 数据显著增强了模型对区域疫情趋势的敏感度。
• 对地理与人口统计相似性的建模，提升了模型在具有不同疫情发展轨迹的多样化美国县区间的泛化能力。