[论文解读] Integrating LSTMs and GNNs for COVID-19 Forecasting

N Sesti, Garau-Luis Jj+2 more|arXiv (Cornell University)|Jul 14, 2021

Advanced Graph Neural Networks参考文献 25被引用 9

一句话总结

该论文提出了一种新型的GraphLSTM模型，通过在LSTM门中集成GraphSAGE卷积操作，联合捕捉37个欧洲国家新冠病例数据中的时空模式。通过在空间GNN层与GraphLSTM之间引入跳跃连接，该模型在7天后预测中实现了10%的预测误差，优于最先进的GNN+LSTM模型和基于滞后的基线模型，在MASE指标上表现更优。

ABSTRACT

The spread of COVID-19 has coincided with the rise of Graph Neural Networks (GNNs), leading to several studies proposing their use to better forecast the evolution of the pandemic. Many such models also include Long Short Term Memory (LSTM) networks, a common tool for time series forecasting. In this work, we further investigate the integration of these two methods by implementing GNNs within the gates of an LSTM and exploiting spatial information. In addition, we introduce a skip connection which proves critical to jointly capture the spatial and temporal patterns in the data. We validate our daily COVID-19 new cases forecast model on data of 37 European nations for the last 472 days and show superior performance compared to state-of-the-art graph time series models based on mean absolute scaled error (MASE). This area of research has important applications to policy-making and we analyze its potential for pandemic resource control.

研究动机与目标

• 利用时空数据准确预测互联区域的每日新增新冠病例。
• 通过将图卷积操作直接集成到LSTM门中，改进现有的GNN+LSTM模型，以建模联合的空间与时间依赖性。
• 在2020年1月至2021年5月期间的真实欧洲病例数据上评估模型性能，重点关注预测准确性和政策相关性。
• 研究模型设计选择（尤其是跳跃连接）对预测性能及欠拟合缓解的影响。
• 通过分析各国的预测不足率和漏报病例数，证明模型在政策制定中的实用性。

提出的方法

• 用基于GraphSAGE的图卷积操作替代LSTM门中的标准线性变换，构建一个处理空间图上节点特征的GraphLSTM模块。
• 使用大地距离和社交连通性评分作为边特征，构建37个欧洲国家的图，每个节点连接其最近的3个邻居。
• 实现一个跳跃连接，将初始GraphSAGE层的输出与GraphLSTM的输出拼接，以保留空间信息并减少欠拟合。
• 使用21天的输入序列（L=21），预测7天后的结果（M=7），通过三层GraphSAGE层、GraphLSTM、再三层GraphSAGE层以及两层全连接层的堆叠架构进行预测。
• 使用平均绝对缩放误差（MASE）作为损失函数进行训练，数据集划分为377天用于训练，47天用于验证，48天用于测试。
• 在个人和国家层面的MASE指标上，将所提模型与四种最先进的GNN+LSTM模型（GConvLSTM、GConvGRU、DCRNN、GCLSTM）及一个滞后基线模型进行对比。

实验结果

研究问题

• RQ1 与标准的GNN+LSTM架构相比，将GraphSAGE卷积集成到LSTM门中是否能提升时空流行病学数据的预测准确性？
• RQ2 在空间GNN层与GraphLSTM之间引入跳跃连接，如何影响模型在未见数据上的性能与泛化能力？
• RQ3 与基线模型相比，所提模型在多大程度上减少了预测不足（漏报病例）？其在现实政策中的影响如何？
• RQ4 模型在不同病例数量的国家中的表现如何变化？国家层面的MASE指标是否比个人层面的MASE指标提供更公平的评估？
• RQ5 该模型能否在分布外预测（如超出训练周期的预测）中保持低误差与高可靠性，实现良好的泛化能力？

主要发现

• 所提出的GraphLSTM模型在37个欧洲国家的每日新增新冠病例7天后预测中，实现了10%的预测误差。
• 该模型优于四种最先进的GNN+LSTM模型（GConvLSTM、GConvGRU、DCRNN、GCLSTM），且相比简单滞后基线模型，损失降低了20%。
• 个人层面的MASE得分显著低于基线模型，在消融实验中，若不使用跳跃连接，模型的国家层面MASE为0.76。
• 跳跃连接至关重要：移除它后，个人层面MASE上升至0.76（相比完整模型的0.68），表明其能有效缓解欠拟合并提升时空模式的学习能力。
• 大多数国家的漏报比例（预测不足）低于0.1，且从未超过0.16，表明政策规划中预测不足的风险较低。
• 模型在不同国家的病例曲线中表现稳健，个人与国家层面的MASE指标均持续提升，表明其具有强大的泛化能力与评估公平性。