[论文解读] Adaptive County Level COVID-19 Forecast Models: Analysis and Improvement

Stewart W. Doe, Tyler Russell Seekins+3 more|arXiv (Cornell University)|Jun 16, 2020

COVID-19 epidemiological studies参考文献 19被引用 4

一句话总结

该论文提出 CLEIR-Net，一种轻量级、分层的循环神经网络，通过长短期记忆网络（LSTM）主干学习全国时间模式，并应用时间分布密集层，对14天内的各县市新冠确诊病例变化进行预测。其表现优于经过调整的 TDEFSI-LONLY 模型，中位预测均方误差（MSE）为 75,707，显著低于 TDEFSI 的 1800 万，同时使用更少的参数，提升了训练效率和泛化能力。

ABSTRACT

Accurately forecasting county level COVID-19 confirmed cases is crucial to optimizing medical resources. Forecasting emerging outbreaks pose a particular challenge because many existing forecasting techniques learn from historical seasons trends. Recurrent neural networks (RNNs) with LSTM-based cells are a logical choice of model due to their ability to learn temporal dynamics. In this paper, we adapt the state and county level influenza model, TDEFSI-LONLY, proposed in Wang et a. [l2020] to national and county level COVID-19 data. We show that this model poorly forecasts the current pandemic. We analyze the two week ahead forecasting capabilities of the TDEFSI-LONLY model with combinations of regularization techniques. Effective training of the TDEFSI-LONLY model requires data augmentation, to overcome this challenge we utilize an SEIR model and present an inter-county mixing extension to this model to simulate sufficient training data. Further, we propose an alternate forecast model, {\it County Level Epidemiological Inference Recurrent Network} (\alg{}) that trains an LSTM backbone on national confirmed cases to learn a low dimensional time pattern and utilizes a time distributed dense layer to learn individual county confirmed case changes each day for a two weeks forecast. We show that the best, worst, and median state forecasts made using CLEIR-Net model are respectively New York, South Carolina, and Montana.

研究动机与目标

• 解决在数据有限且维度较高的情况下，对县市级新冠确诊病例进行预测的挑战。
• 改进原本专为流感设计的 TDEFSI-LONLY 模型，以适用于 SARS-CoV-2 大流行预测。
• 通过设计一种参数高效的架构，利用全国趋势信息指导本地预测，从而减少过拟合现象并缩短训练时间。
• 通过引入县区间混合 SEIR 模型进行数据增强，模拟真实的传播动态，提升模型泛化能力。

提出的方法

• 将原本用于流感预测的 TDEFSI-LONLY 模型改造为基于长短期记忆网络（LSTM）单元的循环神经网络，用于预测县市级新冠确诊病例。
• 通过扩展标准 SEIR 模型，引入县区间的人口流入与流出项，模拟大流行期间的真实县区间流动行为，实现数据增强。
• 提出 CLEIR-Net，一种双分支架构，其中 LSTM 主干从全国确诊病例中学习低维的全国时间模式。
• 使用时间分布密集层，将全国信号映射为各县市在14天预测期内的新增确诊病例变化。
• 在 TDEFSI 模型上应用正则化技术——dropout 和动态损失项——以提升在模拟数据上的泛化能力并减少过拟合。
• 在 2020 年 5 月 18 日至 31 日的真实县市级数据上进行模型训练与评估，采用均方误差（MSE）作为性能比较指标。

实验结果

研究问题

• RQ1 尽管原始设计用于流感且缺乏流动建模，经过修改的 TDEFSI-LONLY 模型是否仍能有效预测县市级新冠确诊病例？
• RQ2 不同正则化技术如何影响经调整的 TDEFSI 模型在有限真实世界数据上的泛化能力与预测准确性？
• RQ3 像 CLEIR-Net 这类新型分层 RNN 架构是否能在预测准确性和参数效率方面超越经调整的 TDEFSI 模型？
• RQ4 在 SEIR 模型中引入县区间混合机制，能在多大程度上提升合成训练数据的真实感与实用性，以供 RNN 使用？
• RQ5 通过共享 LSTM 主干学习全国时间模式，是否能有效提升本地县市级预测性能？

主要发现

• CLEIR-Net 在全美各县市的中位预测均方误差（MSE）为 75,707，显著优于经调整的 TDEFSI 模型（MSE 为 18,798,679）。
• 表现最佳的 CLEIR-Net 预测为纽约州（MSE = 7,090），最差为南卡罗来纳州（MSE = 188,677），表明其在不同区域间存在显著的性能差异。
• 最佳性能的 CLEIR-Net 变体仅需 10,945 个参数，而经调整的 TDEFSI 模型需 1,038,405 个参数，显著降低了模型复杂度。
• 采用正则化技术的 TDEFSI 模型虽提升了泛化能力，但仍表现不如朴素的“无变化”基线模型，表明其对新冠传播动态的适应能力不足。
• Dropout 正则化提升了 TDEFSI 模型在国家层面的预测性能，在超过四天的预测时长远超朴素基线，但未能实现准确的县市级预测。
• 所提出的县区间混合 SEIR 模型显著增强了数据增强的真实性，使 RNN 在真实县市级数据有限的情况下仍能获得更优的训练效果。