[论文解读] COVID-19 growth prediction using multivariate long short term memory

Novanto Yudistira|arXiv (Cornell University)|May 10, 2020

COVID-19 epidemiological studies参考文献 14被引用 11

一句话总结

本文提出一种多变量LSTM模型，利用确诊数、死亡数、康复数及地理坐标的时间序列数据，预测全球COVID-19传播情况。该模型在RMSE（1238.66 vs. 1520.61）方面优于RNN，尽管确诊数绝对值存在差异，仍能捕捉长期指数增长模式，证明LSTM在利用大数据进行疫情预测方面的有效性。

ABSTRACT

Coronavirus disease (COVID-19) spread forecasting is an important task to track the growth of the pandemic. Existing predictions are merely based on qualitative analyses and mathematical modeling. The use of available big data with machine learning is still limited in COVID-19 growth prediction even though the availability of data is abundance. To make use of big data in the prediction using deep learning, we use long short-term memory (LSTM) method to learn the correlation of COVID-19 growth over time. The structure of an LSTM layer is searched heuristically until the best validation score is achieved. First, we trained training data containing confirmed cases from around the globe. We achieved favorable performance compared with that of the recurrent neural network (RNN) method with a comparable low validation error. The evaluation is conducted based on graph visualization and root mean squared error (RMSE). We found that it is not easy to achieve the same quantity of confirmed cases over time. However, LSTM provide a similar pattern between the actual cases and prediction. In the future, our proposed prediction can be used for anticipating forthcoming pandemics. The code is provided here: https://github.com/cbasemaster/lstmcorona

研究动机与目标

• 为解决定性方法与统计方法在预测复杂、非线性及长序列COVID-19时间序列数据方面的局限性。
• 利用多变量大数据（包括确诊数、死亡数、康复数及地理坐标）以提升预测准确性。
• 评估LSTM在捕捉疫情传播长期时间动态方面相较于RNN的表现。
• 开发一种可扩展的深度学习框架，通过启发式超参数调优实现对未来疫情趋势的预测。

提出的方法

• 采用具有Sigmoid激活函数和Dropout正则化的多层LSTM架构，以建模多变量时间序列数据中的时间依赖性。
• 输入序列包括确诊数、死亡数、康复数、纬度和经度，输入窗口为67天，输出窗口为33天。
• 通过启发式方法调优超参数（如层数和隐藏单元数），以最小化验证误差。
• 使用时间反向传播端到端训练模型，基于验证损失采用早停策略。
• 通过实际值与预测值的时间序列曲线对比，使用RMSE评估模型性能并进行可视化。
• 应用剪裁与增强方法，将预测扩展至训练窗口之外，每日更新以实现实时预测。

实验结果

研究问题

• RQ1 多变量LSTM模型能否有效捕捉全球COVID-19病例增长的非线性和长程时间动态？
• RQ2 LSTM在预测各国确诊数轨迹方面相较于RNN的表现如何？
• RQ3 在多变量COVID-19预测中，何种模型架构（层数与隐藏单元数）能最小化预测误差？
• RQ4 该模型在训练期之外的未来趋势预测能力如何，特别是在指数增长阶段？

主要发现

• LSTM模型的验证RMSE为1238.66，显著低于RNN的1520.61，证实其性能更优。
• 在四层隐藏层与30个隐藏单元的配置下，模型达到最低RMSE，表明该参数设置为本数据集的最优配置。
• 将层数从一层增至四层可提升预测准确性，而隐藏单元数超过30后收益递减。
• 尽管确诊数绝对值存在差异，预测曲线仍与实际的指数增长模式高度吻合，经视觉与统计分析验证。
• 通过剪裁与增强方法，模型预测自2020年5月2日起病例数呈下降趋势，至2020年5月20日后日新增病例数降至300例以下。
• 即使在数据存在高方差与非线性的情况下，模型仍能稳健捕捉全球传播模式，表明其具备强大的泛化潜力。