[论文解读] Ensemble Machine Learning Methods for Modeling COVID19 Deaths

Rahil Bathwal, Pavan Chitta+2 more|arXiv (Cornell University)|Oct 4, 2020

COVID-19 epidemiological studies参考文献 12被引用 4

一句话总结

本文提出了一种集成机器学习模型，通过结合流行病学模型（SEIR-QD）与机器学习模型（LSTM、梯度提升树、随机森林、神经网络），在全美县一级预测每日COVID-19死亡人数的分位数预测。该模型在9个分位数（10%–90%）上最小化分时损失（pinball loss），实现最先进性能，14天预测的分时损失为1.4543，均方根误差（RMSE）为0.0896，在加州理工学院建模竞赛中超越50多支队伍。

ABSTRACT

Using a hybrid of machine learning and epidemiological approaches, we propose a novel data-driven approach in predicting US COVID-19 deaths at a county level. The model gives a more complete description of the daily death distribution, outputting quantile-estimates instead of mean deaths, where the model's objective is to minimize the pinball loss on deaths reported by the New York Times coronavirus county dataset. The resulting quantile estimates accurately forecast deaths at an individual-county level for a variable-length forecast period, and the approach generalizes well across different forecast period lengths. We won the Caltech-run modeling competition out of 50+ teams, and our aggregate is competitive with the best COVID-19 modeling systems (on root mean squared error).

研究动机与目标

• 为解决美国各县缺乏高分辨率、本地化的疫情预测工具的问题，因为州级模型无法捕捉疾病传播中的区域差异。
• 通过提供完整的分位数预测（10%–90%分位数）而非仅均值预测，改进不确定性与严重程度分布的表达。
• 将流行病学先验（SEIR-QD）与数据驱动的机器学习模型（LSTM、梯度提升、随机森林）结合，实现稳健且可泛化的县一级预测。
• 使用分时损失度量优化模型性能，该度量对不同分位数下的低估与高估误差赋予不同权重，从而实现更优的不确定性量化。
• 为政策制定者提供可操作的、本地化的预测结果，以指导疫情期间的资源调配与政策决策。

提出的方法

• 模型结合了动态特征（滞后病例数、死亡数、移动性）与静态特征（人口密度、县人口统计），数据来源包括《纽约时报》、伯克利和笛卡尔实验室的数据集。
• 使用滞后特征（如7天与14天滞后）捕捉时间依赖性，移动性数据通过前向填充法处理缺失值。
• 提出一种新颖的时间序列嵌入方法，将每日死亡数序列转换为4×4池化特征图（16维向量），并使用K均值聚类（k=6）生成县特定的聚类特征。
• 最终的集成模型通过加权平均方式结合多种架构（LSTM、梯度提升树、随机森林、神经网络及SEIR-QD）的预测结果，以提升鲁棒性。
• 模型评估采用9分位数分时损失，定义为各分位数损失的平均值，该损失对低估与高估误差的惩罚具有分位数依赖的非对称性。
• 模型在可变长度预测窗口上进行训练与评估，性能基于2020年5月起的全美县一级数据进行衡量。

实验结果

研究问题

• RQ1 与仅预测均值或单一模型方法相比，混合机器学习与流行病学模型是否能提升县一级的COVID-19死亡预测性能？
• RQ2 采用分位数预测（10%–90%分位数）并结合分时损失优化，是否能产生比均值预测更可靠、更具信息量的预测结果？
• RQ3 当集成在统一模型中时，不同机器学习架构（LSTM、梯度提升、随机森林）与流行病学模型（SEIR-QD）的性能表现如何比较？
• RQ4 滞后动态特征（病例数、死亡数、移动性）与时间特征（星期几、日期偏移）对预测准确性的贡献程度如何？
• RQ5 该模型在不同预测长度下是否具备良好的泛化能力，并在多样化的美国各县中保持低误差？

主要发现

• 在14天预测周期（2020年5月25日至6月4日）中，集成模型的分时损失为1.4543，RMSE为0.0896，在加州理工学院建模竞赛中超越50多支队伍。
• LSTM与集成模型为表现最佳的架构，其中集成模型在两个预测周期中均取得最低分时损失（1.4543）与RMSE（0.0896）。
• 滞后病例数、死亡数与移动性特征为最具预测力的输入，其中滞后病例数在各类模型中均为最重要的预测变量。
• 时间特征如星期几与日期偏移提升了模型性能，可能因捕捉了报告周期与疫情阶段转换的模式。
• 静态特征如人口密度具有有限但非零的预测能力，而动态特征在模型性能中占据主导地位。
• 模型在不同预测长度上表现出良好泛化能力，维持了低误差与一致的性能表现于可变长度预测窗口。