[论文解读] Steering a Historical Disease Forecasting Model Under a Pandemic: Case of Flu and COVID-19

Alexander Rodríguez, Nikhil Muralidhar+4 more|arXiv (Cornell University)|Sep 23, 2020

Anomaly Detection Techniques and Applications被引用 5

一句话总结

该论文提出Cali-Net，一种迁移学习框架，通过整合有限的与COVID-19相关的外生信号，引导历史流感预测模型（EpiDeep-CN）适应流感与COVID-19共同传播的环境。通过注意力知识蒸馏和一种带有拉普拉斯正则化的新型循环架构，Cali-Net成功捕捉了大流行期间wILI数据中的异常趋势，在模型适应性和预测准确性方面均优于基线方法。

ABSTRACT

Forecasting influenza in a timely manner aids health organizations and policymakers in adequate preparation and decision making. However, effective influenza forecasting still remains a challenge despite increasing research interest. It is even more challenging amidst the COVID pandemic, when the influenza-like illness (ILI) counts are affected by various factors such as symptomatic similarities with COVID-19 and shift in healthcare seeking patterns of the general population. Under the current pandemic, historical influenza models carry valuable expertise about the disease dynamics but face difficulties adapting. Therefore, we propose CALI-Net, a neural transfer learning architecture which allows us to 'steer' a historical disease forecasting model to new scenarios where flu and COVID co-exist. Our framework enables this adaptation by automatically learning when it should emphasize learning from COVID-related signals and when it should learn from the historical model. Thus, we exploit representations learned from historical ILI data as well as the limited COVID-related signals. Our experiments demonstrate that our approach is successful in adapting a historical forecasting model to the current pandemic. In addition, we show that success in our primary goal, adaptation, does not sacrifice overall performance as compared with state-of-the-art influenza forecasting approaches.

研究动机与目标

• 解决历史流感预测模型在流感与COVID-19共同传播导致wILI数据出现异常趋势时的适应性挑战。
• 在保留丰富历史wILI数据知识的同时，利用有限且嘈杂的与COVID-19相关的外生信号（如确诊病例、住院人数）。
• 防止历史模型在适应新大流行条件时发生负迁移。
• 在数据稀少和疾病传播动态变化的背景下，保持在美国不同地区均具有高水平的预测性能。
• 为在新兴大流行情景下引导成熟疾病模型提供一个系统化框架。

提出的方法

• Cali-Net采用双流架构：一个在历史wILI数据上训练的源模型（EpiDeep-CN）和一个在当前wILI数据及外生信号上训练的目标模型（Caem）。
• 利用注意力知识蒸馏（KD）损失，选择性地将源模型中的有用知识迁移至目标模型，最大限度减少负迁移。
• Caem模型引入拉普拉斯正则化，以在循环预测架构中强制实现美国各地区之间的空间一致性。
• 采用具有显式空间约束的全局训练策略，有助于缓解大流行初期的数据稀缺问题。
• 该框架整合了多路外生数据流：病例列表数据（DS1）、检测数据（DS2）和基于人群的报告数据（DS3）。
• 通过分层注意力机制实现迁移学习，动态平衡对历史趋势和实时COVID-19信号的依赖。

实验结果

研究问题

• RQ1 如何有效适应历史流感预测模型，以应对wILI数据因流感与COVID-19共同传播而出现异常趋势的大流行情景？
• RQ2 外生信号（如确诊病例、住院人数）在异常疾病动态期间对预测性能的提升起到何种作用？
• RQ3 如何设计知识蒸馏机制，以防止从历史模型向新大流行条件迁移时发生负迁移？
• RQ4 空间正则化与架构设计在提升美国不同地区泛化能力方面的作用有多大？
• RQ5 统一框架在数据稀缺条件下，能否在短期和长期预测时间范围内均保持高性能？

主要发现

• Cali-Net成功捕捉了2019–2020年大流行季节期间wILI数据的非典型上升趋势及其后续下降趋势，而标准模型则无法预测该趋势。
• 该模型在全美10个地区均表现出具有竞争力的性能，无一地区出现显著性能下降，优于最佳基线模型。
• 消融实验表明，若移除区域重建、拉普拉斯正则化或循环模型，预测准确性将下降。
• 知识蒸馏损失在大多数地区提升了1周预测性能，Cali-Net在20周中的18周内优于无KD的变体模型。
• 病例列表数据（DS1）是最有效的外生信号，而检测数据和人群报告数据在不同地区的有效性表现更不一致。
• 该方法在超参数变化下保持鲁棒性，展现出在多种条件下的稳定性与泛化能力。