[論文レビュー] Steering a Historical Disease Forecasting Model Under a Pandemic: Case of Flu and COVID-19

Alexander Rodríguez, Nikhil Muralidhar+4 more|arXiv (Cornell University)|Sep 23, 2020

Anomaly Detection Techniques and Applications被引用数 5

ひとこと要約

本稿では、限られたCOVID関連の外部信号を統合することで、流行性インfluenza予測モデル（EpiDeep-CN）が、インフルエンザとCOVID-19の同時流行に伴う変則的動向に適応できるようにする、転移学習フレームワークであるCali-Netを提案する。注意に基づく知識蒸留とラプラシアン正則化を施した新規の再帰的アーキテクチャを用いることで、パンデミック期におけるwILIデータの異常なトレンドを的確に捉え、ベースラインを上回る適応性と予測精度を達成した。

ABSTRACT

Forecasting influenza in a timely manner aids health organizations and policymakers in adequate preparation and decision making. However, effective influenza forecasting still remains a challenge despite increasing research interest. It is even more challenging amidst the COVID pandemic, when the influenza-like illness (ILI) counts are affected by various factors such as symptomatic similarities with COVID-19 and shift in healthcare seeking patterns of the general population. Under the current pandemic, historical influenza models carry valuable expertise about the disease dynamics but face difficulties adapting. Therefore, we propose CALI-Net, a neural transfer learning architecture which allows us to 'steer' a historical disease forecasting model to new scenarios where flu and COVID co-exist. Our framework enables this adaptation by automatically learning when it should emphasize learning from COVID-related signals and when it should learn from the historical model. Thus, we exploit representations learned from historical ILI data as well as the limited COVID-related signals. Our experiments demonstrate that our approach is successful in adapting a historical forecasting model to the current pandemic. In addition, we show that success in our primary goal, adaptation, does not sacrifice overall performance as compared with state-of-the-art influenza forecasting approaches.

研究の動機と目的

• インフルエンザとCOVID-19の同時流行に起因するwILIトレンドの変則的動向に、歴史的なインフルエンザ予測モデルを効果的に適応させる挑戦に応えること。
• 豊富な歴史的wILIデータから得られる知識を保持しつつ、限られたノイジーなCOVID関連の外部信号（例：感染症例、入院者数）を活用すること。
• 新しいパンデミック状況への適応過程で、歴史的モデルからの悪影響的転送（negative transfer）を回避すること。
• データ不足と変化する感染症ダイナミクスにもかかわらず、米国各地域において高い予測性能を維持すること。
• 出現するパンデミック状況下で、既存の疾患モデルを効果的に制御する原理的フレームワークを提供すること。

提案手法

• Cali-Netは二重ストリームアーキテクチャを採用：歴史的wILIデータで学習されたソースモデル（EpiDeep-CN）と、現在のwILIデータおよび外部信号で学習されたターゲットモデル（Caem）。
• 注意に基づく知識蒸留（KD）損失を用い、ソースモデルからターゲットモデルへの有用な知識を的確に転送することで、悪影響的転送を最小限に抑える。
• Caemモデルは、再帰的予測アーキテクチャにおける米国各地域間の空間的一致性を強制するためにラプラシアン正則化を組み込む。
• 空間的制約を明示的に組み込んだグローバルトレーニング戦略により、パンデミック初期段階のデータ不足を緩和する。
• 複数の外部信号ストリームを統合：個別リスト化された感染症例（DS1）、検査データ（DS2）、クラウドソーシングレポート（DS3）。
• 階層的アテンションメカニズムを用いて転移学習を実施し、歴史的トレンドとリアルタイムのCOVID信号への依存度を動的にバランスさせる。

実験結果

リサーチクエスチョン

• RQ1 wILIデータが共存する疾患の影響を受けるパンデミック状況において、歴史的なインフルエンザ予測モデルを効果的に適応させる方法は何か？
• RQ2 確認済み症例や入院者数などの外部信号は、異常な感染症ダイナミクス下での予測精度向上に果たす役割は何か？
• RQ3 歴史的モデルから新しいパンデミック状況への知識蒸留を設計する際、悪影響的転送を回避するにはどうすればよいか？
• RQ4 空間的正則化とアーキテクチャ設計は、米国各地域にわたる一般化性能をどの程度向上させるか？
• RQ5 データ不足下でも、短期および長期の予測期間にわたり、統一されたフレームワークが高い性能を維持できるか？

主な発見

• Cali-Netは、2019–2020年のパンデミック期におけるwILIの特異的上昇とその後の低下トレンドを的確に捉えており、標準モデルでは予測できない。
• 全10地域において競争力ある性能を達成し、最良のベースラインと比較して、どの地域でも顕著な性能低下を示さなかった。
• アブレーションスタディの結果、地域再構築、ラプラシアン正則化、または再帰的モデルを除去すると、予測精度が低下することが確認された。
• 知識蒸留損失は、大多数の地域で1週間先予測を改善し、20週間中18週間でKDなしのバージョンをCali-Netが上回った。
• 個別リスト化された感染症例（DS1）が最も効果的な外部信号であったが、検査データとクラウドソーシングレポートは地域ごとに効果のばらつきが見られた。
• ハイパーパramータの変動に対してもロバスト性を示し、多様な条件下での安定性と一般化能力を確認した。