[論文レビュー] Adaptive County Level COVID-19 Forecast Models: Analysis and Improvement

Stewart W. Doe, Tyler Russell Seekins+3 more|arXiv (Cornell University)|Jun 16, 2020

COVID-19 epidemiological studies参考文献 19被引用数 4

ひとこと要約

本稿では、LSTMバックボーンを用いて全国の時間的パターンを学習し、時間に依存する全結合層を適用して14日間の個々の郡レベルの変化を予測することで、郡レベルのCOVID-19症例を予測する軽量で階層的な再帰ニューラルネットワーク、CLEIR-Netを提案する。TDEFSI-LONLYモデルを適応させたものよりも優れた性能を示し、中央値の予測MSEが75,707にとどまり、TDEFSIの1800万よりも顕著に低い。パrameter数がはるかに少なく、トレーニングの効率性と一般化性能も向上している。

ABSTRACT

Accurately forecasting county level COVID-19 confirmed cases is crucial to optimizing medical resources. Forecasting emerging outbreaks pose a particular challenge because many existing forecasting techniques learn from historical seasons trends. Recurrent neural networks (RNNs) with LSTM-based cells are a logical choice of model due to their ability to learn temporal dynamics. In this paper, we adapt the state and county level influenza model, TDEFSI-LONLY, proposed in Wang et a. [l2020] to national and county level COVID-19 data. We show that this model poorly forecasts the current pandemic. We analyze the two week ahead forecasting capabilities of the TDEFSI-LONLY model with combinations of regularization techniques. Effective training of the TDEFSI-LONLY model requires data augmentation, to overcome this challenge we utilize an SEIR model and present an inter-county mixing extension to this model to simulate sufficient training data. Further, we propose an alternate forecast model, {\it County Level Epidemiological Inference Recurrent Network} (\alg{}) that trains an LSTM backbone on national confirmed cases to learn a low dimensional time pattern and utilizes a time distributed dense layer to learn individual county confirmed case changes each day for a two weeks forecast. We show that the best, worst, and median state forecasts made using CLEIR-Net model are respectively New York, South Carolina, and Montana.

研究の動機と目的

• 限られたデータと高い次元性の下で郡レベルのCOVID-19症例を予測する課題に対処すること。
• もともとインフルエンザ用に設計されたTDEFSI-LONLYモデルを、SARS-CoV-2パンデミックの予測に適応させること。
• 全国の傾向を活用して地域の予測を支援することで、パラメータ効率の良いアーキテクチャを設計し、過学習とトレーニング時間を低減すること。
• 郡間混合SEIRモデルを用いたデータ拡張により、実際の感染動態を模擬し、モデルの一般化性能を向上させること。

提案手法

• インフルエンザ用に開発された元のTDEFSI-LONLYモデルを、LSTMセルを用いた再帰ニューラルネットワークを用いて、郡レベルのCOVID-19確定症例を予測するように適応する。
• 標準的なSEIRモデルに郡間の流入・流出項を追加することで、パンデミック期の現実的な郡間移動を模擬し、データ拡張を実装する。
• 全国の確定症例から低次元の全国的時間的パターンを学習するLSTMバックボーンを持つ2本のブランチ構造を有するCLEIR-Netを提案する。
• 時間に依存する全結合層を用いて、全国の信号を14日間の予測期間における個々の郡レベルの確定症例の変化にマッピングする。
• 正則化技術（ドロップアウトと動的損失項）をTDEFSIモデルに適用し、シミュレートされたデータにおける一般化性能の向上と過学習の低減を図る。
• 5月18日から31日までの実際の郡レベルのデータを用いてモデルをトレーニングおよび評価し、平均二乗誤差（MSE）を用いて性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 元々インフルエンザ用に設計されたが移動モデルを含まないTDEFSI-LONLYモデルの修正版が、インフルエンザとは異なるSARS-CoV-2パンデミックの郡レベルの症例を効果的に予測できるか。
• RQ2 異なる正則化技術が、限られた実世界のデータにおける適応TDEFSIモデルの一般化性能と予測精度にどのように影響するか。
• RQ3 CLEIR-Netのような新しい階層的RNNアーキテクチャが、予測精度とパラメータ効率の面で適応TDEFSIモデルを上回ることができるか。
• RQ4 SEIRモデルに郡間混合を組み込むことで、RNNのための合成トレーニングデータの現実性と有用性がどの程度向上するか。
• RQ5 共有のLSTMバックボーンを用いて全国レベルの時間的パターンを活用することで、地域の郡レベルの予測性能が向上するか。

主な発見

• CLEIR-Netは米国の郡全体で中央値の予測MSEが75,707を記録し、適応TDEFSIモデルのMSE 18,798,679よりも顕著に優れていた。
• 最も性能の良かったCLEIR-Netの予測はニューヨーク（MSE = 7,090）で、最も悪かったのはサウスカロライナ（MSE = 188,677）であり、地域ごとのパフォーマンスのばらつきが顕著に現れた。
• 最良の性能を示したCLEIR-Netのバージョンは10,945パラメータで構成されたが、適応TDEFSIモデルは1,038,405パラメータを要しており、モデルの複雑さが顕著に低減された。
• 正則化技術を適用したTDEFSIモデルは一般化性能が向上したが、依然として「変化なし」のナイーブなベースラインを下回り、COVID-19の動態に十分に適応できていないことが示された。
• ドロップアウト正則化はTDEFSIの全国予測性能を向上させ、4日を超える予測期間ではナイーブなベースラインを上回ったが、郡レベルの予測では正確な結果を生み出せなかった。
• 提案された郡間混合SEIRモデルは、データ拡張の現実性を高め、限られた実世界の郡レベルデータの中でもRNNのトレーニングをより効果的に可能にした。