[論文レビュー] STAN: Spatio-Temporal Attention Network for Pandemic Prediction Using Real World Evidence

Junyi Gao, Rakshith Sharma+6 more|arXiv (Cornell University)|Jul 23, 2020

Data-Driven Disease Surveillance参考文献 17被引用数 7

ひとこと要約

STANは、現実世界の電子的健康記録（EHR）データ、地理的近接性、および人口統計的類似性を活用してパンデミック予測を向上させる空間時間的注意ネットワークを提案する。物理法則に基づく正則化を注意メカニズムを備えたグラフ畳み込みネットワークに統合することで、米国の郡を対象とした短期および長期のCOVID-19症例予測において、ベースラインモデルと比較して平均二乗誤差が最大87％低くなる。

ABSTRACT

Objective: The COVID-19 pandemic has created many challenges that need immediate attention. Various epidemiological and deep learning models have been developed to predict the COVID-19 outbreak, but all have limitations that affect the accuracy and robustness of the predictions. Our method aims at addressing these limitations and making earlier and more accurate pandemic outbreak predictions by (1) using patients' EHR data from different counties and states that encode local disease status and medical resource utilization condition; (2) considering demographic similarity and geographical proximity between locations; and (3) integrating pandemic transmission dynamics into deep learning models. Materials and Methods: We proposed a spatio-temporal attention network (STAN) for pandemic prediction. It uses an attention-based graph convolutional network to capture geographical and temporal trends and predict the number of cases for a fixed number of days into the future. We also designed a physical law-based loss term for enhancing long-term prediction. STAN was tested using both massive real-world patient data and open source COVID-19 statistics provided by Johns Hopkins university across all U.S. counties. Results: STAN outperforms epidemiological modeling methods such as SIR and SEIR and deep learning models on both long-term and short-term predictions, achieving up to 87% lower mean squared error compared to the best baseline prediction model. Conclusions: By using information from real-world patient data and geographical data, STAN can better capture the disease status and medical resource utilization information and thus provides more accurate pandemic modeling. With pandemic transmission law based regularization, STAN also achieves good long-term prediction performance.

研究の動機と目的

• COVID-19危機期におけるパンデミック発生予測の正確性と頑健性を向上させること。
• 従来の疫学的およびディープラーニングモデルの限界を克服するため、現実世界の患者データと空間時間的ダイナミクスを統合すること。
• 地域間の局所的医療リソースの利用状況と人口統計的類似性を用いて、感染症の拡散をモデル化すること。
• ディープラーニングフレームワークに物理法則に基づく正則化を導入することで、長期予測性能を向上させること。
• スケーラブルなディープラーニングアーキテクチャに現実世界の証拠を統合することで、早期かつ信頼性の高い予測を可能にすること。

提案手法

• STANは、EHRデータを用いて米国の郡間の空間的・時間的依存関係をモデル化する、注意に基づくグラフ畳み込みネットワークを採用する。
• 地域間の地理的近接性と人口統計的類似性をグラフ構造として符号化することで、表現学習の性能を向上させる。
• 空間時間的注意メカニズムにより、関連する地域および時間ステップを動的に重み付けし、予測精度を向上させる。
• パンデミック伝播ダイナミクスに基づいて予測を正則化する、物理学にインspiredされた損失項を導入する。これにより長期的精度が向上する。
• 実世界のEHRデータを用いてモデルを学習し、ジョンズ・ホプキンス大学のオープンソースCOVID-19症例データに対して検証する。
• エンドツーエンドの学習により、固定期間の将来の症例数予測を目的関数として、平均二乗誤差損失に物理的正則化を組み合わせて最適化する。

実験結果

リサーチクエスチョン

• RQ1 従来の疫学的モデルと比較して、現実世界のEHRデータを活用することで、パンデミック発生予測の正確性が向上するか？
• RQ2 地域間の地理的および人口統計的類似性を統合することで、パンデミックモデリングにおける空間時間的予測性能がどのように向上するか？
• RQ3 物理法則に基づく正則化は、ディープラーニングモデルにおける長期的予測の安定性および正確性をどの程度向上させるか？
• RQ4 STANは、SIR、SEIRおよび他のディープラーニングベースラインと比較して、短期および長期の予測タスクの両方で優れているか？
• RQ5 注意メカニズムは、パンデミック予測のための異種多様な現実世界の健康データにおける複雑な空間時間的パターンを効果的に捉えることができるか？

主な発見

• STANは、米国の郡を対象とした長期予測において、最良のベースラインモデルと比較して最大87％低い平均二乗誤差を達成する。
• モデルは短期および長期の両方の予測において、古典的疫学的モデル（SIR、SEIR）およびディープラーニングベースラインを上回る性能を示す。
• 物理法則に基づく正則化を組み込むことで、モデル出力が既知の伝播ダイナミクスと整合するようになり、長期的予測性能が顕著に向上する。
• 注意メカニズムは、重要な地域および時間点を効果的に特定・重み付けし、予測の頑健性を向上させる。
• 地域の疾患状況および医療リソース利用状況に関するEHRデータは、モデルの地域的流行トレンドへの感受性を顕著に高める。
• 地理的および人口統計的類似性のモデリングにより、発症トレンドが異なる多様な米国の郡間での一般化性能が向上する。