[논문 리뷰] STAN: Spatio-Temporal Attention Network for Pandemic Prediction Using Real World Evidence

Junyi Gao, Rakshith Sharma외 6명|arXiv (Cornell University)|2020. 07. 23.

Data-Driven Disease Surveillance참고 문헌 17인용 수 7

한 줄 요약

STAN은 실제 전자 건강 기록(EHR) 데이터, 지리적 근접성, 인구 통계적 유사성을 활용하여 패an드레미크 예측을 향상시키는 시공간 주의망을 제안한다. 주목적 기반 정규화를 그래프 컨volution 네트워크에 통합한 STAN은 미국 주의 각 카운티에서 단기 및 장기적인 코로나19 확진자 예측에서 기준 모델 대비 최대 87% 낮은 평균 제곱 오차를 달성한다.

ABSTRACT

Objective: The COVID-19 pandemic has created many challenges that need immediate attention. Various epidemiological and deep learning models have been developed to predict the COVID-19 outbreak, but all have limitations that affect the accuracy and robustness of the predictions. Our method aims at addressing these limitations and making earlier and more accurate pandemic outbreak predictions by (1) using patients' EHR data from different counties and states that encode local disease status and medical resource utilization condition; (2) considering demographic similarity and geographical proximity between locations; and (3) integrating pandemic transmission dynamics into deep learning models. Materials and Methods: We proposed a spatio-temporal attention network (STAN) for pandemic prediction. It uses an attention-based graph convolutional network to capture geographical and temporal trends and predict the number of cases for a fixed number of days into the future. We also designed a physical law-based loss term for enhancing long-term prediction. STAN was tested using both massive real-world patient data and open source COVID-19 statistics provided by Johns Hopkins university across all U.S. counties. Results: STAN outperforms epidemiological modeling methods such as SIR and SEIR and deep learning models on both long-term and short-term predictions, achieving up to 87% lower mean squared error compared to the best baseline prediction model. Conclusions: By using information from real-world patient data and geographical data, STAN can better capture the disease status and medical resource utilization information and thus provides more accurate pandemic modeling. With pandemic transmission law based regularization, STAN also achieves good long-term prediction performance.

연구 동기 및 목표

• 코로나19 위기 동안 패안드레미크 유포 예측의 정확성과 강건성을 향상시키기 위해.
• 기존의 전염병학적 및 딥러닝 모델의 한계를 극복하기 위해 실제 환자 데이터와 공간-시간 역학을 통합하기 위해.
• 지역 병원 자원 사용 및 지역 간 인구 통계적 유사성을 기반으로 질병 전파를 모델링하기 위해.
• 딥러닝 프레임워크 내에서 물리 법칙 기반 정규화를 통해 장기 예측 성능을 향상시키기 위해.
• 확장 가능한 딥러닝 아키텍처에 실제 증거를 통합함으로써 더 이르고 신뢰할 수 있는 예측을 가능하게 하기 위해.

제안 방법

• STAN은 EHR 데이터를 활용하여 미국 카운티 간 공간적 및 시간적 의존성을 모델링하기 위해 주의 기반 그래프 컨volution 네트워크를 사용한다.
• 모델은 위치 간 지리적 근접성과 인구 통계적 유사성을 그래프 구조로 인코딩하여 표현 학습을 향상시킨다.
• 시공간 주의 메커니즘은 예측 향상을 위해 관련성이 높은 지역과 시간 단위를 동적으로 가중한다.
• 패안드레미크 전파 역학에 기반한 물리적 유사 손실 항목을 도입하여 예측을 정규화함으로써 장기 정확도를 향상시킨다.
• 모델은 실제 EHR 데이터를 기반으로 훈련되고 존스 홉킨스 대학교에서 공개한 코로나19 확진자 데이터를 기반으로 검증된다.
• 엔드 투 엔드 훈련은 평균 제곱 오차 손실과 물리적 정규화를 통해 고정된 수평선 내 향후 확진자 수 예측을 최적화한다.

실험 결과

연구 질문

• RQ1 기존의 전염병학적 모델 대비 실제 EHR 데이터가 패안드레미크 유포 예측의 정확성 향상에 기여할 수 있는가?
• RQ2 지역 간 지리적 및 인구 통계적 유사성을 통합할 경우 시공간 예측 성능가 향상되는가?
• RQ3 물리 법칙 기반 정규화가 딥러닝 모델의 장기 예측 안정성과 정확도 향상에 얼마나 기여하는가?
• RQ4 STAN은 SIR, SEIR 및 기타 딥러닝 기준 모델 대비 단기 및 장기 예측 과제에서 어떻게 성능을 냈는가?
• RQ5 주목적 메커니즘이 이질적인 실제 건강 데이터 내 복잡한 시공간 패턴을 효과적으로 포착하여 패안드레미크 예측에 기여할 수 있는가?

주요 결과

• STAN은 미국 주의 각 카운티에서 장기 예측에서 기준 모델 중 최고 성능을 기록한 경우 대비 최대 87% 낮은 평균 제곱 오차를 달성한다.
• 모델은 단기 및 장기 예측 모두에서 전통적인 전염병학적 모델(SIR, SEIR)과 딥러닝 기준 모델을 모두 압도한다.
• 물리 법칙 기반 정규화를 통합함으로써 장기 예측 성능이 크게 향상되어 모델 출력이 알려진 전파 역학과 일치한다.
• 주목적 메커니즘이 중요한 지역과 시간 포인트를 효과적으로 식별하고 가중치를 할당하여 예측의 강건성을 향상시킨다.
• 지역 질병 상태 및 의료 자원 사용에 관한 EHR 데이터는 모델이 지역 유포 추세에 민감하게 반응하도록 크게 향상시킨다.
• 지리적 및 인구 통계적 유사성 모델링은 다양한 유포 추세를 보이는 미국 카운티 간 일반화 능력을 향상시킨다.