[논문 리뷰] TDEFSI: Theory Guided Deep Learning Based Epidemic Forecasting with Synthetic Information

Lijing Wang, Jiangzhuo Chen외 1명|arXiv (Cornell University)|2020. 01. 28.

Data-Driven Disease Surveillance참고 문헌 80인용 수 13

한 줄 요약

TDEFSI는 이론에 기반한 딥러닝 프레임워크로, 저해상도 감시 데이터와 고해상도 합성 유행병 시뮬레이션을 융합하여 인플루엔자 유사 질환(ILI)의 정확하고 고해상도의 시공간 예측을 수행한다. 사회적, 인구통계적, 지리적 이질성을 반영한 지역별 시뮬레이션을 기반으로 이중 브랜치 LSTM 네트워크를 훈련시킴으로써 TDEFSI는 군수준에서 최신 기술 수준의 성능을 달성하고 주 수준에서는 유사한 결과를 얻으며, 몬테카를로 드롭아웃을 통한 불확실성 정량화를 제공한다.

ABSTRACT

Influenza-like illness (ILI) places a heavy social and economic burden on our society. Traditionally, ILI surveillance data is updated weekly and provided at a spatially coarse resolution. Producing timely and reliable high-resolution spatiotemporal forecasts for ILI is crucial for local preparedness and optimal interventions. We present TDEFSI (Theory Guided Deep Learning Based Epidemic Forecasting with Synthetic Information), an epidemic forecasting framework that integrates the strengths of deep neural networks and high-resolution simulations of epidemic processes over networks. TDEFSI yields accurate high-resolution spatiotemporal forecasts using low-resolution time series data. During the training phase, TDEFSI uses high-resolution simulations of epidemics that explicitly model spatial and social heterogeneity inherent in urban regions as one component of training data. We train a two-branch recurrent neural network model to take both within-season and between-season low-resolution observations as features, and output high-resolution detailed forecasts. The resulting forecasts are not just driven by observed data but also capture the intricate social, demographic and geographic attributes of specific urban regions and mathematical theories of disease propagation over networks. We focus on forecasting the incidence of ILI and evaluate TDEFSI's performance using synthetic and real-world testing datasets at the state and county levels in the USA. The results show that, at the state level, our method achieves comparable/better performance than several state-of-the-art methods. At the county level, TDEFSI outperforms the other methods. The proposed method can be applied to other infectious diseases as well.

연구 동기 및 목표

• 주 또는 HHS 지역 수준에서의 거친, 지연된 감시 데이터에도 불구하고 실시간으로 고해상도(군 수준)의 ILI 예측을 제공하는 데 도전하는 것.
• 사회적 접촉 네트워크, 인구통계적 이질성, 유행병 역학과 같은 영역 전문 지식을 딥러닝 모델에 통합하여 예측의 신뢰성과 물리적 일관성을 향상시키는 것.
• 고성능 컴퓨팅을 통해 생성된 고정밀도 이론 기반 합성 유행병 시뮬레이션을 훈련 데이터로 사용하여 실제 감시 데이터의 자료 부족과 노이즈 문제를 해결하는 것.
• 몬테카를로 드롭아웃을 활용해 예측 불확실성을 정량화하고, 위험 기반 공중보건 결정을 지원하는 확률적 예측을 가능하게 하는 것.
• 개입 조건 하에서의 시나리오 기반 예측을 가능하게 하기 위해 원인 모델을 프레임워크에 통합하여 '만약에' 예측의 가능성 탐색을 수행하는 것.

제안 방법

• TDEFSI는 시즌 내 관측 데이터(현재 유행 경향)와 시즌 간 역사적 데이터(이전 시즌의 유사 주)를 입력으로 사용하는 이중 브랜치 LSTM 신경망을 활용한다.
• 모델은 실제 도시 사회적 접촉 네트워크를 기반으로 한 고해상도 에이전트 기반 시뮬레이션을 통해 생성된 고해상도 유행곡선을 기반으로 훈련된다. 이 과정에서 공간적, 시간적, 인구통계적 이질성이 반영된다.
• 합성 데이터는 실제 세계의 파ameters를 사용하여 校정되어, 시뮬레이션된 유행곡선이 관측된 분포와 유사하게 되도록 하여 실제 데이터와 합성 데이터 간의 도메인 차이를 최소화한다.
• 예측의 생물학적 타당성을 확보하기 위해 비음수성과 시간적 매끄러움 등의 물리적 일관성 제약 조건을 손실 함수에 통합한다.
• 추론 과정에서 몬테카를로 드롭아웃을 적용하여 예측 불확실성을 추정하고, 신뢰구간을 포함한 확률적 예측을 가능하게 한다.
• 개입 시나리오(예: 학교 폐쇄 등)에 따라 시뮬레이션 파ameters를 수정함으로써 프레임워크는 '만약에' 예측을 지원한다.

실험 결과

연구 질문

• RQ1 합성 유행병 시뮬레이션을 훈련 데이터로 사용하는 딥러닝 모델이 최신 기술 수준의 방법보다 고해상도(군 수준)의 ILI 예측에서 더 높은 정확도를 달성할 수 있는가?
• RQ2 실제 감시 데이터가 자료가 적고 고해상도가 아닐 경우, 이론에 기반한 합성 데이터를 통합함으로써 예측 성능이 어떻게 향상되는가?
• RQ3 비음수성, 시간적 매끄러움 등의 물리적 일관성 제약 조건이 딥러닝 기반 유행병 예측의 신뢰성과 현실성에 얼마나 기여하는가?
• RQ4 몬테카를로 드롭아웃은 유행병 예측의 불확실성을 효과적으로 정량화할 수 있는가? 그리고 예측 구간이 실제 값과 얼마나 잘 일치하는가?
• RQ5 TDEFSI는 개입 조건을 수정한 합성 시뮬레이션을 통해 공중보건 개입의 영향을 시뮬레이션함으로써 '만약에' 예측을 지원할 수 있는가?

주요 결과

• 주 수준에서는 TDEFSI가 몇 가지 최신 기술 수준의 방법과 유사하거나 더 뛰어난 성능을 보이며, 실제 데이터에 대한 강건성과 일반화 능력을 입증한다.
• 군 수준에서는 TDEFSI가 기준 모델들을 상당히 앞서며, 자료 부족이 가장 심각한 고해상도 예측에서의 효과성을 입증한다.
• 뉴저지주(2016–2017)의 모든 실제 값이 2표준편차 예측 구간 내에 포함되어 몬테카를로 드롭아웃을 통한 불확실성 추정의 신뢰성을 검증한다.
• 민감도 분석 결과, 공간적 및 비음수성 일관성 제약 조건이 모델 성능을 향상시킴을 확인하여 도메인 지식을 통합함으로써 예측 정확도가 향상됨을 시사한다.
• 학교 폐쇄와 같은 개입 조건을 수정하여 합성 데이터를 재훈련함으로써 TDEFSI는 '만약에' 예측을 가능하게 하여 시나리오 기반 공중보건 계획 수립에 실용적 유용성을 보여준다.
• 고해상도 이론 기반 합성 시뮬레이션의 사용은 훈련 데이터와 실제 데이터 간의 도메인 갭을 효과적으로 줄여주며, 저해상도 입력 조건에서도 정확한 예측을 가능하게 한다.