[논문 리뷰] Data-Centric Epidemic Forecasting: A Survey

Alexander Rodríguez, Harshavardhan Kamarthi외 5명|arXiv (Cornell University)|2022. 07. 19.

Data-Driven Disease Surveillance인용 수 6

한 줄 요약

이 종합적 서베이는 임상, 디지털, 행동, 게놈, 환경 및 정책 자료와 같은 다양한 데이터 원천을 통합하고, 고급 통계, 기계학습 및 하이브리드 모델링 기법을 활용하여 데이터 중심의 유행병 예측 프레임워크를 제시한다. 예측의 불확실성 측정, 설명 가능성 및 실세계 구현과 같은 주요 과제를 규명하며, 공중보건 의사결정 지원을 위한 실질적이고 신뢰할 수 있는 예측을 위한 비전도 제시한다.

ABSTRACT

The COVID-19 pandemic has brought forth the importance of epidemic forecasting for decision makers in multiple domains, ranging from public health to the economy as a whole. While forecasting epidemic progression is frequently conceptualized as being analogous to weather forecasting, however it has some key differences and remains a non-trivial task. The spread of diseases is subject to multiple confounding factors spanning human behavior, pathogen dynamics, weather and environmental conditions. Research interest has been fueled by the increased availability of rich data sources capturing previously unobservable facets and also due to initiatives from government public health and funding agencies. This has resulted, in particular, in a spate of work on 'data-centered' solutions which have shown potential in enhancing our forecasting capabilities by leveraging non-traditional data sources as well as recent innovations in AI and machine learning. This survey delves into various data-driven methodological and practical advancements and introduces a conceptual framework to navigate through them. First, we enumerate the large number of epidemiological datasets and novel data streams that are relevant to epidemic forecasting, capturing various factors like symptomatic online surveys, retail and commerce, mobility, genomics data and more. Next, we discuss methods and modeling paradigms focusing on the recent data-driven statistical and deep-learning based methods as well as on the novel class of hybrid models that combine domain knowledge of mechanistic models with the effectiveness and flexibility of statistical approaches. We also discuss experiences and challenges that arise in real-world deployment of these forecasting systems including decision-making informed by forecasts. Finally, we highlight some challenges and open problems found across the forecasting pipeline.

연구 동기 및 목표

• 코로나19 패닉에 대응하여 증가하는 데이터 기반 유행병 예측 연구를 종합적으로 정리하기 위해.
• 예측 정확도를 향상시키는 데 기여하는 다양한 데이터 원천—임상, 디지털, 행동, 게놈, 환경 및 정책 자료—를 식별하고 분류하기 위해.
• 통계, 기계학습 및 하이브리드 모델링 접근법이 유행병 예측에서 가지는 강점과 한계를 평가하기 위해.
• 예측 시스템의 불확실성 측정, 설명 가능성 및 실세계 구현과 같은 핵심 과제를 해결하기 위해.
• 예측 결과를 실질적인 공중보건 의사결정 및 의사결정 프로세스에 맞추기 위한 개념적 프레임워크를 제안하기 위해.

제안 방법

• 임상 감시, 디지털 감시, 행동 데이터, 게놈, 환경 및 정책 데이터의 여섯 영역에 걸쳐 20개 이상의 데이터 유형을 체계적으로 분류한다.
• 실수치 예측, 사고 기반 예측 및 전염병 지표 추정으로 나누어진 예측 과제를 분류하고, 각각에 맞는 평가 지표를 제공한다.
• 희소 선형 모델, 자기회귀 방법, 시각 및 언어 모델, 시간적 및 공간적 인덕티브 바이어스를 가진 신경망을 포함한 통계 및 딥러닝 모델을 검토한다.
• 데이터 융합, 매개변수 추정 및 부정확성 모델링을 통해 기계적 모델(예: 병변 모델, 에이전트 기반 모델)과 데이터 기반 구성요소를 통합하는 하이브리드 모델링 패러다임을 도입한다.
• 비모수적 신경망 모델과 불확실성 측정 기법의 사용을 제안하여 校정(교정)을 향상시키고, 지식 기반 불확실성(에피스테믹 불확실성)과 사실 기반 불확실성(알레아토릭 불확실성)을 구분한다.
• 실세계 예측 구현의 강건성과 재현 가능성을 향상시키기 위해 인간이 개입하는 시스템과 기술 부채 관리 전략을 권장한다.

실험 결과

연구 질문

• RQ1 이동성, 소셜 미디어 및 환수 샘플링 데이터와 같은 비전통적 데이터 원천이 유행병 예측 정확도를 어떻게 향상시킬 수 있는가?
• RQ2 순수 통계 모델, 딥러닝 모델 및 하이브리드 기계적-통계 모델 간의 주요 방법론적 차이점과 상호 간의 상충 관계는 무엇인가?
• RQ3 기저 유병률이 다양한 지역에서 불확실성이 어떻게 더 잘 측정되고 전달될 수 있는가, 특히 유병률이 낮거나 변동성이 큰 지역에서?
• RQ4 기술 부채와 전문가 개입이 실세계 예측 시스템에서 어떤 역할을 하는가, 그리고 이를 체계적으로 관리하기 위한 방법은 무엇인가?
• RQ5 예측 결과를 공중보건 의사결정자들이 더 실질적으로 활용할 수 있도록 하기 위해, 개선된 목표 설정, 시각화 및 평가 지표는 어떻게 설계될 수 있는가?

주요 결과

• 최근 유행병 예측 도전 대회에서 다중모odal 데이터 통합—특히 이동성, 온라인 증상 설문조사 및 환수 감시—이 단기 예측 성능을 크게 향상시켰다.
• 데이터 융합 또는 부정확성 모델링을 통해 기계적 질병 동역학과 데이터 기반 구성요소를 통합한 하이브리드 모델은 많은 실세계 예측 환경에서 순수 통계 또는 기계적 모델보다 뛰어난 성능을 보였다.
• 비모수적 신경망과 같은 모델에서 도출된 확률적 예측은 전통적인 앙상블 방법 대비 보다 우수한 校정(교정) 성능를 보였으며, 특히 급증기 동안의 불확실성을 잘 포착했다.
• 불확실성 측정은 여전히 주요 과제이며, 커버리지 지표는 종종 진정한 신뢰성과 일치하지 않으며, 특히 유병률이 낮거나 변동성이 큰 지역에서 그러한 경향이 뚜렷하다.
• 데이터 정제, 매개변수 조정 및 이질값 제거와 같은 인간이 개입하는 조치는 모델 성능에 영향을 미치는 중요한 기술 부채 형태이며, 평가 과정에서 체계적으로 고려되어야 한다.
• WIS, MAE 및 커버리지와 같은 표준 평가 지표는 널리 사용되지만, 지역 간 또는 사고 기반 예측(예: 정점 시기 예측)에는 강인하지 않아, 맥락 인식 평가 프레임워크의 필요성이 제기된다.