[논문 리뷰] Steering a Historical Disease Forecasting Model Under a Pandemic: Case of Flu and COVID-19

Alexander Rodríguez, Nikhil Muralidhar외 4명|arXiv (Cornell University)|2020. 09. 23.

Anomaly Detection Techniques and Applications인용 수 5

한 줄 요약

이 논문은 역사적 인플루엔자 예측 모델(EpiDeep-CN)이 코로나19와 함께 유행하는 인플루엔자에 적응하도록 제한된 코로나19 연관 외생 신호를 통합함으로써 전이 학습 프레임워크인 Cali-Net을 제안한다. 주목적 지식 정제와 라플라스 정규화를 갖춘 새로운 순환 아키텍처를 사용하여 Cali-Net은 패닉 기간 동안 wILI 데이터에서 발생하는 이례적인 추세를 성공적으로 포착하였으며, 적응성과 예측 정확도 모두에서 기준 모델들을 능가한다.

ABSTRACT

Forecasting influenza in a timely manner aids health organizations and policymakers in adequate preparation and decision making. However, effective influenza forecasting still remains a challenge despite increasing research interest. It is even more challenging amidst the COVID pandemic, when the influenza-like illness (ILI) counts are affected by various factors such as symptomatic similarities with COVID-19 and shift in healthcare seeking patterns of the general population. Under the current pandemic, historical influenza models carry valuable expertise about the disease dynamics but face difficulties adapting. Therefore, we propose CALI-Net, a neural transfer learning architecture which allows us to 'steer' a historical disease forecasting model to new scenarios where flu and COVID co-exist. Our framework enables this adaptation by automatically learning when it should emphasize learning from COVID-related signals and when it should learn from the historical model. Thus, we exploit representations learned from historical ILI data as well as the limited COVID-related signals. Our experiments demonstrate that our approach is successful in adapting a historical forecasting model to the current pandemic. In addition, we show that success in our primary goal, adaptation, does not sacrifice overall performance as compared with state-of-the-art influenza forecasting approaches.

연구 동기 및 목표

• 코로나19와 함께 유행하는 인플루엔자로 인해 발생하는 wILI 데이터의 이례적인 추세에 역사적 인플루엔자 예측 모델을 적응시키는 도전 과제를 해결하기 위해.
• 풍부한 역사적 wILI 데이터에서의 지식을 유지하면서 제한적이고 노이즈가 많은 코로나19 연관 외생 신호(예: 확진자 수, 입원 환자 수)를 활용하기 위해.
• 신규 팬데믹 조건에 적응하는 동안 역사적 모델에서의 악성 전이를 방지하기 위해.
• 자료 부족과 질병 역학의 변화가 빈번한 상황에서도 다양한 미국 지역에서 높은 예측 성능을 유지하기 위해.
• 출현하는 팬데믹 상황에서 기존 질병 모델을 효과적으로 이끌어내는 원칙적인 프레임워크를 제공하기 위해.

제안 방법

• Cali-Net은 두 개의 스트림 아키텍처를 사용한다: 역사적 wILI 데이터로 훈련된 소스 모델(EpiDeep-CN)과 현재의 wILI 및 외생 신호로 훈련된 타겟 모델(Caem).
• 유용한 지식을 소스에서 타겟으로 선택적으로 전이함으로써 악성 전이를 최소화하기 위해 주목적 지식 정제(KD) 손실을 사용한다.
• Caem 모델은 순환 예측 아키텍처 내에서 미국 지역 간의 공간 일관성을 강제하기 위해 라플라스 정규화를 통합한다.
• 초기 팬데믹 단계에서의 자료 부족을 완화하기 위해 명시적인 공간 제약 조건을 포함한 글로벌 훈련 전략을 사용한다.
• 다양한 외생 데이터 스트림을 통합한다: 라인리스트 확진자 수(DS1), 검사 데이터(DS2), 커뮤니티 기반 보고서(DS3).
• 계층적 주목적 메커니즘을 통해 전이 학습을 적용함으로써 역사적 추세와 실시간 코로나19 신호에 대한 의존도를 동적으로 균형 조절한다.

실험 결과

연구 질문

• RQ1 wILI 데이터가 함께 유행하는 질병으로 인해 오염된 팬데믹 상황에서 역사적 인플루엔자 예측 모델을 어떻게 효과적으로 적응시킬 수 있는가?
• RQ2 확진자 수, 입원 환자 수 등 외생 신호가 이례적인 질병 역학 상황에서 예측 성능 향상에 어떤 역할을 하는가?
• RQ3 역사적 모델에서 새로운 팬데믹 조건으로 전이할 때 악성 전이를 방지하기 위해 지식 정제를 어떻게 설계할 수 있는가?
• RQ4 공간 정규화와 아키텍처 설계는 다양한 미국 지역으로의 일반화 성능 향상에 어느 정도 기여하는가?
• RQ5 자료 부족 조건 하에서 단기 및 장기 예측 수준 모두에서 통합된 프레임워크가 높은 성능을 유지할 수 있는가?

주요 결과

• Cali-Net은 2019–2020 팬데믹 시즌 동안 wILI가 비정상적으로 상승하고 이후 감소하는 추세를 성공적으로 포착하였으며, 이는 표준 모델이 예측하지 못하는 현상이다.
• 모든 10개 미국 지역에서 경쟁적인 성능를 달성하였으며, 최고의 기준 모델 대비 유의미한 성능 저하를 보인 지역은 없었다.
• 제거 실험 결과, 지역 재구성, 라플라스 정규화, 또는 순환 모델을 제거하면 예측 정확도가 떨어짐을 확인하였다.
• 지식 정제 손실은 대부분의 지역에서 1주일 후 예측 성능을 향상시켰으며, Cali-Net은 KD가 없는 변종 대비 20주 중 18주에서 성능이 뛰어났다.
• 라인리스트 확진자 수(DS1)가 가장 효과적인 외생 신호였으며, 검사 및 커뮤니티 기반 보고서 데이터는 지역별로 효과가 다양하였다.
• 초기 설정 값의 변화에 대해 안정성과 일반화 능력을 유지하여 다양한 조건 하에서도 강건함을 입증하였다.