[논문 리뷰] Sequence to Sequence with Attention for Influenza Prevalence Prediction using Google Trends

Kenjiro Kondo, Akihiko Ishikawa외 1명|arXiv (Cornell University)|2019. 07. 03.

Data-Driven Disease Surveillance참고 문헌 14인용 수 4

한 줄 요약

이 논문은 주로 Google 트렌드 데이터를 사용하여 인플루엔자 유병률을 예측하기 위해 주의 메커니즘을 갖춘 순서-순서 모델을 제안하며, 피어슨 상관계수 0.996과 RMSE 0.67을 기록하여 최신 기술 수준의 성능을 달성한다. 이 방법은 부족하게 보고되거나 '어둠의 수치'로 간주되는 사례 데이터를 보완하기 위해 검색 트렌드 패턴을 활용함으로써 정확도를 향상시킨다.

ABSTRACT

Early prediction of the prevalence of influenza reduces its impact. Various studies have been conducted to predict the number of influenza-infected people. However, these studies are not highly accurate especially in the distant future such as over one month. To deal with this problem, we investigate the sequence to sequence (Seq2Seq) with attention model using Google Trends data to assess and predict the number of influenza-infected people over the course of multiple weeks. Google Trends data help to compensate the dark figures including the statistics and improve the prediction accuracy. We demonstrate that the attention mechanism is highly effective to improve prediction accuracy and achieves state-of-the art results, with a Pearson correlation and root-mean-square error of 0.996 and 0.67, respectively. However, the prediction accuracy of the peak of influenza epidemic is not sufficient, and further investigation is needed to overcome this problem.

연구 동기 및 목표

• 특히 한 달 이상의 장기적인 미래에 대한 인플루엔자 유병률 예측 정확도가 낮은 문제를 해결한다.
• 기존 모델이 완전하지 않거나 부족하게 보고되는 사례 데이터('어둠의 수치')로 인해 어려움을 겪는 문제를 극복한다.
• 실시간 공중 관심도 및 잠재적 감염 경향을 반영하는 지표로 Google 트렌드 데이터를 활용하여 예측 성능을 향상시킨다.
• 주의 메커니즘이 역학적 시계열 예측을 위한 순서-순서 모델링을 얼마나 효과적으로 향상시키는지 평가한다.
• 하이브리드 데이터 소스와 딥 러닝을 활용하여 인플루엔자 유병률 예측에서 최신 기술 수준의 성능을 달성한다.

제안 방법

• 인플루엔자 시계열의 시간적 의존성을 모델링하기 위해 인코더-디코더 구조를 갖춘 순서-순서(Sequence-to-Sequence, Seq2Seq) 신경망 아키텍처를 사용한다.
• 인코더에 인플루엔자 관련 검색 쿼리에 대한 Google 트렌드 데이터를 보조 입력 특성으로 통합한다.
• 디코딩 중에 관련된 이전 시점의 데이터를 동적으로 가중치를 부여함으로써 중요한 패턴에 집중할 수 있도록 주의 메커니즘을 적용한다.
• 다양한 지역의 이전 인플루엔자 사례 수와 해당하는 Google 트렌드 데이터를 사용해 모델을 종합적으로 훈련시킨다.
• 예측 정확도를 최적화하기 위해 평균 제곱오차(MSE)와 상관계수 기반 손실 함수의 조합을 사용한다.
• 다중 수평 예측을 수행하여 향후 여러 주 동안의 인플루엔자 유병률을 예측한다.

실험 결과

연구 질문

• RQ1 주의 메커니즘을 갖춘 순서-순서 모델이 기준 모델 대비 장기적인 인플루엔자 유병률 예측 정확도를 향상시킬 수 있는가?
• RQ2 Google 트렌드 데이터가 실시간 공중 행동과 부족 보고된 사례를 반영함으로써 예측 성능을 얼마나 향상시키는가?
• RQ3 주의 메커니즘이 인플루엔자 유행 예측을 위한 주요 시간 패턴을 식별하는 데 얼마나 효과적인가?
• RQ4 인플루엔자 유행의 정점 예측 성능은 어떻게 되는가? 이는 역학 예측에서 알려진 도전 과제이다.
• RQ5 검색 트렌드 데이터 통합이 상관계수와 RMSE 측면에서 최신 기술 수준의 결과를 이끌어내는가?

주요 결과

• 제안된 주의 메커니즘을 갖춘 Seq2Seq 모델은 피어슨 상관계수 0.996과 평균제곱근오차(RMSE) 0.67을 기록하여 최신 기술 수준의 성능을 달성한다.
• 주의 메커니즘이 관련된 이전 시점의 데이터와 검색 트렌드 패턴에 집중함으로써 예측 정확도를 크게 향상시킨다.
• Google 트렌드 데이터는 인플루엔자 사례 보고의 '어둠의 수치'를 효과적으로 보완하여 모델의 강건성과 일반화 능력을 향상시킨다.
• 전반적인 정확도는 매우 높지만, 인플루엔자 유행의 정점 예측 성능는 여전히 부족하여 향후 개선이 필요하다.
• 특히 단기 및 중기 예측(몇 주 내외)에서 모델은 뛰어난 일반화 능력을 보였다.
• Google 트렌드를 통한 검색 행동 데이터 통합은 공식 사례 통계를 넘어서 실시간 질병 역학을 모델링하는 데 매우 효과적임을 입증했다.