[논문 리뷰] COVID-19 growth prediction using multivariate long short term memory

Novanto Yudistira|arXiv (Cornell University)|2020. 05. 10.

COVID-19 epidemiological studies참고 문헌 14인용 수 11

한 줄 요약

이 논문은 확진자 수, 사망자 수, 회복자 수 및 지리적 좌표의 시계열 데이터를 사용하여 글로벌 코로나19 확산을 예측하기 위해 다변량 LSTM 모델을 제안한다. 모델은 RMSE가 1238.66 vs. 1520.61로 RNN보다 낮아 성능이 뛰어나며, 절대적 확진자 수의 차이에도 불구하고 장기적인 지수 성장 패턴을 잘 포착하여, 빅데이터 기반의 팬데믹 예측에서 LSTM의 효과성을 입증한다.

ABSTRACT

Coronavirus disease (COVID-19) spread forecasting is an important task to track the growth of the pandemic. Existing predictions are merely based on qualitative analyses and mathematical modeling. The use of available big data with machine learning is still limited in COVID-19 growth prediction even though the availability of data is abundance. To make use of big data in the prediction using deep learning, we use long short-term memory (LSTM) method to learn the correlation of COVID-19 growth over time. The structure of an LSTM layer is searched heuristically until the best validation score is achieved. First, we trained training data containing confirmed cases from around the globe. We achieved favorable performance compared with that of the recurrent neural network (RNN) method with a comparable low validation error. The evaluation is conducted based on graph visualization and root mean squared error (RMSE). We found that it is not easy to achieve the same quantity of confirmed cases over time. However, LSTM provide a similar pattern between the actual cases and prediction. In the future, our proposed prediction can be used for anticipating forthcoming pandemics. The code is provided here: https://github.com/cbasemaster/lstmcorona

연구 동기 및 목표

• 복잡하고 비선형적이며 장기간 시퀀스를 포함한 코로나19 시계열 데이터 예측에서 정성적 및 통계적 방법의 한계를 해결하기 위해.
• 확진자 수, 사망자 수, 회복자 수 및 지리적 좌표를 포함한 다변량 빅데이터를 활용하여 예측 정확도를 향상시키기 위해.
• LSTM이 팬데믹 확산의 장기적 시간 동역학을 포착하는 데 RNN과의 성능 비교를 위해.
• 히우리스틱 하이퍼파ram터 튜닝을 통해 미래 팬데믹 추세를 예측하기 위한 확장 가능한 딥러닝 프레임워크를 개발하기 위해.

제안 방법

• 시간적 의존성을 모델링하기 위해 시그모이드 활성화 함수와 드롭아웃 정규화를 사용한 다층 LSTM 아키텍처를 사용한다.
• 입력 시퀀스에는 확진자 수, 사망자 수, 회복자 수, 위도 및 경도가 포함되며, 67일 간의 입력 윈도우와 33일 간의 출력 윈도우를 사용한다.
• 레이어 수와 은닉 유닛 수 등의 하이퍼파ram터는 검증 오차를 최소화하기 위해 히우리스틱하게 튜닝된다.
• 역전파를 통한 시간에 따른 백프로파게이션을 사용해 엔드 투 엔드로 모델을 훈련시키며, 검증 손실 기반으로 조기 종료가 적용된다.
• 모델 성능 평가에는 RMSE를 사용하고, 실제 값과 예측 값 간의 시계열 곡선 비교를 통해 시각화된다.
• 예측 윈도우를 훈련 윈도우를 초월해 연장하기 위해 컷 앤 어그멘테이션 방법이 적용되며, 매일 업데이트하여 실시간 예측이 가능하다.

실험 결과

연구 질문

• RQ1 다변량 LSTM 모델은 글로벌 코로나19 확진자 수 증가의 비선형적이고 장기적인 시간 동역학을 효과적으로 포착할 수 있는가?
• RQ2 LSTM의 성능은 RNN과 비교해 국가별 확진자 수 경로 예측에서 어떻게 다른가?
• RQ3 예측 오차를 최소화하기 위한 최적의 아키텍처(레이어 수 및 은닉 유닛 수)는 무엇인가?
• RQ4 특히 지수 성장 단계에서, 모델은 훈련 기간을 초월해 미래 추세를 어느 정도 예측할 수 있는가?

주요 결과

• LSTM 모델은 검증 RMSE가 1238.66로 RNN의 1520.61보다 유의미하게 낮아 성능이 뛰어나다는 점을 확인했다.
• 네 개의 은닉 레이어와 30개의 은닉 유닛을 사용할 경우 RMSE가 최저로 기록되어 이 데이터셋에 최적의 파라미터화임을 나타낸다.
• 레이어 수를 1개에서 4개로 늘일수록 예측 정확도가 향상되었지만, 은닉 유닛 수를 30개 초과로 늘일 경우 수익 감소 현상이 나타났다.
• 절대적 확진자 수의 차이에도 불구하고, 시각적 및 통계적 분석을 통해 예측 곡선이 실제 지수 성장 패턴을 잘 따르는 것으로 확인되었다.
• 컷 앤 어그멘테이션 방법을 사용해 2020년 5월 2일 이후 일일 확진자 수가 감소 추세를 보이며, 2020년 5월 20일 이후에는 일일 300건 이하로 떨어지는 것을 예측했다.
• 높은 변동성과 비선형성을 포함한 데이터에서도 모델은 글로벌 확산 패턴을 잘 포착하여 강력한 일반화 가능성을 보였다.