[논문 리뷰] An LSTM approach to Predict Migration based on Google Trends.

Nicolas Golenvaux, Pablo González Álvarez외 2명|arXiv (Cornell University)|2020. 05. 20.

Human Mobility and Location-Based Analysis참고 문헌 26인용 수 2

한 줄 요약

이 논문은 35개 OECD 국가로의 해외 이주를 1년 후 예측하기 위해 Google 트렌드 데이터를 활용한 LSTM 기반 모델을 제안한다. 기존의 선형 중력 모델과 피드포워드 신경망을 대체함으로써, LSTM 접근 방식은 RMSE를 5배, MAE를 4배 감소시켜 예측 정확도가 뛰어나며, 이는 딥러닝이 이주 모델링에 실용적인 대안이 될 수 있음을 보여준다.

ABSTRACT

Being able to model and forecast international migration as precisely as possible is crucial for policymaking. Recently Google Trends data in addition to other economic and demographic data have been shown to improve the forecasting quality of a gravity linear model for the one-year ahead forecasting. In this work, we replace the linear model with a long short-term memory (LSTM) approach and compare it with two existing approaches: the linear gravity model and an artificial neural network (ANN) model. Our LSTM approach combined with Google Trends data outperforms both these models on various metrics in the task of forecasting the one-year ahead incoming international migration to 35 Organization for Economic Co-operation and Development (OECD) countries: for example the root mean square error (RMSE) and the mean average error (MAE) have been divided by 5 and 4 on the test set. This positive result demonstrates that machine learning techniques constitute a serious alternative over traditional approaches for studying migration mechanisms.

연구 동기 및 목표

• OECD 국가에 대한 1년 후 국제 이주 예측의 정확도를 향상시키기 위해.
• LSTM와 같은 순환 신경망이 기존의 선형 모델보다 이주 동역학을 더 잘 포착할 수 있는지 조사하기 위해.
• 기계 학습 모델에 Google 트렌드 데이터를 통합함으로써 이주 예측 성능에 미치는 영향을 평가하기 위해.
• LSTM, 인공 신경망(ANN), 선형 중력 모델의 성능을 이주 예측에서 비교하기 위해.

제안 방법

• 연구는 시간에 따라 변화하는 이주 패턴을 모델링하기 위해 장기적 단기 기억(LSTM) 신경망 아키텍처를 사용한다.
• 이주 관련 검색어에 대한 Google 트렌드 데이터를 입력 특징으로 통합하여 모델의 공공 관심도 및 행동 신호에 대한 민감도를 향상시킨다.
• 모델은 역사적 이주 데이터에 더하여 경제 및 인구 통계 지표와 함께 Google 트렌드 데이터를 결합하여 훈련한다.
• 성능 평가는 테스트 세트에 대해 표준 회귀 평가 지표인 제곱근 평균 제곱 오차(RMSE)와 평균 절대 오차(MAE)를 사용하여 평가된다.
• LSTM는 동일한 데이터와 평가 조건에서 선형 중력 모델과 피드포워드 인공 신경망(ANN) 모델과 직접 비교된다.
• 모델은 35개 OECD 국가로의 유입 이주 유입 유량에 중점을 두고 1년 후 예측을 최적화한다.

실험 결과

연구 질문

• RQ1 LSTM 기반 모델은 기존의 선형 중력 모델에 비해 1년 후 국제 이주 예측을 향상시킬 수 있는가?
• RQ2 Google 트렌드 데이터 통합이 기계 학습 모델의 이주 예측 성능에 어떤 영향을 미치는가?
• RQ3 LSTM 접근 방식은 표준 인공 신경망(ANN)에 비해 이주 유량 예측에서 뛰어나게 성능을 발휘하는가?
• RQ4 LSTM에 Google 트렌드를 적용했을 때 RMSE와 MAE 지표는 기준 모델 대비 얼마나 향상되는가?

주요 결과

• Google 트렌드 데이터를 통합한 LSTM 모델은 1년 후 이주 예측에서 선형 중력 모델과 ANN 모델을 모두 뛰어넘는다.
• 테스트 세트에서 제곱근 평균 제곱 오차(RMSE)는 선형 중력 모델 대비 5배 감소했다.
• 선형 중력 모델 대비 평균 절대 오차(MAE)는 4배 감소했다.
• 성능 향상은 순환 신경망이 복잡한 비선형 이주 동역학을 포착하는 데에 선형 모델보다 더 적합하다는 것을 보여준다.
• Google 트렌드 데이터 통합은 예측 정확도를 크게 향상시켰으며, 이는 검색 행동이 의미 있는 이주 신호를 반영한다는 것을 시사한다.
• LSTM 접근 방식은 이주 연구에서 기존의 경제계량 모델에 대한 강력한 대안을 제시한다.