[논문 리뷰] An LSTM approach to Forecast Migration using Google Trends

Nicolas Golenvaux, Pablo González Álvarez외 2명|arXiv (Cornell University)|2020. 05. 20.

Human Mobility and Location-Based Analysis참고 문헌 32인용 수 14

한 줄 요약

이 논문은 35개 OECD 국가로의 국제 이주 유동을 1년 후 예측하기 위해 Google 트렌드 데이터를 활용한 LSTM 기반 딥러닝 모델을 제안한다. 기존의 중력 모델과 표준 인공신경망(ANN) 대신 LSTM 아키텍처를 사용함으로써, 테스트 세트에서 RMSE와 MAE가 각각 5배와 4배 향상되어 예측 정확도가 크게 향상되었다.

ABSTRACT

Being able to model and forecast international migration as precisely as possible is crucial for policymaking. Recently Google Trends data in addition to other economic and demographic data have been shown to improve the forecasting quality of a gravity linear model for the one-year ahead forecasting. In this work, we replace the linear model with a long short-term memory (LSTM) approach and compare it with two existing approaches: the linear gravity model and an artificial neural network (ANN) model. Our LSTM approach combined with Google Trends data outperforms both these models on various metrics in the task of forecasting the one-year ahead incoming international migration to 35 Organization for Economic Co-operation and Development (OECD) countries: for example the root mean square error (RMSE) and the mean average error (MAE) have been divided by 5 and 4 on the test set. This positive result demonstrates that machine learning techniques constitute a serious alternative over traditional approaches for studying migration mechanisms.

연구 동기 및 목표

• 실시간 디지털 트레이스 데이터를 활용하여 OECD 국가의 1년 후 국제 이주 예측 정확도를 향상시키는 것.
• 순환 신경망(LSTM)이 기존의 선형 모델보다 더 잘 복잡한 이주 역학을 포착할 수 있는지 평가하는 것.
• Google 트렌드 데이터를 통합한 LSTM, 인공신경망(ANN), 중력 모델의 성능을 비교하는 것.
• 공식 데이터가 부족하거나 지연될 경우 기계학습 기법이 이주 유동을 모델링하는 데 얼마나 유용한지 평가하는 것.
• 딥러닝 모델의 해석 가능성과 일반화 능력이 이주 예측에 어떻게 작용하는지 탐색하는 것.

제안 방법

• 모델는 순차적인 이주 데이터와 시간에 따른 특징을 처리하기 위해 장단기 기억(LSTM) 순환 신경망을 사용한다.
• 입력 특징으로는 국내총생산(GDP), 인구 규모, 국가 고정효과(원-핫 인코딩), 그리고 双방향 및 단방향 이주 관련 검색어에 대한 Google 트렌드 지수(GTI) 데이터를 포함한다.
• GTI 특징는 Böhme 등(2020)에서 추출되었으며, 원천국과 목적국 간 이주 관련 关련 키워드의 정규화된 검색 빈도를 나타낸다.
• 모델는 2004~2014년 데이터를 기반으로 다음 해의 목적국 유입 이주자 수를 예측하도록 훈련되며, 2015년을 테스트 연도로 사용한다.
• 모델 성능 평가에는 RMSE, MAE, 결정계수(R-squared) 지표를 사용하여 LSTM을 선형 중력 모델 및 표준 피드포워드 ANN과 비교한다.
• LSTM 아키텍처는 특징 간 시간적 의존성과 비선형 상호작용을 포착하여, 복잡한 이주 역학을 더 잘 모델링할 수 있다.

실험 결과

연구 질문

• RQ1 Google 트렌드 데이터를 활용할 때, LSTM 모델이 선형 중력 모델보다 1년 후 국제 이주 유동 예측 성능을 뛰어나게 할 수 있는가?
• RQ2 동일한 데이터셋에서 LSTM 접근 방식이 표준 인공신경망(ANN)보다 예측 정확도를 향상시킬 수 있는가?
• RQ3 Google 트렌드 특징가 기계학습 모델의 예측 성능에 얼마나 기여하는가?
• RQ4 재정 위기로 인해 이주 유동에 큰 변동이 있었던 국가들에 대해서는 모델이 어떻게 성능을 보이는가?
• RQ5 LSTM 모델은 알려지지 않은 원천국-목적국 조합에 대해 일반화 가능한가, 아니면 기존의 조합에 국한되는가?

주요 결과

• LSTM 모델은 테스트 세트(2015년)에서 선형 중력 모델 대비 루트 평균 제곱 오차(RMSE)를 5배 감소시켰다.
• LSTM 모델은 테스트 세트에서 선형 중력 모델 대비 평균 절대 오차(MAE)를 4배 감소시켰다.
• LSTM 모델은 결정계수 및 상관계수를 포함한 모든 평가 지표에서 선형 중력 모델과 표준 인공신경망(ANN)을 모두 압도적으로 뛰어났다.
• 모델는 특히 높은 이주 유입을 보이는 국가들에서 이주 추세를 더 잘 포착했지만, 2008년 금융위기 기간 동안 스페인의 이주 유동을 과소평가했다.
• 예측 오차의 히트맵 분석 결과, 고이주 국가에 대해 LSTM 모델이 중력 모델과 ANN보다 더 정확하고 일관된 예측을 제공했다.
• 결과적으로 LSTMs가 실시간 디지털 데이터를 활용한 복잡하고 비선형적인 이주 역학을 모델링하는 데 선형 모델이나 표준 신경망보다 더 적합하다는 것이 확인되었다.