[論文レビュー] An LSTM approach to Forecast Migration using Google Trends

Nicolas Golenvaux, Pablo González Álvarez+2 more|arXiv (Cornell University)|May 20, 2020

Human Mobility and Location-Based Analysis参考文献 32被引用数 14

ひとこと要約

本稿では、35か国にわたる経済合作研究会（OECD）加盟国への国際移住流を1年先まで予測するため、Googleトレンドデータを活用したLSTMベースの深層学習モデルを提案する。従来の重力モデルおよび標準的な人工ニューラルネットワーク（ANN）の代わりにLSTMアーキテクチャを採用することで、テストセットにおいてRMSEとMAEがそれぞれ5倍および4倍改善され、予測精度が著しく向上した。

ABSTRACT

Being able to model and forecast international migration as precisely as possible is crucial for policymaking. Recently Google Trends data in addition to other economic and demographic data have been shown to improve the forecasting quality of a gravity linear model for the one-year ahead forecasting. In this work, we replace the linear model with a long short-term memory (LSTM) approach and compare it with two existing approaches: the linear gravity model and an artificial neural network (ANN) model. Our LSTM approach combined with Google Trends data outperforms both these models on various metrics in the task of forecasting the one-year ahead incoming international migration to 35 Organization for Economic Co-operation and Development (OECD) countries: for example the root mean square error (RMSE) and the mean average error (MAE) have been divided by 5 and 4 on the test set. This positive result demonstrates that machine learning techniques constitute a serious alternative over traditional approaches for studying migration mechanisms.

研究の動機と目的

• リアルタイムのデジタルトレースデータを用いて、OECD加盟国における1年先の国際移住予測の精度を向上させること。
• 再帰的ニューラルネットワーク（LSTM）が、従来の線形モデルに比べて複雑な移住ダイナミクスをよりよく捉えられることを評価すること。
• Googleトレンドデータを補完として用いた場合に、LSTM、人工ニューラルネットワーク（ANN）、重力モデルの性能を比較すること。
• 公式統計データが限られたり遅延が生じたりする状況において、機械学習手法の移住流モデル化への潜在的有効性を評価すること。
• 深層学習モデルの解釈可能性および一般化能力が、移住予測においてどの程度達成できるかを検討すること。

提案手法

• 本モデルは、時間的順序に沿った移住データと特徴量を処理するため、長短期記憶（LSTM）再帰ニューラルネットワークを用いる。
• 入力特徴量には、GDP、人口規模、国固定効果（ワンホットエンコーディング）、および双方向および単方向の移住関連検索語句に関するGoogleトレンドインデックス（GTI）データが含まれる。
• GTI特徴量は、Böhmeら（2020）から抽出され、出発国と到着国間の移住関連キーワードの正規化された検索頻度を表している。
• 2004年から2014年までのデータを用いて学習を行い、2015年をテスト年として使用して、次年度の到着国への移住者数を予測する。
• モデルの性能は、RMSE、MAE、決定係数（R-squared）の指標を用いて評価され、LSTMは線形重力モデルおよび標準的な順方向型ANNと比較される。
• LSTMアーキテクチャは、特徴量間の時間的依存性および非線形的相互作用を捉えることができ、複雑な移住ダイナミクスのモデリングをより効果的に行える。

実験結果

リサーチクエスチョン

• RQ1 Googleトレンドデータを用いた場合、LSTMモデルは線形重力モデルに比べ、1年先の国際移住流の予測性能を上回ることができるか？
• RQ2 同じデータセット上で、LSTMアプローチは標準的な人工ニューラルネットワーク（ANN）に比べて予測精度を向上させることができるか？
• RQ3 Googleトレンド特徴量は、移住予測における機械学習モデルの予測性能をどの程度向上させるか？
• RQ4 ファイナンシャル・クライシスの影響を受ける国々、例えば金融危機に見舞われた国々において、モデルの性能はいかがであるか？
• RQ5 LSTMモデルは、未知の出発国・到着国ペアに一般化できるか、それとも既知の国ペアに限定された性能にとどまるか？

主な発見

• テストセット（2015年）において、LSTMモデルは線形重力モデルに比べ、平均二乗誤差（RMSE）を5分の1に削減した。
• テストセット（2015年）において、LSTMモデルは線形重力モデルに比べ、平均絶対誤差（MAE）を4分の1に削減した。
• 決定係数および相関係数を含む、すべての評価指標において、LSTMモデルは線形重力モデルおよび標準的な人工ニューラルネットワーク（ANN）を上回った。
• 特に高移住流入国において、移住トレンドの把握に優れた性能を示したが、2008年のファイナンシャル・クライシス期にスペインの移住流をやや低予測した。
• 誤差のヒートマップ分析から、LSTMモデルは重力モデルやANNよりも、特に高移住国においてより正確かつ一貫性のある予測を実現した。
• 結果から、リアルタイムのデジタルデータを用いた複雑で非線形的な移住ダイナミクスのモデリングには、LSTMが線形モデルや標準的なニューラルネットワークよりも適していると考えられる。