[論文レビュー] Modeling the spatio-temporal dynamics of land use change with recurrent neural networks

Guodong Du, Liang Yuan+2 more|arXiv (Cornell University)|Mar 29, 2018

Land Use and Ecosystem Services参考文献 54被引用数 3

ひとこと要約

本研究では、2000年から2016年までの年次土地被覆データを用いて、日本・築地において、再帰的ニューラルネットワーク（RNN）、特にLSTMおよびLSTMピーチポール変種を用いて、空間時間的土地被覆変化をモデル化・予測することを提案する。ゲート付きRNNアーキテクチャは単純なRNNを著しく上回り、LSTMピーチポールが最も高い性能を示し、土地被覆動態における長期的時間的依存性のモデル化の重要性を示している。

ABSTRACT

This study applies recurrent neural networks (RNNs), which are known for its ability to process sequential information, to model the spatio-temporal dynamics of land use change (LUC) and to forecast annual land use maps of the city of Tsukuba, Japan. We develop two categories of RNN models: 1) simple RNN, which is the basic RNN variant, 2) three RNN variants with advanced gated architecture: long short-term memory (LSTM), LSTM with peephole connection (LSTM-peephole), and gated recurrent unit (GRU) models. The four models are developed using spatio-temporal data with high temporal resolution, annual data for the periods 2000 to 2010, 2011 and 2012 to 2016 are used for training, validation and testing, respectively. The predictive performances are evaluated using classification metrics (accuracy and F1 score) and the map comparison metrics (Kappa simulation and fuzzy Kappa simulation). The results show that all RNN models achieve F1 scores higher than 0.55, and Kappa simulations higher than 0.47. Out of the four RNN models, LSTM and LSTM-peephole models significantly outperform the other two RNN models. Furthermore, LSTM-peephole model slightly outperforms the LSTM model. In addition, the results indicate that the RNN models with gated architecture, which have better ability to model longer temporal dependency, significantly outperform the simple RNN model. Moreover, the predictive performance of LSTM-peephole model gradually decreases with the decrease of temporal sequential length of the training set. These results demonstrate the benefit of taking temporal dependency into account to model the LUC process with RNNs.

研究の動機と目的

• 時間経過に伴う順序データを用いて、土地被覆変化（LUC）の空間時間的ダイナミクスをモデル化すること。
• さまざまなRNNアーキテクチャの性能を、年次土地被覆地図の予測において評価すること。
• 時間的依存性のモデル化が、LUC予測における予測精度に与える影響を評価すること。
• 単純なRNNとゲート付きRNN（LSTM、LSTMピーチポール、GRU）の有効性を比較し、長期的土地被覆トレンドの捉え込みに寄与するかどうかを検証すること。

提案手法

• 本研究では、単純なRNN、LSTM、ピーチポール接続付きLSTM、GRUの4つのRNN変種を用い、順序データを処理する。
• 2000年から2016年までの年次解像度の空間時間的データを用い、学習（2000–2010年）、検証（2011年）、テスト（2012–2016年）に分割する。
• 分類指標（正解率、F1スコア）と地図比較指標（カッパシミュレーション、ファジー・カッパシミュレーション）を用いてモデルの性能を評価する。
• モデルは、連続する年間の間の時間的依存性を学習することで、土地被覆移行を予測するように訓練される。
• ゲート付きアーキテクチャ（LSTMおよびLSTMピーチポール）は、学習可能なメモリーゲートを備えており、長期的依存性をよりよく捉えるように設計されている。
• 本研究では、学習データにおける時間的系列長さがモデル性能に与える感度を分析する。

実験結果

リサーチクエスチョン

• RQ1 RNNは、年次土地被覆データを用いて、空間時間的土地被覆変化を効果的にモデル化・予測できるか？
• RQ2 LSTMやLSTMピーチポールのようなゲート付きRNNアーキテクチャは、単純なRNNよりも土地被覆予測で優れているか？
• RQ3 時間的学習系列の長さが、LUCモデリングにおけるRNNモデルの予測性能にどのように影響するか？
• RQ4 長期的時間的依存性をモデル化することで、土地被覆変化予測の正確性はどの程度向上するか？

主な発見

• すべてのRNNモデルがF1スコア0.55以上、カッパシミュレーション値0.47以上を達成し、強力な予測性能を示した。
• LSTMおよびLSTMピーチポールモデルは、F1スコアおよびカッパシミュレーションの両面で、単純なRNNおよびGRUモデルを著しく上回った。
• LSTMピーチポールモデルは標準LSTMモデルをわずかに上回ったが、これは強化されたメモリーコントロールが予測精度を向上させることを示唆している。
• 特にLSTMピーチポールを含むゲート付きRNNの予測性能は、学習データにおける時間的系列が短くなると低下した。これは、長期的文脈に依存していることを示している。
• 結果から、RNNを用いた土地被覆変化予測において、長期的時間的依存性をモデル化することが重要であることが確認された。
• 本研究では、複雑な空間時間的ダイナミクスを捉えるには、単純なRNNよりもゲート付きRNNが適していることが示された。