[論文レビュー] Convolutional LSTM Network: A Machine Learning Approach for Precipitation Nowcasting

Xingjian Shi, Zhourong Chen+4 more|arXiv (Cornell University)|Jun 13, 2015

Meteorological Phenomena and Simulations参考文献 27被引用数 6,619

ひとこと要約

この論文はConvLSTMを導入し、時空間降水予報のための畳み込み拡張LSTMを提案、レーダーエコーデータに対してFC-LSTMおよびROVERを上回ることを示す。

ABSTRACT

The goal of precipitation nowcasting is to predict the future rainfall intensity in a local region over a relatively short period of time. Very few previous studies have examined this crucial and challenging weather forecasting problem from the machine learning perspective. In this paper, we formulate precipitation nowcasting as a spatiotemporal sequence forecasting problem in which both the input and the prediction target are spatiotemporal sequences. By extending the fully connected LSTM (FC-LSTM) to have convolutional structures in both the input-to-state and state-to-state transitions, we propose the convolutional LSTM (ConvLSTM) and use it to build an end-to-end trainable model for the precipitation nowcasting problem. Experiments show that our ConvLSTM network captures spatiotemporal correlations better and consistently outperforms FC-LSTM and the state-of-the-art operational ROVER algorithm for precipitation nowcasting.

研究の動機と目的

• 降水量の現在予報を時空間シーケンス予測問題として定式化する。
• ConvLSTMを開発して入力・状態・出力遷移の空間構造を保つ。
• 多手の現在予測のためのエンドツーエンドで訓練可能なエンコーディング-予測ネットワークを作成する。
• 実データのレーダーエコーと合成 Moving-MNIST で時空間モデリングの利点を評価する。

提案手法

• FC-LSTMをConvLSTMに拡張し、畳み込みによる入力-状態遷移と状態-状態遷移を実現する。
• 入力、セル出力、隠れ状態、ゲートを空間次元を持つ3Dテンソルとして表現する。
• エンコーディング-予測アーキテクチャにConvLSTM層を積み重ね、マルチステップ予測を生成する。
• 連結された予測状態から最終的なマルチフレーム予測を生成するために1x1畳み込みを用いる。
• 系列上のクロスエントロピー損失を用いて時系列を通じた誤差逆伝播法でエンドツーエンドに訓練する。

実験結果

リサーチクエスチョン

• RQ1 ConvLSTMはFC-LSTMと比較してレーダーエコーデータの時空間相関をより良く捉えられるか？
• RQ2 状態-状態の畳み込みカーネルを大きくすると時空間的な運動パターンのモデリングが改善されるか？
• RQ3 ConvLSTMは降水予報におけるROVER光学フローベース法と比較してどうか？
• RQ4 より深いConvLSTMはパラメータ数を抑えつつより良い予測を生み出すか？
• RQ5 ConvLSTMはドメイン外や異なる運動シナリオでロバストか？

主な発見

モデル	降水量-MSE	CSI	偽警報率	検出率	相関
ConvLSTM(3x3)-3x3-64-3x3-64	1.420	0.577	0.195	0.660	0.908
Rover1	1.712	0.516	0.308	0.636	0.843
Rover2	1.684	0.522	0.301	0.642	0.850
Rover3	1.685	0.522	0.301	0.642	0.849
FC-LSTM-2000-2000	1.865	0.286	0.335	0.351	0.774

• ConvLSTMはSyntheticおよびレーダーデータの時空間相関を捉える点でFC-LSTMを上回る。
• 状態-状態の畳み込みカーネルを大きくすると(例: 5x5, 9x9) 1x1より運動パターンのモデリングが改善される。
• より深いConvLSTMモデルはパラメータ数を抑えつつより良い結果を達成できる。
• ConvLSTMは降水予報の評価指標でROVERの光学フローベース法を凌ぐ。
• レーダーデータセットではConvLSTMがROVERより高いCSIと低い誤警報率を達成し、降雨誤差平方平均および相関も改善。