[論文レビュー] Sea Level Anomaly Prediction using Recurrent Neural Networks

Anne Braakmann-Folgmann, Ribana Roscher+3 more|arXiv (Cornell University)|Oct 19, 2017

Oceanographic and Atmospheric Processes参考文献 10被引用数 39

ひとこと要約

本稿では、グリッド化されたアルティメトリー観測データを用いて、北太平洋における海面高度異常（SLA）を予測するためのハイブリッドCNN-LSTMディープラーニングモデルを提案する。空間的パターンを捉える畳み込み層と、時間的ダイナミクスをモデル化する再帰層を組み合わせることで、回帰手法（0.154 m）に比べて著しく低いRMSE（0.051 m）を達成し、多年にわたる予測において優れた精度と安定性を示した。

ABSTRACT

Sea level change, one of the most dire impacts of anthropogenic global warming, will affect a large amount of the world's population. However, sea level change is not uniform in time and space, and the skill of conventional prediction methods is limited due to the ocean's internal variabi-lity on timescales from weeks to decades. Here we study the potential of neural network methods which have been used successfully in other applications, but rarely been applied for this task. We develop a combination of a convolutional neural network (CNN) and a recurrent neural network (RNN) to ana-lyse both the spatial and the temporal evolution of sea level and to suggest an independent, accurate method to predict interannual sea level anomalies (SLA). We test our method for the northern and equatorial Pacific Ocean, using gridded altimeter-derived SLA data. We show that the used network designs outperform a simple regression and that adding a CNN improves the skill significantly. The predictions are stable over several years.

研究の動機と目的

• 海洋内発的変動および気候変動の影響による空間的・時間的変動が著しい海面高度異常（SLA）を予測する課題に対処すること。
• 物理的海洋モデルの限界（物理法則の不完全性、解像度の低さ、初期条件の不確実性）を克服すること。
• 海面高度グリッドにおける空間相関と時系列データにおける時間的依存性を活用するディープラーニング手法の開発。
• 23年分のアルティメトリー観測データ上で、ハイブリッドニューラルネットワークアーキテクチャの予測性能を従来の回帰手法と比較して評価すること。
• エンドツーエンドのディープラーニングを用いた長期的SLA予測の可能性を示し、将来的には全球的応用が可能であることを示すこと。

提案手法

• 2次元畳み込みニューラルネットワーク（CNN）とConvLSTM層を組み合わせたハイブリッドアーキテクチャを採用し、空間的構造を保持しながら時間的変化をモデル化する。
• 入力として、ESA CCIレベル4製品（1/4°解像度、1993–2015年）のグリッド化SLAデータを用い、月次時間分解能、空間的カバー範囲は110°–250°Eおよび15°S–60°Nとする。
• 3種類のネットワークバリエーションを訓練：標準LSTM（ベクトル入力）、CNN+ConvLSTM（グリッド入力で空間特徴量学習）、時系列ベースモデル（9か月分の時系列を予測）。
• 入力データにバッチ正規化を適用し、150エポックにわたり学習率を段階的に減衰させるAdam最適化手法を用い、平均二乗誤差（MSE）損失を最小化する。
• Sequence LSTM-Pモデルでは、予測出力を再帰的に入力としてフィードバックするシーケンス・ツー・シーケンス予測戦略を実装し、複数ステップ予測を実現する。
• 過学習を避けるために、データを学習（16年）、検証（4年）、テスト（3年）の3つのセットに分割する。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッドCNN-LSTMアーキテクチャは、従来の回帰モデルに比べ、年間スケールのSLA予測において優れた性能を示せるか？
• RQ2 ConvLSTMを用いてグリッド構造を保持することで、入力をベクトルにフラット化する手法に比べ、予測精度がどの程度向上するか？
• RQ3 予測期間を1か月から9か月に延長した場合、モデルの予測精度はどの程度低下するか？
• RQ4 再帰的予測ループ（自身の出力を入力として再利用）を採用した場合、モデルは多年にわたっても精度を維持できるか？
• RQ5 太平洋のどの地域で予測誤差が集中し、それらの誤差と関連する物理的特徴（例：渦、海流）は何か？

主な発見

• CNN+ConvLSTMモデルは、テストRMSEが0.051 mにまで低下し、回帰ベースライン（0.154 m）および他のニューラルネットワークバリエーションを著しく上回った。
• LSTMアーキテクチャにCNNを追加することで、渦や亜熱帯渦などの空間的パターンを捉える能力が向上し、特に空間的構造を保持するConvLSTMと組み合わせることで精度が向上した。
• Sequence LSTM-Pモデルは、予測出力を再帰的にフィードバックすることで、複数年にわたる予測を安定して実行でき、わずかな精度の低下（テストデータでのRMSE 0.081 m）にとどまった。
• 空間的誤差マップから、予測誤差が最も高かったのは黒潮付近であり、強い渦活動と高い変動性がモデルの一般化能力を試す要因であった。
• すべてのニューラルネットワークアーキテクチャが、学習・検証・テストの各フェーズで一貫して回帰モデルを上回った。これは、ディープラーニングが複雑で非線形なSLAダイナミクスを効果的に捉えられることを示している。
• モデルは長期予測においても頑健な性能を示し、Sequence LSTM-P構成を用いた場合、20回の再帰的予測後でも観測値に非常に近い予測値を維持した。