[論文レビュー] Sea Ice Forecasting using Attention-based Ensemble LSTM

Sahara Ali, Yiyi Huang+2 more|arXiv (Cornell University)|Jul 27, 2021

Arctic and Antarctic ice dynamicsEarth and Planetary Sciences参考文献 10被引用数 18

ひとこと要約

本論文は、1979–2018年の間、ERA5およびNSIDCの日次および月次大気・海洋・海氷データを活用して、1か月先までの月次北極海氷拡大を予測する注目メカニズムを備えたアンサンブルLSTM（LSTM）モデルを提案する。この手法は、複数の時間スケールのモデルを注目メカニズムで統合することで予測精度を向上させ、4.11%のRMSEを達成し、ベースラインおよび最近のディーブラーニングモデルを著しく上回る性能を示した。

ABSTRACT

Accurately forecasting Arctic sea ice from subseasonal to seasonal scales has been a major scientific effort with fundamental challenges at play. In addition to physics-based earth system models, researchers have been applying multiple statistical and machine learning models for sea ice forecasting. Looking at the potential of data-driven sea ice forecasting, we propose an attention-based Long Short Term Memory (LSTM) ensemble method to predict monthly sea ice extent up to 1 month ahead. Using daily and monthly satellite retrieved sea ice data from NSIDC and atmospheric and oceanic variables from ERA5 reanalysis product for 39 years, we show that our multi-temporal ensemble method outperforms several baseline and recently proposed deep learning models. This will substantially improve our ability in predicting future Arctic sea ice changes, which is fundamental for forecasting transporting routes, resource development, coastal erosion, threats to Arctic coastal communities and wildlife.

研究の動機と目的

• データ駆動型ディープラーニングモデルを用いて、月次の北極海氷予測を改善すること。
• 7月～9月の北極融解期における低予測可能性の課題に対処すること。
• 日次および月次の異なる時間分解能で訓練されたモデルを統合するアンサンブル手法を開発し、予測精度を向上させること。
• 予測性能に応じて構成モデルの寄与度を動的に重み付ける注目メカニズムを組み込み、予測誤差を低減すること。
• 気候レジリエンスおよび北極計画に向けたスケーラブルで解釈可能かつ高精度な予測フレームワークを提供すること。

提案手法

• モデルは2つの主要なブランチを備える：日次から月次へのLSTM（d-LSTM）と月次から月次へのLSTM（m-LSTM）で、それぞれ日次および月次の時系列データを学習する。
• アンサンブルモデル（E-LSTM）は、d-LSTMとm-LSTMの予測結果を学習された注目重みで統合し、より情報量の多いモデル出力を優先する。
• 注目メカニズムは、各構成モデルの予測性能に基づいて動的重みを計算し、トレーニング中に全体の損失を最小化する。
• 最終的なモデル、EA-LSTMは、注目メカニズムをアンサンブルフレームワークに統合し、異なる時間的・季節的条件下で予測性能が優れたモデルに注目を向けることができる。
• 本手法は1979–2012年の34年間のデータでトレーニングされ、2013–2018年の最終5年間でテストされ、北緯25°N以北の領域加重平均が用いられた。
• アーキテクチャは、異なる時間的・空間的分解能で訓練された追加のモデルブランチを容易に統合できる拡張性を持つ。

実験結果

リサーチクエスチョン

• RQ1 複数時間スケールのディープラーニングモデルのアンサンブルは、単一モデルのベースラインと比較して、月次北極海氷拡大予測の精度を向上させることができるか？
• RQ2 注目メカニズムを組み込むことで、特に低予測可能性が顕著な融解期におけるアンサンブルモデルの性能と耐性はどのように向上するか？
• RQ3 注目メカニズムを備えたアンサンブルは、最近の最先端のディープラーニングモデルと比較して、どの程度優れた性能を示すか？
• RQ4 注目メカニズムは、時間分解能と季節的変動に基づいて、モデルの寄与度を効果的に学習できるか？
• RQ5 モデルは、海氷拡大の年間変動と季節的遷移をどの程度的確に捉えられるか？

主な発見

• 提案されたEA-LSTMモデルは、月次海氷拡大予測でテストRMSEが4.11%に達し、ベースラインモデルを著しく上回った。
• 注目メカニズムを備えたアンサンブルは、注目なしのE-LSTMおよび個々のd-LSTM/m-LSTMモデルと比較して、損失を低減し、精度を向上させた。
• EA-LSTMモデルは、通常予測が困難な融解期（7月～9月）においても優れた性能を示した。
• Chi & Kim (2017)と比較して1.65%のRMSE低減、Kim et al. (2020)と比較して8%のRMSE低減を達成し、顕著な性能向上を示した。
• 注目メカニズムは、特定の条件下で性能が優れたモデルに高い注目度を割り当てることで、効果的にモデル寄与度を学習した。
• 可視化結果から、2014年から2018年の観測された海氷トレンドにEA-LSTMの予測がよく一致しており、特に季節的減少および回復パターンを的確に捉えていた。