[論文レビュー] Deep coastal sea elements forecasting using U-Net based models

Jesús García Fernández, Ismail Alaoui Abdellaoui+1 more|arXiv (Cornell University)|Nov 6, 2020

Oceanographic and Atmospheric Processes被引用数 9

ひとこと要約

本稿では、衛星画像を用いた沿岸海流要因のマルチステップ予測のための新規なU-Netベースの深層学習フレームワークを提案する。3D U-Netアーキテクチャに残差接続、並列畳み込み、非対称畳み込みを統合することで、AsymmInceptionRes-3DDR-UNetモデルは、72時間先までの全季節および全予測期間において、海面水温、塩分、海流速度の予測で最先端の性能を達成した。

ABSTRACT

The supply and demand of energy is influenced by meteorological conditions. The relevance of accurate weather forecasts increases as the demand for renewable energy sources increases. The energy providers and policy makers require weather information to make informed choices and establish optimal plans according to the operational objectives. Due to the recent development of deep learning techniques applied to satellite imagery, weather forecasting that uses remote sensing data has also been the subject of major progress. The present paper investigates multiple steps ahead frame prediction for coastal sea elements in the Netherlands using U-Net based architectures. Hourly data from the Copernicus observation programme spanned over a period of 2 years has been used to train the models and make the forecasting, including seasonal predictions. We propose a variation of the U-Net architecture and further extend this novel model using residual connections, parallel convolutions and asymmetric convolutions in order to introduce three additional architectures. In particular, we show that the architecture equipped with parallel and asymmetric convolutions as well as skip connections outperforms the other three discussed models.

研究の動機と目的

• 衛星画像を用いた深層学習による沿岸海流要因のマルチステップ予測を改善すること。
• 高い空間時間的変動性を示す複雑で動的な沿岸海洋変数を予測するという課題に対処すること。
• 特徴抽出の向上を図るため、残差学習、並列畳み込み、非対称畳み込みをU-Netアーキテクチャに統合すること。
• 異なる季節および予測ホライズン（12〜72時間）にわたってモデルの性能を評価すること。
• 物理方程式に依存しない、計算コストを低減したデータ駆動型の数値 weahter予測（NWP）の代替手段を提供すること。

提案手法

• 時間遅れフレームを3次元入力として扱い、2次元出力（現在の海流状態）を予測するため、スパティオトランスポートデータ処理に適した3D U-Netアーキテクチャを適用した。
• 深層ネットワークにおける学習安定化と勾配の流れの改善を目的に、スキップ接続を備えた残差ブロックを導入した。
• インセプションモジュールを模倣した並列畳み込みブランチを統合し、マルチスケールの空間的特徴を捉えるようにした。
• パラメータ数を削減し、空間パターンへの感受性を高めつつも効率性を維持するため、非対称畳み込みを適用した。
• 2年間の1時間ごとのCopernicus衛星データを用いて、オランダの沿岸地域をカバーするデータセットで、エンドツーエンドにモデルを学習した。
• 損失関数として平均二乗誤差（MSE）を用い、4つの季節および複数の予測ホライズンにわたってテストデータ上で性能を評価した。

実験結果

リサーチクエスチョン

• RQ1 残差接続、並列畳み込み、非対称畳み込みの統合が、沿岸海流要因予測の性能にどのように影響を与えるか？
• RQ2 どのU-Netベースのアーキテクチャが、異なる季節および予測ホライズン（12時間〜72時間）にわたって最も一般化性能を発揮するか？
• RQ3 提案されたモデルは、塩分や海流速度といった複雑な海洋変数の予測において、標準的なU-Netおよび3D U-Netベースラインを上回る性能を示すか？
• RQ4 予測リードタイムの延長および季節的気象変動の変化に伴い、モデルの性能はどのように変化するか？
• RQ5 物理方程式に依存しないで、衛星データで学習した深層学習モデルが、物理的方程式を用いずに信頼性のあるマルチステップ予測を達成できるか？

主な発見

• AsymmInceptionRes-3DDR-UNetモデルは、全予測ホライズンおよび全季節において最低のテストMSEを達成し、12時間先では5.15e-02、72時間先では1.41e-01のMSEを記録した。
• 予測リードタイムの延長に伴う性能低下が観察されたが、他のモデルと比較して、AsymmInceptionRes-3DDR-UNetモデルは誤差の増加が最も遅やかであった。
• 冬は気象変動が高いため最も挑戦的であり、全モデルで最高のMSE値を示した。一方、夏は最も安定的で正確な予測結果を示した。
• 海水の塩分は、海面水温や海流速度と比較して最も難しい変数であり、一貫して高いMSEを示した。
• 並列および非対称畳み込みを備えたモデル（AsymmInceptionRes-3DDR-UNet）は、72時間先のMSEで標準的な3DDR-UNetを10.5%改善し、アーキテクチャ的強化の有効性を示した。
• 可視化結果から、AsymmInceptionRes-3DDR-UNetは、冬の48時間先の複雑な変数（東方向海流速度（EastCUR）および北方向海流速度（NorthCUR））に対しても、正確で空間的に整合性のある予測を生成したことが確認された。