[論文レビュー] A comparison of data-driven approaches to build low-dimensional ocean models

Niraj Agarwal, Dmitri Kondrashov+3 more|arXiv (Cornell University)|Jul 13, 2021

Meteorological Phenomena and Simulations参考文献 109被引用数 27

ひとこと要約

本研究では、ダブル・ジャイア海洋モデルを用いて、低次元海洋エミュレータを構築するためのデータ駆動型手法を比較する。マルチレベル線形確率モデルが、精度、安定性、コストの観点で他の手法を上回り、線形回帰とディープラーニングを組み合わせたハイブリッドモデル（特に状態に依存するノイズを含むもの）も優れた性能を示す。これは、記憶効果とモデル誤差が信頼性の高い海洋エミュレーションにおいて極めて重要であることを示している。

ABSTRACT

We present a comprehensive inter-comparison of linear regression (LR), stochastic, and deep-learning approaches for reduced-order statistical emulation of ocean circulation. The reference dataset is provided by an idealized, eddy-resolving, double-gyre ocean circulation model. Our goal is to conduct a systematic and comprehensive assessment and comparison of skill, cost, and complexity of statistical models from the three methodological classes. The model based on LR is considered as a baseline. Additionally, we investigate its additive white noise augmentation and a multi-level stochastic approach, deep-learning methods, hybrid frameworks (LR plus deep-learning), and simple stochastic extensions of deep-learning and hybrid methods. The assessment metrics considered are: root mean squared error, anomaly cross-correlation, climatology, variance, frequency map, forecast horizon, and computational cost. We found that the multi-level linear stochastic approach performs the best for both short- and long-timescale forecasts. The deep-learning hybrid models augmented by additive state-dependent white noise came second, while their deterministic counterparts failed to reproduce the characteristic frequencies in climate-range forecasts. Pure deep learning implementations performed worse than LR and its noise augmentations. Skills of LR and its white noise extension were similar on short timescales, but the latter performed better on long timescales, while LR-only outputs decay to zero for long simulations. Overall, our analysis promotes multi-level LR stochastic models with memory effects, and hybrid models with linear dynamical core augmented by additive stochastic terms learned via deep learning, as a more practical, accurate, and cost-effective option for ocean emulation than pure deep-learning solutions.

研究の動機と目的

• データ駆動型海洋エミュレーション手法のスキル、コスト、複雑さを体系的に評価・比較すること。
• 短期および長期スケールの海洋循環予測において、最も正確で安定的かつ計算的に効率的な手法を特定すること。
• 記憶効果、状態に依存するノイズ、ハイブリッドアーキテクチャの役割がエミュレータ性能に与える影響を評価すること。
• 気候モデリングやアンサンブル予測に適した低コストのデータ駆動型海洋エミュレータのベンチマークを提供すること。

提案手法

• 研究では、ダブル・ジャイア海洋循環モデルを基準データセットとして用い、その力学的挙動を経験的正規直交関数（EOF）および主成分（PC）に射影する。
• ベースラインとして線形回帰（LR）を用い、追加の白色ノイズおよびマルチレベル確率形式を適用する。
• フィードフォワードニューラルネットワークおよび長短期記憶（LSTM）ネットワークを含むディープラーニングモデルを、PC時系列からの力学的挙動の学習に訓練する。
• ハイブリッドモデルでは、線形回帰を動的コアとして用い、残差誤差および状態に依存するノイズを学習するディープラーニングを組み合わせる。
• 純粋なディープラーニングおよびハイブリッドモデルの両方に確率的拡張を適用し、ノイズ項を状態に依存させるようにすることで、記憶効果とモデル誤差の影響を捉える。
• 性能評価には、平均二乗誤差、アノマリー相互相関、分散、周波数マップ、予測期間、計算コストなどの指標を用いる。

実験結果

リサーチクエスチョン

• RQ1 どのデータ駆動型手法が短期および長期スケールの予測において、最も正確で安定した低次元海洋エミュレータを生成するか？
• RQ2 記憶効果および状態に依存するノイズは、データ駆動型海洋エミュレータの性能にどのように影響するか？
• RQ3 線形回帰とディープラーニングを組み合わせたハイブリッドモデルは、単独のディープラーニングまたは線形モデルを上回る性能を示せるか？
• RQ4 特にトレーニングと予測の間で、異なるエミュレーション手法の計算コストのトレードオフはいかほどか？
• RQ5 確率的拡張は、決定論的モデルと比較して、どのように海洋エミュレータの安定性と現実性を向上させるか？

主な発見

• マルチレベル線形確率（ML-LR）モデルが、短期および長期スケールの両方の予測において、精度と安定性の観点で他のすべての手法を上回り、最良の総合的性能を達成した。
• 線形回帰とディープラーニングを組み合わせたハイブリッドモデル、特に状態に依存するノイズを追加した場合、2番目に高い性能を示し、決定論的対応モデルを著しく上回った。
• 純粋なディープラーニングモデルは、線形回帰およびそのノイズ拡張バージョンよりも性能が低く、特に気候的範囲周波数を再現する点で劣っていた。
• 状態に依存するノイズの追加により、長期的な安定性と予測精度が向上したが、純粋に赤色ノイズで拡張されたLRモデルは、状態依存性の欠如により失敗した。
• トレーニングコストはディープラーニングモデルが最も高く、推論は速かったが、ハイブリッドモデルはコストと性能のバランスに優れていた。
• ML-LRおよびハイブリッドモデルの成功は、海洋エミュレータに、コア力学、記憶効果、モデル誤差の表現を組み込むことが極めて重要であることを示している。