[論文レビュー] A posteriori learning for quasi-geostrophic turbulence parametrization

Hugo Frezat, Julien Le Sommer+3 more|arXiv (Cornell University)|Apr 8, 2022

Meteorological Phenomena and Simulations被引用数 9

ひとこと要約

本論文は、準地軸渦動乱流におけるスモールスケール（SGS）パrametrizationのエンドツーエンドa posteriori学習を提案する。この手法では、高分解能の損失関数に依存せず、全モデル軌道全体の予測誤差を最小化するようにニューラルネットワークを訓練する。この方法により、多様な流れ配置において、従来のデータ駆動型および経験的スキームを凌駕する、より安定的で正確かつ一般化性の高いパrametrizationが得られる。

ABSTRACT

The use of machine learning to build subgrid parametrizations for climate models is receiving growing attention. State-of-the-art strategies address the problem as a supervised learning task and optimize algorithms that predict subgrid fluxes based on information from coarse resolution models. In practice, training data are generated from higher resolution numerical simulations transformed in order to mimic coarse resolution simulations. By essence, these strategies optimize subgrid parametrizations to meet so-called $ extit{a priori}$ criteria. But the actual purpose of a subgrid parametrization is to obtain good performance in terms of $ extit{a posteriori}$ metrics which imply computing entire model trajectories. In this paper, we focus on the representation of energy backscatter in two dimensional quasi-geostrophic turbulence and compare parametrizations obtained with different learning strategies at fixed computational complexity. We show that strategies based on $ extit{a priori}$ criteria yield parametrizations that tend to be unstable in direct simulations and describe how subgrid parametrizations can alternatively be trained end-to-end in order to meet $ extit{a posteriori}$ criteria. We illustrate that end-to-end learning strategies yield parametrizations that outperform known empirical and data-driven schemes in terms of performance, stability and ability to apply to different flow configurations. These results support the relevance of differentiable programming paradigms for climate models in the future.

研究の動機と目的

• 気候モデルにおけるa priori基準に基づくスモールスケールパrametrizationの不安定性を解消すること。
• a posteriori性能指標に基づくエンドツーエンド訓練が、長期シミュレーションの安定性と正確性を向上させるかどうかを調査すること。
• 学習されたパrametrizationの異なる初期流れ配置への一般化能力を評価すること。
• 微分可能プログラミングパラダイムが気候モデルパrametrizationに実用的かつ優れていることを示すこと。
• a posteriori学習を従来のa priori訓練および確立された経験的／データ駆動型スキームと比較すること。

提案手法

• 著者らは、全モデル統合における25ステップの予測誤差の和に基づく損失関数を用いて、ニューラルネットワークがスモールスケールフラックスを予測するように訓練する。
• 訓練プロセスでは、準地軸方程式の微分可能時間積分が用いられ、時間方向の誤差逆伝播が可能となり、パrametrizationの最適化が可能になる。
• この手法は、エネルギーバックスキャッタが主要な未解決プロセスである2次元の準地軸モデルに適用される。
• 学習されたパrametrizationは、二乗平均平方誤差（RMSE）、エネルギースペクトル、および長期間にわたるシミュレーションにおける安定性といったa posteriori指標を用いて評価される。
• 標準的なa priori訓練（高分解能シミュレーションから得た合成トレーニングデータに基づいてネットワークを最適化する手法）と対比される。
• フレームワークは自動微分を活用しており、エンドツーエンド最適化を可能にするJAXに類似した微分可能プログラミングを実装している。

実験結果

リサーチクエスチョン

• RQ1 全モデル軌道誤差に基づくa posteriori学習戦略は、a priori訓練に比べ、より安定的で正確なスモールスケールパrametrizationを生み出せるか？
• RQ2 a posterioriで訓練されたパrametrizationは、a prioriで訓練されたものや経験的スキームと比較して、長期シミュレーションでどのように性能を発揮するか？
• RQ3 a posterioriで学習されたパrametrizationは、異なる初期流れ配置にわたってどの程度一般化できるか？
• RQ4 エンドツーエンド訓練は、準地軸渦動乱流におけるエネルギーバックスキャッタの表現を向上させるか？
• RQ5 微分可能プログラミングは、非微分可能なレガシーモデルにおける気候モデルパrametrizationにどのような実用的意味を持つのか？

主な発見

• a posteriori学習戦略により、a priori基準に基づく訓練に比べ、長期シミュレーションにおいて顕著に安定したスモールスケールパrametrizationが得られる。
• a posterioriで訓練されたパrametrizationは、RMSE、エネルギースペクトルの忠実度、および長期的な流れのパターンの正確性の観点で、経験的およびデータ駆動型のベースラインを上回る性能を示す。
• 学習されたパrametrizationは、異なる初期流れ配置にわたって良好に一般化され、強靭性と転送性を示している。
• この手法は、準地軸渦動乱流モデリングにおける主要な課題であるエネルギーバックスキャッタを効果的に捉え、安定化している。
• エンドツーエンド訓練により短期予測性能が向上し、それが長期的安定性および気候論的正確性の向上に繋がっている。
• これらの結果は、今後の気候モデリングにおいて微分可能プログラミングフレームワークを採用することで、より正確で安定したパrametrizationスキームが実現可能であることを支持する。