[論文レビュー] Huge Ensembles Part I: Design of Ensemble Weather Forecasts using Spherical Fourier Neural Operators

Ankur Mahesh, William D. Collins+14 more|arXiv (Cornell University)|Aug 6, 2024

Meteorological Phenomena and SimulationsEarth and Planetary Sciences被引用数 3

ひとこと要約

この論文は、球面フーリエニューラルオペレータ（SFNO）を用いた機械学習ベースのアンサンブル気象予報システムを紹介し、従来の数値モデルの計算制限を超えて、1,000～10,000メンバーの巨大アンサンブルを生成する。摂動パラメータとベッドベクトル初期条件摂動を組み合わせることで、補正された信頼性のある確率的予報を生成し、スペクトル的および極端な出来事象の診断を満たし、低確率の高インパクト天候現象の現実的なシミュレーションを示している。

ABSTRACT

Studying low-likelihood high-impact extreme weather events in a warming world is a significant and challenging task for current ensemble forecasting systems. While these systems presently use up to 100 members, larger ensembles could enrich the sampling of internal variability. They may capture the long tails associated with climate hazards better than traditional ensemble sizes. Due to computational constraints, it is infeasible to generate huge ensembles (comprised of 1,000-10,000 members) with traditional, physics-based numerical models. In this two-part paper, we replace traditional numerical simulations with machine learning (ML) to generate hindcasts of huge ensembles. In Part I, we construct an ensemble weather forecasting system based on Spherical Fourier Neural Operators (SFNO), and we discuss important design decisions for constructing such an ensemble. The ensemble represents model uncertainty through perturbed-parameter techniques, and it represents initial condition uncertainty through bred vectors, which sample the fastest growing modes of the forecast. Using the European Centre for Medium-Range Weather Forecasts Integrated Forecasting System (IFS) as a baseline, we develop an evaluation pipeline composed of mean, spectral, and extreme diagnostics. Using large-scale, distributed SFNOs with 1.1 billion learned parameters, we achieve calibrated probabilistic forecasts. As the trajectories of the individual members diverge, the ML ensemble mean spectra degrade with lead time, consistent with physical expectations. However, the individual ensemble members' spectra stay constant with lead time. Therefore, these members simulate realistic weather states, and the ML ensemble thus passes a crucial spectral test in the literature. The IFS and ML ensembles have similar Extreme Forecast Indices, and we show that the ML extreme weather forecasts are reliable and discriminating.

研究の動機と目的

• 従来の物理ベースのモデルでは、低確率の高インパクト（LLHI）天候現象を研究するための巨大気象アンサンブル（1,000～10,000メンバー）を生成することが計算的に非現実的であるという問題に対処すること。
• 初期条件とモデルの不確実性を正確に捉えつつ、長期的な動的安定性を維持する機械学習ベースのアンサンブル予報システムを設計すること。
• 平均、スペクトル、極端な出来事象の診断を用いて、MLアンサンブルの性能を運用モデルと比較し、確率的予報の信頼性と識別能力を保証すること。
• SFNOベースのアンサンブルが、長時間の自己回帰的ロールアウトにおいて現実的な大気の動的挙動と極端な天候現象をシミュレートできることを示すこと。
• グローバル再解析データを用いて、巨大なMLベースの気象アンサンブルのトレーニング、推論、スコアリングを再現可能でオープンソースのフレームワークとして提供すること。

提案手法

• 本研究では、球面上の偏微分方程式を解くために設計された深層学習アーキテクチャである球面フーリエニューラルオペレータ（SFNO）を用い、欧州中期予報センター（ECMWF）統合予報システム（IFS）を模倣する。
• アンサンブルはトレーニング後、モデルの不確実性を表すために摂動パラメータを、初期条件の不確実性をサンプリングするためにベッドベクトルを用いて構築する。ベッドベクトルは、予報誤差の最も成長が速いモードに沿って初期条件の不確実性をサンプリングする。
• 11億パラメータを持つ大規模かつ分散型のSFNOを、ERA5再解析データを真値として、各時刻における決定論的平均二乗誤差（MSE）を最小化するようにトレーニングする。
• 評価パイプラインには、平均場診断、スペクトル診断（パワースペクトル）、および極端な出来事象診断（極端予報指数（EFI）や信頼性図）が含まれる。
• アンサンブル推論は、改良版のearth2mipフレームワークを用い、ベッドベクトル生成と確率的スコアリングのための専用モジュールを備えている。
• 本研究では、NERSCおよびALCCプログラムの高性能計算リソースを活用して、スケールに応じたモデルのトレーニングと評価を実施している。

Figure 1: Overview of ensemble architecture. The ensemble is constructed using two methods: initial condition perturbations and model perturbations. The initial condition perturbations are generated using bred vectors, to sample the fastest growing errors in the initial condition. Model perturbation

実験結果

リサーチクエスチョン

• RQ1 球面フーリエニューラルオペレータ（SFNO）に基づく機械学習モデルは、計算的に現実的で、動的安定性を保ったまま、1,000～10,000メンバーの巨大気象アンサンブルを生成できるか？
• RQ2 ベッドベクトルと摂動パラメータをそれぞれ初期条件とモデルの不確実性を表すために用いる場合、MLアンサンブルはそれらを正確に表現できるか？
• RQ3 SFNOベースのアンサンブルのスペクトル特性は、IFSおよびERA5再解析と比較して、特に時間経過に伴うパワースペクトルの変化に関して、どのように異なるか？
• RQ4 MLアンサンブルの極端な天候予報は、信頼性図および極端予報指数（EFI）によって測定した場合、信頼性があり識別可能であるか？
• RQ5 MLアンサンブルは、気候危険分布の長尾を効果的にサンプリングでき、低確率の高インパクト天候現象の表現を改善できるか？

主な発見

• MLアンサンブルの平均スペクトルは予報期間が長くなるにつれて劣化するが、物理的期待に一致しており、個々のアンサンブルメンバーのスペクトルは安定したまま維持される。これは、ロールアウト中における大気の動的挙動の現実的なシミュレーションを示している。
• SFNOベースのアンサンブルは補正された確率的予報を達成しており、信頼性図では、予測された95パーセンタイルの気温イベントが、48時間および96時間の予報リードタイムで観測頻度とよく一致している。
• MLアンサンブルの極端予報指数（EFI）値は、IFSと同等であり、モデルが極端な出来事象に対して同じ水準の予報スキルを保持していることを確認している。
• 20～30％の確率で95パーセンタイルの気温を予測する場合、実際の発生頻度は予測値よりもわずかに高い。これは、保守的ではあるが信頼性のある確率的予報であることを示している。
• 11億パラメータを有するトレーニング済みのSFNOモデルは、0.25度の水平分解能でIFSを成功裏に模倣し、運用システムと同等の決定論的予報性能を達成している。
• モデルトレーニング、アンサンブル推論、スコアリングを含む全パイプラインがオープンソース化されており、バージョン管理されたコードとモデル重みはZenodoおよびNERSCポータルから入手可能である。

Figure 2: Comparing different versions of SFNO. (a) The 850 hPa temperature spread-error ratios are compared for lagged ensembles. A lagged ensemble is created by initializing SFNO using nine adjacent time steps, and the spread-error is shown for each SFNO configurations. (b) Relative power spectra