[論文レビュー] ExtremeCast: Boosting Extreme Value Prediction for Global Weather Forecast

Wanghan Xu, Kang Chen+4 more|arXiv (Cornell University)|Feb 2, 2024

Computational Physics and Python Applications被引用数 7

ひとこと要約

ExtremeCastは Exloss を導入して極端気象をより正しく予測する非対称損失を開発し、さらに ExEnsemble という訓練不要のモジュールで極値を強化します。これにより、全体的な精度を維持しつつ、極値指標で最先端の性能を達成します。

ABSTRACT

Data-driven weather forecast based on machine learning (ML) has experienced rapid development and demonstrated superior performance in the global medium-range forecast compared to traditional physics-based dynamical models. However, most of these ML models struggle with accurately predicting extreme weather, which is related to training loss and the uncertainty of weather systems. Through mathematical analysis, we prove that the use of symmetric losses, such as the Mean Squared Error (MSE), leads to biased predictions and underestimation of extreme values. To address this issue, we introduce Exloss, a novel loss function that performs asymmetric optimization and highlights extreme values to obtain accurate extreme weather forecast. Beyond the evolution in training loss, we introduce a training-free extreme value enhancement module named ExBooster, which captures the uncertainty in prediction outcomes by employing multiple random samples, thereby increasing the hit rate of low-probability extreme events. Combined with an advanced global weather forecast model, extensive experiments show that our solution can achieve state-of-the-art performance in extreme weather prediction, while maintaining the overall forecast accuracy comparable to the top medium-range forecast models.

研究の動機と目的

• 極値理論の観点から、なぜMSEが極端値を過小評価するのか説明する。
• 極値予測のバイアスを是正する非対称損失であるExlossを開発する。
• 画素レベルで極値を増幅する訓練不要のモジュール ExEnsemble を導入する。
• 拡散ベースのディテール強化器を備えた全球気象予測フレームワークへExlossとExEnsembleを統合する。
• トップモデルに対して競争力のあるRMSEを維持しつつ、極値指標（RQE, SEDI）で優れた性能を示す。

提案手法

• Exlossを提案し、対称性に基づく関数S(·)を介してobj_Mをスケーリングすることで、極値の過小評価と過大評価の両方の期待損失を等しくする非対称スケーリング損失。
• 極値理論と最大値分布に基づく最尤推定を用いて、MSEに基づく極値の過小評価を理論的に正当化する。
• ExEnsembleを導入する。パラメータなし、訓練不要のモジュールで、ランクヒストグラムロジックとアンサンブル摂動を用いて画素値の分散を広げ、再訓練なしに極端な予測を高める。
• 2段階の訓練フレームワークを採用する。ステージ1：MSEを用いた1ステップの事前訓練、ステージ2：Exlossを用いた多ステップ微調整、ステージ3：Exlossによる拡散ベースのディテール強化、ステージ4：推論時の訓練不要のExEnsemble。
• ExtremeCastを、ERA5データ0.25°解像度で訓練された、決定論的M_dに条件付けられた拡散ベースの生成器M_gを持つ、FengWu風の中期全球予報アーキテクチャ上に構築する。
• 69の大気変数を用いたERA5ベースの全球予報を評価し、RQE、SEDIなどの極値指標とRMSEで、Pangu、GraphCast、FengWu、FuXi、FuXi-Extreme、ECMWF-IFSと比較する。

実験結果

リサーチクエスチョン

• RQ1 MSEベースの訓練は地球規模の天気予報において極値を系統的に過小評価するのか？
• RQ2 非対称損失（Exloss）はバイアスを是正し、全体の精度を損なうことなく極値予測を改善するのか？
• RQ3 訓練不要のモジュール（ExEnsemble）は訓練を変更せずに画素レベルで極値予測を有意に高められるか？
• RQ4 ExtremeCastはグローバルで高解像度(0.25°)の極値指標（RQE, SEDI）で、最先端のベースラインと比較してどう性能を示すか？
• RQ5 複数の大気変数において、極値精度と一般予測RMSEの間に頑健なトレードオフが存在するか？

主な発見

• Exlossは極値指標（RQE, SEDI）を改善し、MSEベースの訓練と比較して極値予測を安定化させる。
• ExtremeCastはトップMLおよび物理ベースモデルと比較して、全体的なRMSEを競争力のある水準に保ちつつ、極値指標で最先端の性能を達成する。
• ExEnsembleは訓練不要で画素値の分散を拡大することにより極値予測をさらに強化し、初期条件不確実性へのロバスト性を高める。
• Exlossを組み込んだ決定論的予測子(M_d)に拡散ベースの生成器(M_g)を追加すると、ERA5データのグローバル0.25°予測で極値予測が改善される。
• アブレーション解析により、Exlossが極値の改善に決定的であることが示され、拡散とExEnsembleは極端な気温や風速などの特定変数の改善に寄与する。
• 事例研究（台風と熱波）は、極端風速の表現が改善され、極端な温度値がより地表真値に近づくことを示す。