[論文レビュー] Improving medium-range ensemble weather forecasts with hierarchical ensemble transformers

Zied Ben-Bouallegue, Jonathan A. Weyn+4 more|arXiv (Cornell University)|Mar 30, 2023

Meteorological Phenomena and Simulations被引用数 9

ひとこと要約

PoETは階層型トランスフォーマーを用いてアンサンブル予報を後処理し、各メンバーを較正します。これにより全球で2m気温スキルを最大で約20%、降水量を約2%改善し、MBMベンチマークを上回り、モデルサイクルやデータセットを横断した強い一般化能力を示します。

ABSTRACT

Statistical post-processing of global ensemble weather forecasts is revisited by leveraging recent developments in machine learning. Verification of past forecasts is exploited to learn systematic deficiencies of numerical weather predictions in order to boost post-processed forecast performance. Here, we introduce PoET, a post-processing approach based on hierarchical transformers. PoET has 2 major characteristics: 1) the post-processing is applied directly to the ensemble members rather than to a predictive distribution or a functional of it, and 2) the method is ensemble-size agnostic in the sense that the number of ensemble members in training and inference mode can differ. The PoET output is a set of calibrated members that has the same size as the original ensemble but with improved reliability. Performance assessments show that PoET can bring up to 20% improvement in skill globally for 2m temperature and 2% for precipitation forecasts and outperforms the simpler statistical member-by-member method, used here as a competitive benchmark. PoET is also applied to the ENS10 benchmark dataset for ensemble post-processing and provides better results when compared to other deep learning solutions that are evaluated for most parameters. Furthermore, because each ensemble member is calibrated separately, downstream applications should directly benefit from the improvement made on the ensemble forecast with post-processing.

研究の動機と目的

• 統計的後処理を促進し、NWPアンサンブルの系統的予報誤差を是正する。
• アンサンブルメンバー上で直接動作するトランスフォーマーベースの後処理手法を開発する。
• 手法がアンサンブルサイズに依存せず、異なる空間分解にもスケーラブルであることを保証する。
• PoETをMBMおよびENS-10と比較し、変数間の相対的性能を評価する。

提案手法

• 階層型トランスフォーマーに基づくポストプロセシング手法PoETを導入する。
• アンサンブル次元に沿ってトランスフォーマーを適用し、各アンサンブルメンバーを再較正する。
• メモリ管理と高解像度全球グリッドのサポートのためにPoETをU-netアーキテクチャに埋め込む。
• 層正規化を伴う残差トランスフォーマーブロックを用いて予報誤差を補正する。
• Lead timeが最大96時間のECMWF再予報とERA5再分析で訓練し、2021年の運用データで検証する。
• PoETをMBMと比較し、2m気温と降水での性能を評価する。降水には損失関数としてkCRPSを適用する。

Figure 1: Schematic of the transformer U-net architecture of PoET. The inset on the lower right is adapted from Finn ( 2021 ) , used with permission.

実験結果

リサーチクエスチョン

• RQ1 PoETは rawアンサンブルと比較して全球の2m気温および降水予報の信頼性とスキルを意味のある程度改善できるか。
• RQ2 PoETはリードタイムが最大96時間までMBM統計後処理手法とどのように比較されるか。
• RQ3 PoETはアンサンブルサイズに依存しないのか。訓練と推論のアンサンブルサイズが異なる場合でも性能を維持できるか。
• RQ4 PoETは異なるモデルサイクル間で一般化し、ENS-10ベンチマークデータセットにも適用可能か。
• RQ5 PoETの空間パターンとしての改善分布と地域的な劣化はどうなるか。

主な発見

• PoETは2m気温で最大約20%、降水で約2%の全球的スキル向上を、rawアンサンブルに対して実現する。
• PoETはリードタイムと地域を問わず、2m気温で一般にMBMよりも優れている。
• ENS-10ではPoETが従来のベースラインを顕著に上回り、特に2m気温で改善を示す。
• 降水量では改善幅が小さく、地域によってばらつくが、熱帯域での性能は向上。
• 訓練時と推論時で異なるアンサンブルサイズで動作可能で、アンサンブルサイズの適応性を確認。
• PoETは各アンサンブルメンバーを個別に較正することでERA5とより良く整合し、下流アプリケーションを支援する。

Figure 2: Relative changes by PoET to a single date of the 2m temperature forecast at day 2, valid on 6 January 2021. The left column shows the first 3 raw ensemble members. The first row shows the first 3 PoET-corrected ensemble members. Other entries show the differences between raw and PoET-corre