[論文レビュー] AIFS -- ECMWF's data-driven forecasting system

Simon Lang, Mihai Alexe+14 more|arXiv (Cornell University)|Jun 3, 2024

Forecasting Techniques and Applications被引用数 63

ひとこと要約

AIFS は ECMWF のデータ駆動型気象予報システムで、グラフニューラルネットワークの encoder-decoder とスライディングウィンドウ型トランスフォーマー処理系を用い、ERA5 と ECMWF の解析データで訓練されている。物理ベースの NWP モデルと一日四回並行して動作し、上空・地表・熱帯低気圧予報の予報スキルは IFS と ERA5 に対して競争力を示す。

ABSTRACT

Machine learning-based weather forecasting models have quickly emerged as a promising methodology for accurate medium-range global weather forecasting. Here, we introduce the Artificial Intelligence Forecasting System (AIFS), a data driven forecast model developed by the European Centre for Medium-Range Weather Forecasts (ECMWF). AIFS is based on a graph neural network (GNN) encoder and decoder, and a sliding window transformer processor, and is trained on ECMWF's ERA5 re-analysis and ECMWF's operational numerical weather prediction (NWP) analyses. It has a flexible and modular design and supports several levels of parallelism to enable training on high-resolution input data. AIFS forecast skill is assessed by comparing its forecasts to NWP analyses and direct observational data. We show that AIFS produces highly skilled forecasts for upper-air variables, surface weather parameters and tropical cyclone tracks. AIFS is run four times daily alongside ECMWF's physics-based NWP model and forecasts are available to the public under ECMWF's open data policy.

研究の動機と目的

• 物理ベースの NWP の代替または補完として、データ駆動の運用気象予報システムの開発を促進する。
• ERA5 や他のデータソース、グラフニューラルネットワーク、トランスフォーマーを用いた処理を含む、AIFS のアーキテクチャと訓練体制を説明する。
• 上空・地表変数および熱帯低気圧について、ECMWF IFS 解析と ERA5 観測と比較した AIFS の予報スキルを評価する。
• 高解像度データ処理と潜在的な確率的アンサンブル能力を可能にするスケーラビリティと並列性を実証する。

提案手法

• ERA5 入力をカットオフ半径を介してプロセッサグリッドにマップし、潜在状態を再び ERA5 グリッドへ射影するエンコーダ-プロセッサ-デコーダ設計。
• エンコーダ/デコーダ用のマルチヘッド・グラフトランスフォーマ畳み込みを備えた GNN ブロックと、プロセッサ用のシフトウィンドウ・アテンションを持つプレノルム・トランスフォーマ。
• 約1°解像度の八面体縮退ガウスグリッド（N320）を基盤とするプロセッサグリッド。各ノードとエッジに8つの学習可能特徴量を追加。
• 高解像度データでの訓練と混合精度訓練を可能とするアクティベーションチェックポイントとシーケンス/テンソル並列性。
• 自己回帰ロールアウトを伴うエンドツーエンド訓練、ERA5 での事前訓練、ロールアウト訓練、運用的 IFS 解析へのファインチューニング。損失は変数別スケーリングを伴う面積加重 MSE。

実験結果

リサーチクエスチョン

• RQ1 リードタイム最大10日間にわたる AIFS のデータ駆動予報品質は、ECMWF の IFS 解析および ERA5 観測とどう比較されるか？
• RQ2 スケーラブルで高解像度のデータ駆動予報を可能にするアーキテクチャ上の選択肢（GNN のエンコーダ/デコーダ、トランスフォーマー処理、縮退ガウスグリッド）は何か。
• RQ3 データ並列およびテンソル並列訓練体制は、運用類似の作業フロー内で大規模アンサンブルと確率的予測を支援できるか。
• RQ4 上空場と地表場および熱帯低気象追跡における AIFS の長所と限界は何か。
• RQ5 予報精度をさらに高める可能性のある改善点（損失スケーリング、ファインチューニング戦略、確率的目的関数）は何か。

主な発見

• AIFS は上空・地表変数および熱帯低気象のトラッキングに高精度な予報を提供し、いくつかの指標で IFS より競争力のある ACC の改善を示す。
• 長いリードタイムで IFS に対する予報スキルの優位性が観測され、解析および音響温度観測に対して100 hPa程度までの対流圏予報で substantial improvements が見られる。
• 地表予報（例：2 m 温度、10 m風）は、解析や観測と比較した場合 IFS より一貫した改善を示す。
• AIFS はリードタイムが長くなると予報場を平滑化する傾向があり、訓練時に使用される面積加重 MSE 損失と関連する。これを緩和するため確率的目的関数を検討中。
• GraphCast と比較すると、AIFS は概ね同程度の性能を示すが、時期や訓練/ファインチューニング手法に依存して差が生じる。
• 熱帯低気象のトラック予報は IFS よりも AIFS の方が顕著に良く、主に TC 導入速度の遅いバイアスが軽減されたためだが、TC 強度は IFS に比べて過小評価されることもある。