[論文レビュー] FuXi Weather: A data-to-forecast machine learning system for global weather

Xiuyu Sun, Xiaohui Zhong+9 more|arXiv (Cornell University)|Aug 10, 2024

Meteorological Phenomena and SimulationsEarth and Planetary Sciences被引用数 3

ひとこと要約

FuXi Weather は、微波放射計および電波ランダム透過測定を含む複数の衛星データを、特別に設計されたデータ同化モデル（FuXi-DA）を通じて統合するエンド・ツー・エンドの機械学習システムであり、0.25°解像度で10日間の全球的ウェザー予報を正確に生成する。ECMWF HRESを0.25日分予報期間を延長し、500 hPa高度の予測可能性を9.5日間まで向上させ、計算効率と観測が限られた状況下でも高い耐性を示す。

ABSTRACT

Weather forecasting traditionally relies on numerical weather prediction (NWP) systems that integrates global observational systems, data assimilation (DA), and forecasting models. Despite steady improvements in forecast accuracy over recent decades, further advances are increasingly constrained by high computational costs, the underutilization of vast observational datasets, and the challenges of obtaining finer resolution. These limitations, alongside the uneven distribution of observational networks, result in global disparities in forecast accuracy, leaving some regions vulnerable to extreme weather. Recent advances in machine learning present a promising alternative, providing more efficient and accurate forecasts using the same initial conditions as NWP. However, current machine learning models still depend on the initial conditions generated by NWP systems, which require extensive computational resources and expertise. Here we introduce FuXi Weather, a machine learning weather forecasting system that assimilates data from multiple satellites. Operating on a 6-hourly DA and forecast cycle, FuXi Weather generates reliable and accurate 10-day global weather forecasts at a spatial resolution of $0.25^\circ$. FuXi Weather is the first system to achieve all-grid, all-surface, all-channel, and all-sky DA and forecasting, extending skillful forecast lead times beyond those of the European Centre for Medium-range Weather Forecasts (ECMWF) high-resolution forecasts (HRES) while using significantly fewer observations. FuXi Weather consistently outperforms ECMWF HRES in observation-sparse regions, such as central Africa, demonstrating its potential to improve forecasts where observational infrastructure is limited.

研究の動機と目的

• 計算コストの高い数値モデルに依存しない、スケーラブルでエンド・ツー・エンドの機械学習システムを構築すること。
• 新規のデータ同化フレームワークを用いて、すべての空域状態下での多様な衛星観測データを統合し、予報精度を向上させ、予報期間を延長すること。
• 機械学習に基づくデータ同化と予報が、観測データが限られる状況でも、従来のNWPシステムを上回る精度と効率性を示すことを実証すること。
• 統一された学習ベースのパイプラインを用いて、最小限の計算オーバーヘッドで、最高解像度かつ長期間の決定論的予報（最大10日間）を可能にすること。

提案手法

• FuXi-DA は、3つの極軌道衛星（微波放射計）とGNSS電波ランダム透過測定のデータを統合するマルチモーダルでアテンションベースのニューラルネットワークを採用し、すべての空域状態下での観測処理を実現する。
• 6時間ごとのデータ同化と予報サイクルを採用し、FuXi-DA の解析場を FuXi 予報モデルの初期条件として使用する。
• 観測データの分布シフトを緩和するため、再プレイベースの再トレーニング戦略を適用する。
• FuXi 予報モデルは、カリキュラム学習を用いた自己回帰的トレーニング体制でファインチューニングされ、各ステップで予報ステップ数を2から12まで段階的に増加させる。
• 学習率を一定の 1×10⁻⁷ に保ち、4台のA100 GPUでトレーニングを実施し、約24時間で収束に到達する。
• 評価にはRMSEとアノマリー相関係数（ACC）を用い、初期化および検証のベンチマークとしてERA5再解析データを用いる。

Figure 1 : Comparison of analysis fields and background forecasts over a one-year testing period, spanning from July 1, 2023, to June 30, 2024. The time series of the globally-averaged latitude-weighted root mean square error (RMSE) for analysis fields generated by FuXi-DA with (red) and without (bl

実験結果

リサーチクエスチョン

• RQ1 機械学習ベースのデータ同化システムは、複数のソースのすべての空域状態下での衛星観測データを効果的に統合し、正確な大気初期状態を生成できるか？
• RQ2 完全に機械学習に基づく予報システムは、従来の数値気象予報システムに比べ、予報精度と予報期間においてどの程度優れているか？
• RQ3 事前のモデルからのバックグラウンド予報が、データ同化モジュールの性能にどのような影響を及えるか？
• RQ4 個々の衛星機器を除外した場合、システム全体の解析および予報精度にどのような影響が生じるか？
• RQ5 継続的な再トレーニングがなければ、システムは時間経過に伴っても高い性能を維持できるか、それとも定期的な再トレーニングが耐性を確保するために不可欠か？

主な発見

• FuXi Weather は、500 hPa高度の予報精度を9.5日間まで向上させ、ECMWF HRESの予報期間を0.25日分延長した（9.25日から9.5日へ）。
• 複数の主要な大気変数において、RMSE とアノマリー相関係数（ACC）の両面で、ECMWF HRESを上回る優れた性能を示した。
• 再プレイベースの再トレーニングはモデルの耐性を著しく向上させ、2024年1月から4月にかけて15％の性能低下が見られたが、再トレーニングを実施することでこれを是正した。
• 任意の衛星機器を除外すると、解析および予報精度に顕著な劣化が生じ、特に微波放射計の欠落が最も大きな影響を与えた。
• FuXi-DA モデルは、ERA5 よりも絶対的精度が劣るものの、十分な品質の解析場を生成し、予報モデルの初期条件として信頼できるものであることを示した。
• システム全体は効率的に動作し、DAトレーニングで4,000回の勾配降下更新に8時間、全予報モデルのファインチューニングに24時間で収束した（4台のA100 GPUで実行）。

Figure 2 : Comparison of forecast performance among various models over a one-year testing period, spanning from July 10, 2023, to June 30, 2024. The figure presents the globally-averaged latitude-weighted root mean square error (RMSE) for forecasts generated by the FuXi model and ECMWF HRES (blue)