[論文レビュー] FengWu-GHR: Learning the Kilometer-scale Medium-range Global Weather Forecasting

Tao Han, Song Guo+8 more|arXiv (Cornell University)|Jan 28, 2024

Computational Physics and Python Applications被引用数 7

ひとこと要約

FengWu-GHR は、低解像度の pretrained モデルから知識を継承し、転移学習、SIME 外挿、RES モジュール、および長距離予測のための LoRA を使用する、0.09° 解像度（約 9 km）のデータ駆動型グローバル天気予報モデルとして初めて実現する。

ABSTRACT

Kilometer-scale modeling of global atmosphere dynamics enables fine-grained weather forecasting and decreases the risk of disastrous weather and climate activity. Therefore, building a kilometer-scale global forecast model is a persistent pursuit in the meteorology domain. Active international efforts have been made in past decades to improve the spatial resolution of numerical weather models. Nonetheless, developing the higher resolution numerical model remains a long-standing challenge due to the substantial consumption of computational resources. Recent advances in data-driven global weather forecasting models utilize reanalysis data for model training and have demonstrated comparable or even higher forecasting skills than numerical models. However, they are all limited by the resolution of reanalysis data and incapable of generating higher-resolution forecasts. This work presents FengWu-GHR, the first data-driven global weather forecasting model running at the 0.09$^{\circ}$ horizontal resolution. FengWu-GHR introduces a novel approach that opens the door for operating ML-based high-resolution forecasts by inheriting prior knowledge from a pretrained low-resolution model. The hindcast of weather prediction in 2022 indicates that FengWu-GHR is superior to the IFS-HRES. Furthermore, evaluations on station observations and case studies of extreme events support the competitive operational forecasting skill of FengWu-GHR at the high resolution.

研究の動機と目的

• 高解像度グローバル天気予報を動機づけ、ML系モデルと細かなスケールの運用的 NWP とのギャップを埋める。
• 0.09° 解像度のデータ駆動型グローバル予測モデルを開発し、IFS-HRES に競合するスキルを示す。
• 事前学習済みの低解像度知識を高解像度予測に活用できるスケーラブルなメタモデルを提案。
• LR の pretrained モデルを HR 入力へ外挿し、細かな現象を捉える手法を導入。
• ステップごとの微調整と低ランク適応により、長期予報の安定性を高める。

提案手法

• 2D パッチ埋め込み、スタック型トランスフォーマーブロック、デコンボリューション層を用いてワンステップ先の未来状態を予測する、Transformer ベースのメタモデルを使用。
• Spatial Identical Mapping Extrapolate (SIME) を用いて、HR 初期場を複数の LR 初期場へ写像し、LR 訓練モデルの複雑さを軽減する。
• Decompositional and Combinational Transfer Learning (DCTL) と Regional Enhanced Simulation (RES) モジュールを組み込み、小スケール現象を捉える。
• Long-rollouts 中に各予測ステップを独立して微調整するために Low-Rank Adaptation (LoRA) を適用し、事前学習済みパラメータは固定のままにする。
• LR（例：0.25°）の ERA5 再分析で事前学習し、公式の高解像度運用解析データ（〜9 km）と評価。

実験結果

リサーチクエスチョン

• RQ1 低解像度で訓練されたデータ駆動モデルを、スキルを維持したままkm級の解像度へ外挿できるか。
• RQ2 転移学習と RES モジュールは高解像度での小尺度天候現象の捉え方を改善するか。
• RQ3 ステップごとの LoRA 微調整は長距離予報（6時間先行）での誤差蓄積を緩和するか。
• RQ4 FengWu-GHR は高解像度において RMSE・ACC・バイアス・活動性で IFS-HRES および Pangu-weather とどう比較されるか。
• RQ5 数日先の極端イベント（熱波、冬の嵐）をモデルは安定して予測できるか。

主な発見

• FengWu-GHR は IFS-HRES と比較して 6–10 日先の多くのターゲットで RMSE と ACC が優位を示す。
• z500 の RMSE は 5 日先から 10 日先で約 11.5%–21.7% の改善；850 hPa 温度の RMSE は 10 日で 3.76 から 2.86 へ低下。
• FengWu-GHR は多くの変数でバイアスの漂移が抑制され、ベースラインより活動性が低いことを示す。
• 站点ベースの評価（2022 年の 18150 駅）では、長期先の予測で IFS-HRES および Pangu-weather よりも表層温度予測がより正確である。
• 極端イベント：FengWu-GHR は熱波と冬の嵐の進展をより早く、より正確に捉える。
• IFS-HRES と比較して、世界平均温度の軌道誤差を約 18.0%–22.3%（1 週間先）低減。