[论文解读] FengWu-GHR: Learning the Kilometer-scale Medium-range Global Weather Forecasting

Tao Han, Song Guo+8 more|arXiv (Cornell University)|Jan 28, 2024

Computational Physics and Python Applications被引用 7

一句话总结

FengWu-GHR 是首个基于数据驱动的全球天气预报模型，分辨率为 0.09°（约 9 公里），它继承自低分辨率的预训练模型的知识，并使用迁移学习、SIME 外推、RES 模块和 LoRA 进行长距离预报。

ABSTRACT

Kilometer-scale modeling of global atmosphere dynamics enables fine-grained weather forecasting and decreases the risk of disastrous weather and climate activity. Therefore, building a kilometer-scale global forecast model is a persistent pursuit in the meteorology domain. Active international efforts have been made in past decades to improve the spatial resolution of numerical weather models. Nonetheless, developing the higher resolution numerical model remains a long-standing challenge due to the substantial consumption of computational resources. Recent advances in data-driven global weather forecasting models utilize reanalysis data for model training and have demonstrated comparable or even higher forecasting skills than numerical models. However, they are all limited by the resolution of reanalysis data and incapable of generating higher-resolution forecasts. This work presents FengWu-GHR, the first data-driven global weather forecasting model running at the 0.09$^{\circ}$ horizontal resolution. FengWu-GHR introduces a novel approach that opens the door for operating ML-based high-resolution forecasts by inheriting prior knowledge from a pretrained low-resolution model. The hindcast of weather prediction in 2022 indicates that FengWu-GHR is superior to the IFS-HRES. Furthermore, evaluations on station observations and case studies of extreme events support the competitive operational forecasting skill of FengWu-GHR at the high resolution.

研究动机与目标

• 推动高分辨率全球天气预报并弥合基于机器学习的模型与在细尺度上的运营数值天气预报（NWP）之间的差距。
• 开发一个以 0.09° 分辨率的数据驱动全球预报模型，并展示与 IFS-HRES 相媲美的预测能力。
• 提出一个可扩展的元模型，能够利用预训练的低分辨率知识进行高分辨率预测。
• 引入将低分辨率预训练模型外推到高分辨率输入并捕捉小尺度现象的方法。
• 通过分步微调与低秩自适应来提升长期预测的稳定性。

提出的方法

• 使用基于 Transformer 的元模型，带有 2-D 补丁嵌入、堆叠的 Transformer 块，以及反卷积层来预测一步未来状态。
• 采用 Spatial Identical Mapping Extrapolate (SIME) 将高分辨率初始场映射到用于低分辨率训练模型的多个低分辨率初始场，降低复杂性。
• 结合 Decompositional and Combinational Transfer Learning (DCTL) 与 Regional Enhanced Simulation (RES) 模块以捕捉小尺度现象。
• 在长时间滚动预报中，对每一步预测独立进行低秩自适应（LoRA 微调），同时固定预训练参数。
• 在低分辨率（如 0.25°）的 ERA5 再分析上进行预训练，并与官方高分辨率运营分析（~9 km）数据进行评估。

实验结果

研究问题

• RQ1 一个在低分辨率训练的数据驱动模型能否外推到公里级分辨率且保持预测能力？
• RQ2 迁移学习与 RES 模块是否提升在高分辨率下对小尺度天气现象的捕捉？
• RQ3 分步 LoRA 微调是否减缓长程（6 小时预报）中的误差累积？
• RQ4 在高分辨率下，FengWu-GHR 在 RMSE、ACC、偏差与活动性方面与 IFS-HRES 和 Pangu-weather 相比如何？
• RQ5 模型能否在若干天的时效内可靠预测极端事件（热浪、冬季风暴）？

主要发现

• FengWu-GHR 在 6–10 天预报时对多数目标的 RMSE 和 ACC 优于 IFS-HRES。
• z500 的 RMSE 从 5 天到 10 天预报时提升约 11.5%–21.7%；10 天时 850 hPa 温度的 RMSE 从 3.76 降至 2.86。
• 与基线相比，FengWu-GHR 在许多变量上表现出偏移漂移减少和活动度下降。
• 基于站点的评估（2022 年共有 18150 个站点）表明 FengWu-GHR 的地表温度预报比 IFS-HRES 和 Pangu-weather 更精确，尤其在较长预报时效。
• 极端事件：FengWu-GHR 更好地捕捉热浪和冬季风暴的发展，预测更早且比基线更准确。
• 与 IFS-HRES 相比，FengWu-GHR 在一周预报时降低全球平均温度轨迹误差约 18.0%–22.3%。