[论文解读] FuXi Weather: A data-to-forecast machine learning system for global weather

Xiuyu Sun, Xiaohui Zhong+9 more|arXiv (Cornell University)|Aug 10, 2024

Meteorological Phenomena and SimulationsEarth and Planetary Sciences被引用 3

一句话总结

FuXi Weather 是一个端到端的机器学习系统，通过专用的数据同化模型（FuXi-DA）整合多源卫星数据（包括微波探测仪和无线电掩星）来生成分辨率为 0.25° 的 10 天全球天气预报。其预报技巧比 ECMWF HRES 延长 0.25 天，对 500 hPa 地面位势高度的可预报性达到 9.5 天，同时具备高计算效率和在观测稀疏条件下的鲁棒性。

ABSTRACT

Weather forecasting traditionally relies on numerical weather prediction (NWP) systems that integrates global observational systems, data assimilation (DA), and forecasting models. Despite steady improvements in forecast accuracy over recent decades, further advances are increasingly constrained by high computational costs, the underutilization of vast observational datasets, and the challenges of obtaining finer resolution. These limitations, alongside the uneven distribution of observational networks, result in global disparities in forecast accuracy, leaving some regions vulnerable to extreme weather. Recent advances in machine learning present a promising alternative, providing more efficient and accurate forecasts using the same initial conditions as NWP. However, current machine learning models still depend on the initial conditions generated by NWP systems, which require extensive computational resources and expertise. Here we introduce FuXi Weather, a machine learning weather forecasting system that assimilates data from multiple satellites. Operating on a 6-hourly DA and forecast cycle, FuXi Weather generates reliable and accurate 10-day global weather forecasts at a spatial resolution of $0.25^\circ$. FuXi Weather is the first system to achieve all-grid, all-surface, all-channel, and all-sky DA and forecasting, extending skillful forecast lead times beyond those of the European Centre for Medium-range Weather Forecasts (ECMWF) high-resolution forecasts (HRES) while using significantly fewer observations. FuXi Weather consistently outperforms ECMWF HRES in observation-sparse regions, such as central Africa, demonstrating its potential to improve forecasts where observational infrastructure is limited.

研究动机与目标

• 开发一种可扩展的、端到端的机器学习系统，用于全球天气预报，以减少对计算成本高昂的数值模型的依赖。
• 通过新型数据同化框架，在全云条件下整合多样化卫星观测，提升预报技巧并延长预报时效。
• 证明基于机器学习的数据同化与预报方法在精度和效率上可超越传统 NWP 系统，尤其在观测数据有限的情况下。
• 通过统一的基于学习的流程，实现在极低计算开销下、最高达 10 天的高分辨率确定性预报。

提出的方法

• FuXi-DA 采用多模态、基于注意力机制的神经网络，融合三颗极轨卫星（微波探测仪）和全球导航卫星系统（GNSS）无线电掩星的数据，实现在全云条件下的观测处理。
• 系统采用每 6 小时一次的数据同化与预报循环，FuXi-DA 的分析场作为 FuXi 预报模型的初始条件。
• 采用基于重放的再训练策略，以维持模型随时间的性能，缓解观测数据分布漂移的影响。
• FuXi 预报模型通过自回归训练范式与课程学习进行微调，逐步将预报步长从 2 步增加到 12 步，每步更新 500 次。
• 模型在四块 A100 GPU 上以恒定学习率 1×10⁻⁷ 训练，约 24 小时内实现收敛。
• 评估采用均方根误差（RMSE）和异常相关系数（ACC），并以 ERA5 再分析数据作为初始化和验证的基准。

Figure 1 : Comparison of analysis fields and background forecasts over a one-year testing period, spanning from July 1, 2023, to June 30, 2024. The time series of the globally-averaged latitude-weighted root mean square error (RMSE) for analysis fields generated by FuXi-DA with (red) and without (bl

实验结果

研究问题

• RQ1 基于机器学习的数据同化系统能否有效整合多源、全云条件下的卫星观测，以生成准确的大气初始状态？
• RQ2 纯机器学习驱动的预报系统在预报技巧和时效方面，能在多大程度上超越传统数值天气预报系统？
• RQ3 先前模型提供的背景预报对数据同化模块的性能有何影响？
• RQ4 排除任一卫星仪器会对系统的全球分析与预报精度产生何种影响？
• RQ5 系统是否能在无需持续再训练的情况下长期保持高性能，还是周期性再训练对鲁棒性至关重要？

主要发现

• FuXi Weather 对 500 hPa 地面位势高度的预报技巧达到 9.5 天，比 ECMWF HRES 的可预报性延长 0.25 天（从 9.25 天提升至 9.5 天）。
• 系统在均方根误差（RMSE）和异常相关系数（ACC）方面，相较于 ECMWF HRES 在多个关键大气变量上表现出更优性能。
• 基于重放的再训练显著提升了模型鲁棒性，将未再训练情况下 2024 年 1 月至 4 月间 FuXi-DA 性能下降 15% 的趋势逆转。
• 排除任一卫星仪器均导致分析与预报精度的可测量下降，其中微波探测仪的影响最为显著。
• FuXi-DA 模型生成的分析场质量足够高，可作为预报模型的可靠初始条件，即使其绝对精度低于 ERA5。
• 整个系统运行高效，数据同化训练部分仅需 8 小时完成 4,000 次梯度下降更新，而完整预报模型微调仅耗时 24 小时，均在四块 A100 GPU 上完成。

Figure 2 : Comparison of forecast performance among various models over a one-year testing period, spanning from July 10, 2023, to June 30, 2024. The figure presents the globally-averaged latitude-weighted root mean square error (RMSE) for forecasts generated by the FuXi model and ECMWF HRES (blue)