[论文解读] FuXi-Extreme: Improving extreme rainfall and wind forecasts with diffusion model

Xiaohui Zhong, Lei Chen+4 more|arXiv (Cornell University)|Oct 25, 2023

Climate variability and models被引用 10

一句话总结

FuXi-Extreme 使用去噪扩散概率模型在 FuXi 的 5 天地表预报中恢复细尺度细节，相较于 FuXi 和 HRES 改善极端降雨和风预报。

ABSTRACT

Significant advancements in the development of machine learning (ML) models for weather forecasting have produced remarkable results. State-of-the-art ML-based weather forecast models, such as FuXi, have demonstrated superior statistical forecast performance in comparison to the high-resolution forecasts (HRES) of the European Centre for Medium-Range Weather Forecasts (ECMWF). However, ML models face a common challenge: as forecast lead times increase, they tend to generate increasingly smooth predictions, leading to an underestimation of the intensity of extreme weather events. To address this challenge, we developed the FuXi-Extreme model, which employs a denoising diffusion probabilistic model (DDPM) to restore finer-scale details in the surface forecast data generated by the FuXi model in 5-day forecasts. An evaluation of extreme total precipitation ($ extrm{TP}$), 10-meter wind speed ($ extrm{WS10}$), and 2-meter temperature ($ extrm{T2M}$) illustrates the superior performance of FuXi-Extreme over both FuXi and HRES. Moreover, when evaluating tropical cyclone (TC) forecasts based on International Best Track Archive for Climate Stewardship (IBTrACS) dataset, both FuXi and FuXi-Extreme shows superior performance in TC track forecasts compared to HRES, but they show inferior performance in TC intensity forecasts in comparison to HRES.

研究动机与目标

• 在气候变化背景下激励改进的极端事件预报，因为机器学习模型往往过平滑预测。
• 通过将 FuXi 与去噪扩散概率模型（DDPM）耦合来开发 FuXi-Extreme，以恢复细尺度地表特征。
• 以 ERA5 为基准评估极端降水、风速和温度，并对比 IBTrACS 的热带气旋预报基准。
• 在 FuXi、FuXi-Extreme 和 HRES 之间评估热带气旋轨迹和强度预报的权衡。
• 识别局限性并提出将 FuXi-Extreme 扩展到高层大气变量和更高分辨率数据的方向。

提出的方法

• FuXi-Extreme 将一个冻结的 FuXi 基础模型与一个将 FuXi 输出去噪以恢复细尺度极值的 DDPM 结合在一起。
• DDPM 条件于 FuXi 的时间步，通过使用均方误差（MSE）损失直接预测原始目标值。
• 前向扩 diffusion 向地表变量的真实值添加高斯噪声；反向过程学习在 FuXi 预测条件下去噪。
• 训练仅更新 DDPM 参数，并保持 FuXi 固定，在多GPU硬件上使用带计划 DropPath 的 AdamW。
• 评估使用 CSI 和 SEDI 指标来衡量极端事件，以及将热带气旋轨迹/强度与 IBTrACS 和 ERA5 真值对比。

实验结果

研究问题

• RQ1 基于扩散的去噪器（DDPM）是否能在 FuXi 生成的地表预报中提升5天极值的精度？
• RQ2 在预测极端 TP、WS10 和 T2M 方面，FuXi-Extreme 与 FuXi 和 ECMWF HRES 相比表现如何？
• RQ3 相对于 HRES 和 FuXi，FuXi-Extreme 对热带气旋轨迹和强度预报的影响如何？
• RQ4 基于 ERA5 真值和 IBTrACS 轨迹的评估是否对轨迹和强度的模型能力得出一致的结论？

主要发现

• 与 FuXi 和 HRES 相比，FuXi-Extreme 在5日预报的极端 WS10 和 TP 上达到最高的 CSI 分数。
• SEDI 分析显示 FuXi-Extreme 在 T2M、TP 和 WS10 的更高百分位处优于 FuXi 和 HRES。
• 在 TC 轨迹方面，FuXi 和 FuXi-Extreme 在0-2天预报中优于 HRES，且在更长的预报时效中仍领先于轨迹预测。
• 在 TC 强度方面，基于 IBTrACS 的评估中 HRES 提供最佳 RMSE，而 FuXi 与 FuXi-Extreme 相对于 ERA5 真值显示出改进的 RMSE。
• FuXi-Extreme 的改进在地表极端变量上最为突出，而高层大气变量在预测中仍与 FuXi 共享。