[论文解读] SwinRDM: Integrate SwinRNN with Diffusion Model Towards High-Resolution and High-Quality Weather Forecasting

Lei Chen, Du Fei+3 more|arXiv (Cornell University)|Jan 11, 2023

Cryospheric studies and observations被引用 10

一句话总结

SwinRDM 提出了一种数据驱动的天气预报模型，结合改进的 SwinRNN+ 与基于条件扩散的超分辨率模型，实现了 0.25° 高分辨率和高质量的中长期预报。在 5 天预报时效下，其在关键大气变量（Z500、T850、T2M、TP）上的表现优于业务运行的 IFS 模型，成为高分辨率下数据驱动模型的新 SOTA。

ABSTRACT

Data-driven medium-range weather forecasting has attracted much attention in recent years. However, the forecasting accuracy at high resolution is unsatisfactory currently. Pursuing high-resolution and high-quality weather forecasting, we develop a data-driven model SwinRDM which integrates an improved version of SwinRNN with a diffusion model. SwinRDM performs predictions at $0.25^\circ$ resolution and achieves superior forecasting accuracy to IFS (Integrated Forecast System), the state-of-the-art operational NWP model, on representative atmospheric variables including 500 hPa geopotential (Z500), 850 hPa temperature (T850), 2-m temperature (T2M), and total precipitation (TP), at lead times of up to 5 days. We propose to leverage a two-step strategy to achieve high-resolution predictions at $0.25^\circ$ considering the trade-off between computation memory and forecasting accuracy. Recurrent predictions for future atmospheric fields are firstly performed at $1.40625^\circ$ resolution, and then a diffusion-based super-resolution model is leveraged to recover the high spatial resolution and finer-scale atmospheric details. SwinRDM pushes forward the performance and potential of data-driven models for a large margin towards operational applications.

研究动机与目标

• 填补高分辨率数据驱动天气预报的空白，特别是在当前模型表现欠佳的 0.25° 分辨率下。
• 通过增强特征表示与特征聚合，改进 SwinRNN 架构，以提升低分辨率预报的准确性。
• 开发一种计算高效的两阶段框架，利用扩散模型实现超分辨率，以获得高质量、细粒度的大气细节。
• 在 0.25° 分辨率下实现中长期全球天气预报的 SOTA 性能，超越业务运行的 NWP 模型（如 IFS）。
• 通过高分辨率输出捕捉小尺度动力过程，实现对台风等极端天气事件的准确预测。

提出的方法

• 提出 SwinRNN+，作为 SwinRNN 的改进版本，通过将多尺度设计替换为单尺度架构，并增加特征聚合层，以增强特征表示能力。
• 在 1.40625° 分辨率的 ERA5 数据上训练 SwinRNN+，生成包括 Z500、T850、T2M 和 TP 在内的大气变量初始低分辨率预报。
• 应用基于 U-Net 的条件扩散模型，通过迭代去噪高斯噪声并以 SwinRNN+ 输出为条件，将低分辨率预测提升至 0.25° 分辨率输出。
• 采用 U-Net 架构并引入噪声条件，执行迭代去噪，生成具有细粒度大气细节的逼真高分辨率预报。
• 通过在扩散过程中采样多个噪声向量实现集合预报，支持不确定性估计并提升模型鲁棒性。
• 采用两步策略在计算成本与预报精度之间取得平衡，避免因内存需求过高而直接在 0.25° 数据上进行训练。

实验结果

研究问题

• RQ1 改进后的 SwinRNN 架构是否能在 1.40625° 分辨率下实现优于业务运行 IFS 模型的预报精度？
• RQ2 基于扩散的超分辨率模型是否能有效从低分辨率预测中恢复细粒度大气细节，而无需直接在高分辨率数据上进行训练？
• RQ3 两阶段框架（低分辨率预报 + 基于扩散的超分辨率）是否能在 0.25° 分辨率下实现 SOTA 性能，同时保持计算可行性？
• RQ4 该模型在预报台风等极端天气现象方面表现如何，特别是在空间细节与路径追踪精度方面？
• RQ5 与双线性插值或 SwinIR 等传统方法相比，基于扩散的超分辨率在感知质量与定量指标（如 FID、CSI）方面提升程度如何？

主要发现

• SwinRNN+ 在 1.40625° 分辨率下，所有关键大气变量（Z500、T850、T2M、TP）的预报性能均优于 IFS 模型，且在长达 5 天的预报时效内表现优异，Z500 和 T850 的 RMSE 分别为 1.15 和 1.76。
• SwinRDM*（10 人集合）在 5 天预报时效下，Z500、T850、T2M 和 TP 的 RMSE 分别较 IFS 降低 21、0.27、0.34 和 0.53 个单位。
• 基于扩散的超分辨率模型在所有预报时效下均保持较低的 FID 分数（5 天时为 1.87/2.06），表明其具有高感知质量并能稳定生成细粒度特征。
• SwinRDM 在降水关键成功指数（CSI）上优于 SwinIR 与双线性插值，CSI2、CSI5 和 CSI10 分别提升 6%、11% 和 10%，并在高阈值（20mm、50mm）下取得可行结果。
• 定性结果表明，SwinRDM* 在 5 天预报时效下成功预报并准确追踪了超强台风“山竹”（Super Typhoon Mangkhut），展现出高精度与丰富的细粒度特征。
• 该模型在高分辨率下对复杂大气动力过程（包括极端天气系统）表现出强大的泛化能力与鲁棒性。