[论文解读] FourCastNet: A Global Data-driven High-resolution Weather Model using Adaptive Fourier Neural Operators

Jaideep Pathak, Shashank Subramanian+11 more|arXiv (Cornell University)|Feb 22, 2022

Meteorological Phenomena and Simulations被引用 441

一句话总结

FourCastNet 是一个全球数据驱动的天气模型，分辨率为 0.25°，在大尺度的短时预报上与 ECMWF IFS 相当，在小尺度变量上优于 IFS，同时实现超快速的大规模集合预测。

ABSTRACT

FourCastNet, short for Fourier Forecasting Neural Network, is a global data-driven weather forecasting model that provides accurate short to medium-range global predictions at $0.25^{\circ}$ resolution. FourCastNet accurately forecasts high-resolution, fast-timescale variables such as the surface wind speed, precipitation, and atmospheric water vapor. It has important implications for planning wind energy resources, predicting extreme weather events such as tropical cyclones, extra-tropical cyclones, and atmospheric rivers. FourCastNet matches the forecasting accuracy of the ECMWF Integrated Forecasting System (IFS), a state-of-the-art Numerical Weather Prediction (NWP) model, at short lead times for large-scale variables, while outperforming IFS for variables with complex fine-scale structure, including precipitation. FourCastNet generates a week-long forecast in less than 2 seconds, orders of magnitude faster than IFS. The speed of FourCastNet enables the creation of rapid and inexpensive large-ensemble forecasts with thousands of ensemble-members for improving probabilistic forecasting. We discuss how data-driven deep learning models such as FourCastNet are a valuable addition to the meteorology toolkit to aid and augment NWP models.

研究动机与目标

• 开发一个分辨率为 0.25° 的高分辨率、数据驱动的全球天气预报模型。
• 在短时预报期内，以可与最先进数值天气预报（NWP）媲美的精度预报关键变量（地表风、降水）。
• 展示生成极快预报以支持大规模集合预报的能力。
• 将模型与 ECMWF IFS 进行对比评估，并分析其在小尺度特征和极端事件上的性能。
• 提出一个混合深度学习工具包，以补充传统 NWP 方法用于概率预报。

提出的方法

• 使用带有视觉变换器骨干网络的自适应傅里叶神经算子（AFNO），实现 0.25°网格上的分辨率不变学习。
• 在 721×1440 网格上表示 20 个大气预报变量，并训练将 X(k) 映射到 X(k+1)，先进行预训练阶段再进行微调（两步）。
• 引入一个基于 AFNO 的独立诊断模型，从主干输出预测总降水量（TP），对数变换以处理稀疏性。
• 在 ERA5 再分析数据上进行训练（训练使用 1979–2015，验证 2016–2017，测试 2018 及以后），时间间隔为 6 小时。
• 进行多步自回归推理以产生一周预报；并对 2018 年的 TIGGE IFS 预报进行评估。
• 端到端训练在 64 个 Nvidia A100 GPU 上运行（约 16 小时）。
• 能源效率：训练能量大致等同于 50 个集合的 IFS 预测 10 天的能量；推断能耗比 IFS 低约 12,000 倍。

实验结果

研究问题

• RQ1 一个高分辨率（0.25°）数据驱动模型能否在短时预报期内全球范围内对近地面风和降水进行预测，且精度可与最先进的数值天气预报（NWP）相媲美或更好？
• RQ2 基于傅里叶神经算子并带 ViT 骨干的模型在高分辨率下捕捉小尺度特征和极端事件（如热带气旋）的能力有多大？
• RQ3 相对于传统 NWP 模型，FourCastNet 在短到中期预报方面的速度和能效表现如何？
• RQ4 与传统集合相比，FourCastNet 的大规模集合是否能改善概率预报和极端事件预测？
• RQ5 考虑到降水的稀疏、参数化性质，是否可以使用独立的基于 AFNO 的模型结合骨干输出来有效诊断降水？

主要发现

• FourCastNet 在许多变量上可实现约三天的准确预报，在大尺度上性能接近 IFS，在像降水这样的小尺度特征上超越 IFS。
• 该模型在不到 2 秒内提供一周预报，并在低成本下实现极大规模集合（如 1000 个成员）。
• 分辨率比先前的基于 DL 的全球天气模型高出八倍，使热带气旋和大气河流等特征的表达更好。
• FourCastNet 在短时预报中的 RMSE 和异常相关性（ACC）与 IFS 相当；三天后，性能出现分歧但对许多变量仍具竞争力。
• 对迈克尔飓风的 100 成员集合示例展示了 FourCastNet 快速基于集合的飓风预报潜力。