[论文解读] Purely data-driven medium-range weather forecasting achieves comparable skill to physical models at similar resolution

Stephan Rasp, Nils Thuerey|arXiv (Cornell University)|Aug 19, 2020

Meteorological Phenomena and Simulations参考文献 13被引用 14

一句话总结

本研究证明，一个大规模、完全基于数据驱动的深度学习模型可在相似分辨率下实现与物理模型相当的中期天气预报能力。通过在气候模型输出上进行预训练，并在再分析数据上进行微调，该模型在未显式引入物理方程的情况下，学习到了符合物理规律的大气动力学。

ABSTRACT

Numerical weather prediction has traditionally been based on physical models of the atmosphere. Recently, however, the rise of deep learning has created increased interest in purely data-driven medium-range weather forecasting with first studies exploring the feasibility of such an approach. Here, we train a significantly larger model than in previous studies to predict geopotential, temperature and precipitation up to 5 days ahead and achieve comparable skill to a physical model run at similar horizontal resolution. Crucially, we pretrain our models on historical climate model output before fine-tuning them on the reanalysis data. We also analyze how the neural network creates its predictions and find that, with some exceptions, it is compatible with physical reasoning. Our results indicate that, given enough training data, data-driven models can compete with physical models. At the same time, there is likely not enough data to scale this approach to the resolutions of current operational models.

研究动机与目标

• 探究纯数据驱动模型是否可在相同分辨率下实现与物理模型相当的预报能力。
• 评估在再分析数据上微调前，基于气候模型输出进行预训练的影响。
• 评估神经网络中学习到的表征是否与物理大气动力学一致。
• 确定在分辨率和数据可用性方面，数据驱动预报的可扩展性极限。

提出的方法

• 在历史气候模型输出上端到端训练大规模深度学习模型以进行预训练。
• 在再分析数据上对模型进行微调，以提高其在真实大气条件下的预测精度。
• 仅使用历史大气场作为输入，预测未来最多5天的位势高度、温度和降水。
• 模型架构设计用于捕捉大尺度大气模式中的时空依赖关系。
• 通过可解释性分析和与已知大气动力学的对比，评估预测结果的物理一致性。
• 在相同水平分辨率下，将模型性能与物理模型进行基准对比。

实验结果

研究问题

• RQ1 纯数据驱动模型是否可在相同分辨率下实现与物理模型相当的预报能力？
• RQ2 在再分析数据上微调前，基于气候模型输出进行预训练是否能提升泛化能力和预测准确性？
• RQ3 神经网络的内部表征和预测机制是否与气象学中的物理推理相容？
• RQ4 在数据量和分辨率方面，哪些限制因素阻碍了数据驱动模型扩展至业务预报水平？

主要发现

• 数据驱动模型在相同水平分辨率下实现了与物理模型相当的预报能力。
• 与从随机初始化开始训练相比，基于气候模型输出进行预训练显著提升了模型性能。
• 该模型的预测机制与物理大气动力学高度兼容，尤其在大尺度环流模式方面表现突出。
• 尽管在中等分辨率下表现优异，但由于训练数据不足，该模型在当前业务物理模型所用分辨率下的性能无法进一步提升。
• 结果表明，当具备足够训练数据时，数据驱动模型可复现物理模型的性能。