[论文解读] Physics-inspired adaptions to low-parameter neural network weather forecasts systems

Sebastian Scher, Gabriele Messori|arXiv (Cornell University)|Aug 31, 2020

Meteorological Phenomena and Simulations被引用 6

一句话总结

该论文通过在Spherenet卷积中引入球面几何以及动力学中的半球对称性，对低参数卷积神经网络进行了物理启发式改进，用于天气预报。这些修改在1.4°分辨率的WeatherBench数据集上提升了预报技能，联合使用时表现最佳，表明即使参数有限，物理先验也能增强数据驱动模型的性能。

ABSTRACT

Recently, there has been a surge of research on data-driven weather forecasting systems, especially applications based on convolutional neural networks (CNNs). These are usually trained on atmospheric data represented on regular latitude-longitude grids, neglecting the curvature of the Earth. We assess the benefit of replacing the standard convolution operations with an adapted convolution operation which takes into account the geometry of the underlying data (Spherenet convolution), specifically near the poles. Additionally, we assess the effect of including the information that the two hemispheres of the Earth have "flipped" properties - for example cyclones circulating in opposite directions - into the structure of the network. Both approaches are examples of physics-informed machine learning. The methods are tested on the WeatherBench dataset, at a resolution of $\sim1.4^{\circ}$ which is higher than many previous studies on CNNs for weather forecasting. For most lead times up to day +10 for 500 hPa geopotential and 850 hPa temperature, we find that using Spherenet convolution or including hemisphere-specific information individually lead to improvement in forecast skill. Combining the two methods typically gives the highest forecast skill. Our version of Spherenet is implemented flexibly and scales well to high resolution datasets, but is still significantly more expensive than a standard convolution operation. Finally, we analyze cases with high forecast error. These occur mainly in winter, and are relatively consistent across different training realizations of the networks, pointing to flow-dependent atmospheric predictability.

研究动机与目标

• 通过嵌入地球球面几何与半球动力学的物理约束，提升低参数神经网络天气预报的预报技能。
• 检验基于物理启发的网络架构修改是否能在不增加模型复杂度的前提下提升预报精度。
• 评估球面卷积与半球对称性在中长期（最多至第+10天）500 hPa位势高度和850 hPa温度预报中的单独与联合影响。
• 为计算资源有限的研究人员提供一种计算可行、具备物理感知能力的替代方案，以替代大规模Transformer或GNN模型。

提出的方法

• 使用基于球面谐波的卷积操作，将标准2D卷积替换为考虑地球球面几何（尤其在极区附近）的Spherenet卷积。
• 引入半球卷积模块，通过在北半球与南半球之间应用翻转权重共享，反映其相反的气旋式旋转方向。
• 在~1.4°分辨率的WeatherBench数据集上训练并评估改进后的模型，目标变量为500 hPa位势高度和850 hPa温度。
• 对比四种架构的预报技能：标准CNN、仅Spherenet、仅半球卷积、以及Spherenet + 半球卷积联合模型。
• 通过随机初始扰动实现集合预报，保持计算效率。
• 在多样化的高误差案例上验证结果，以评估流依赖性可预报性与模型鲁棒性。

实验结果

研究问题

• RQ1 在低参数神经网络中引入球面几何是否能提升中长期天气预报技能？
• RQ2 在网络架构中编码半球对称性（如相反的气旋旋转）是否能提升预报精度？
• RQ3 球面卷积与半球权重共享对预报技能的相对贡献与联合贡献分别是什么？
• RQ4 高误差预报案例在空间与时间上的分布特征如何？不同模型实现之间是否一致？
• RQ5 物理启发的架构修改是否能在不增加模型规模或计算成本的前提下提升性能？

主要发现

• 仅使用Spherenet卷积即可在最多至第+10天的大多数预报时效中提升500 hPa位势高度与850 hPa温度的预报技能。
• 具有半球特异性的卷积架构也提升了预报技能，尤其在捕捉大气动力学的半球差异方面表现更优。
• Spherenet与半球卷积的联合使用达到最高预报技能，表明两种物理先验存在协同增益效应。
• 高预报误差主要出现在冬季，且在不同训练实现中具有一致性，表明存在流依赖性可预报性限制。
• Spherenet实现具有灵活性，可扩展至高分辨率数据，但其计算成本显著高于标准卷积。
• 结果表明，物理启发的架构选择可显著提升低参数模型的性能，为大规模Transformer或GNN模型提供了一种切实可行的替代方案。