[论文解读] Learning Generalized Quasi-Geostrophic Models Using Deep Neural Numerical Models

Redouane Lguensat, Julien Le Sommer+3 more|arXiv (Cornell University)|Nov 20, 2019

Model Reduction and Neural Networks参考文献 29被引用 10

一句话总结

本文提出深度神经数值模型（DNNM），一种将基于物理的数值格式与可学习卷积神经网络（ConvNets）相结合的混合框架，以提升上层海洋动力过程的预报性能。通过在准地转（QG）模型中训练卷积神经网络，学习地转速度场的非线性校正，该方法在标准QG模型基础上显著提升了海表面高度（SSH）预报精度，且所学滤波器与理论QG参数高度近似。

ABSTRACT

We introduce a new strategy designed to help physicists discover hidden laws governing dynamical systems. We propose to use machine learning automatic differentiation libraries to develop hybrid numerical models that combine components based on prior physical knowledge with components based on neural networks. In these architectures, named Deep Neural Numerical Models (DNNMs), the neural network components are used as building-blocks then deployed for learning hidden variables of underlying physical laws governing dynamical systems. In this paper, we illustrate an application of DNNMs to upper ocean dynamics, more precisely the dynamics of a sea surface tracer, the Sea Surface Height (SSH). We develop an advection-based fully differentiable numerical scheme, where parts of the computations can be replaced with learnable ConvNets, and make connections with the single-layer Quasi-Geostrophic (QG) model, a baseline theory in physical oceanography developed decades ago.

研究动机与目标

• 开发一种混合建模框架，将物理知识与机器学习相结合，以发现海洋系统中隐藏的动力学规律。
• 在可微分数值格式中引入可学习组件，提升经典准地转（QG）理论在海表面高度（SSH）预报中的精度。
• 构建可解释、可微分的模型，在保持物理约束的同时，实现对未知动力过程的数据驱动优化。
• 基于真实卫星获取的海洋数据（NATL60）验证该方法，展示其在物理模型发现方面的潜力。

提出的方法

• 该方法采用基于三阶迎风空间离散化与一阶欧拉时间积分的全可微分对流-扩散数值格式，确保在CFL条件下的数值稳定性。
• 核心模型为改进的QG框架，其中位涡（PV）由地转速度平流，可学习的卷积神经网络（ConvNet）替代或补充速度场。
• 在PyTorch中实现深度神经数值模型（DNNM），支持物理求解器与神经网络组件之间的端到端反向传播。
• 卷积神经网络被训练以预测地转速度的非线性校正，该校正与标准QG速度场相加，形成修正后的流场。
• 训练采用结合缩放均方误差（SSH预报预测值与目标值）、速度场散度惩罚项以及L2正则化的损失函数。
• 使用Adam优化器配合学习率衰减与批量归一化进行训练，推理阶段通过冻结训练好的卷积神经网络实现即插即用。

实验结果

研究问题

• RQ1 结合物理PDE求解器与可学习神经网络的混合模型，是否能超越标准准地转模型，提升SSH预报精度？
• RQ2 在可微分数值框架中，所学习的卷积神经网络组件在多大程度上能逼近理论地转速度场？
• RQ3 引入可学习的非线性速度校正是否能捕捉超出线性QG近似的动力学特征，特别是在海洋锋区附近？
• RQ4 所训练的神经组件是否可被解释为对QG模型的物理解释性校正，还是仅为纯数据驱动的近似？

主要发现

• 训练后的卷积神经网络学习到的速度校正显著提升了1天SSH预报精度，测试数据上的RMSE更低。
• 卷积神经网络优化后的滤波器权重（F）与理论QG参数矩阵高度接近，表明模型学习到了物理解释合理的校正。
• 卷积神经网络的输出与SSH梯度及海洋锋区表现出强空间相关性，表明其学习到了在锋面等关键特征处增强动力过程的能力。
• 通过将卷积神经网络集成到可微分数值格式中，实现了稳定训练与推理，支持对整个架构的反向传播。
• 训练后的神经组件可被提取并独立重用于现有QG代码库，实现无需重新训练的实时部署。
• 引入非线性速度项显著提升了预报技能，证明了超越线性地转平衡的非线性学习具有实际价值。