[论文解读] PCE-PINNs: Physics-Informed Neural Networks for Uncertainty Propagation in Ocean Modeling

Björn Lütjens, Catherine H. Crawford+2 more|arXiv (Cornell University)|May 5, 2021

Model Reduction and Neural Networks参考文献 29被引用 6

一句话总结

本文提出了PCE-PINNs，一种将多项式混沌展开（PCE）与深度学习相结合的物理信息神经网络框架，实现了海洋建模中快速、精确的不确定性传播。通过利用神经网络代理模型学习PCE系数，该方法在保持对随机对流-扩散方程参数不确定性精确量化的同时，相较传统高分辨率模型实现了15,000倍的速度提升，均方误差仅为0.0078。

ABSTRACT

Climate models project an uncertainty range of possible warming scenarios from 1.5 to 5 degree Celsius global temperature increase until 2100, according to the CMIP6 model ensemble. Climate risk management and infrastructure adaptation requires the accurate quantification of the uncertainties at the local level. Ensembles of high-resolution climate models could accurately quantify the uncertainties, but most physics-based climate models are computationally too expensive to run as ensemble. Recent works in physics-informed neural networks (PINNs) have combined deep learning and the physical sciences to learn up to 15k faster copies of climate submodels. However, the application of PINNs in climate modeling has so far been mostly limited to deterministic models. We leverage a novel method that combines polynomial chaos expansion (PCE), a classic technique for uncertainty propagation, with PINNs. The PCE-PINNs learn a fast surrogate model that is demonstrated for uncertainty propagation of known parameter uncertainties. We showcase the effectiveness in ocean modeling by using the local advection-diffusion equation.

研究动机与目标

• 为解决在局部气候不确定性量化中运行大规模高分辨率海洋模型集合的计算不可行性。
• 将物理信息神经网络（PINNs）从确定性预测扩展至具有已知参数不确定性的随机系统。
• 开发一种轻量级代理模型，实现在温度分布等海洋过程中的快速、可扩展的不确定性传播。
• 在随机局部对流-扩散方程（ADE）上展示该方法的有效性，该方程是海洋动力学中的关键模型。

提出的方法

• 该方法将多项式混沌展开（PCE）与物理信息神经网络（PINNs）结合，将随机偏微分方程的解表示为随机变量正交多项式级数。
• 神经网络学习PCE的时间与空间依赖系数，从而在无需蒙特卡洛采样的情况下实现统计矩（均值与标准差）的快速计算。
• PCE-PINN通过损失函数进行训练，该损失函数最小化控制对流-扩散方程的残差，并在多个时空网格点与随机样本上施加边界条件。
• 随机输入建模为对数正态变换的高斯过程，以确保扩散系数为正，PCE采用最大多项式阶数为2，包含三个系数。
• 使用带有ReLU激活函数的全连接神经网络（2层，每层128个神经元）通过ADAM优化器进行训练，学习率为0.001，共训练15个周期。
• 通过包含100个求解微分方程样本的数据集对代理模型进行验证，其模型大小紧凑，约为133 kB。

实验结果

研究问题

• RQ1 能否有效结合物理信息神经网络与多项式混沌展开，实现在海洋建模中的快速不确定性传播？
• RQ2 与高保真模拟相比，PCE-PINN代理模型在近似随机对流-扩散方程解的均值与标准差方面有多准确？
• RQ3 与传统集合方法相比，PCE-PINN框架在计算与存储效率方面表现如何？
• RQ4 PCE-PINN在时间与空间上对不确定性的演化捕捉效果如何，特别是在高变异性区域（如区域中心z=0.5）？
• RQ5 该方法能否扩展至具有已知参数不确定性的其他海洋或大气过程？

主要发现

• PCE-PINN在近似随机对流-扩散方程的完整时空解时，实现了0.0078的均方误差（MSE）。
• 预测的均值与标准差与目标解高度吻合，代理模型正确捕捉了向域中心（z=0.5）和随时间推移（t=1）不确定性增加的趋势。
• 该方法可直接从PCE系数计算统计矩，无需额外采样，从而实现高效的不确定性量化。
• 在初始状态，模型对不确定性略有高估；在右边界附近（z≈1）表现出微弱正偏差，且早期时间步长的曲率较低。
• 与传统高分辨率模拟相比，该模型实现了15,000倍的速度提升，参数量约为33,408个权重，仅占用133 kB存储空间。
• 该框架证明了利用神经网络在高维随机空间中学习PCE系数的可行性，为复杂海洋系统中可扩展的不确定性传播提供了可能。