[论文解读] Physics-Informed Neural Operator for Learning Partial Differential Equations

Zongyi Li, Hongkai Zheng+6 more|arXiv (Cornell University)|Nov 6, 2021

Model Reduction and Neural Networks参考文献 37被引用 157

一句话总结

PINO 将数据与更高分辨率的 PDE 约束结合起来，学习参数化 PDE 的解算子，从而实现准确的多分辨率外推和高效的实例级微调。它优于纯数据驱动方法，克服在多尺度问题中的 PINN 优化挑战。

ABSTRACT

In this paper, we propose physics-informed neural operators (PINO) that combine training data and physics constraints to learn the solution operator of a given family of parametric Partial Differential Equations (PDE). PINO is the first hybrid approach incorporating data and PDE constraints at different resolutions to learn the operator. Specifically, in PINO, we combine coarse-resolution training data with PDE constraints imposed at a higher resolution. The resulting PINO model can accurately approximate the ground-truth solution operator for many popular PDE families and shows no degradation in accuracy even under zero-shot super-resolution, i.e., being able to predict beyond the resolution of training data. PINO uses the Fourier neural operator (FNO) framework that is guaranteed to be a universal approximator for any continuous operator and discretization-convergent in the limit of mesh refinement. By adding PDE constraints to FNO at a higher resolution, we obtain a high-fidelity reconstruction of the ground-truth operator. Moreover, PINO succeeds in settings where no training data is available and only PDE constraints are imposed, while previous approaches, such as the Physics-Informed Neural Network (PINN), fail due to optimization challenges, e.g., in multi-scale dynamic systems such as Kolmogorov flows.

研究动机与目标

• 以学习一族参数化偏微分方程的解算子为目标，而非仅解决单个实例。
• 通过引入 PDE 约束来弥补有限的训练数据，解决数据稀缺问题。
• 在训练数据之外还能以更高分辨率实现对解算子的外推，从而实现高保真度的算子学习。
• 在优化方面优于纯数据驱动或纯物理驱动的方法，尤其针对多尺度动态。

提出的方法

• 以 Fourier 神经算子（FNO）作为基础神经算子来学习解算子。
• 在有数据时使用数据损失进行训练，并在更高分辨率下施加 PDE 损失以对算子进行正则化。
• 在给定 PDE 实例上对学习到的算子进行实例级微调，使用 PDE 损失；可选的锚点（算子）损失用于约束变化。
• 直接在傅里叶空间计算 PDE 损失所需的导数，以实现高效且精确的梯度。
• 处理正向算子学习（数据和 PDE 损失）与逆问题（学习正/逆算子或在带 PDE 约束的优化中使用）。
• 利用多分辨率训练实现对真值算子的高保真恢复，并实现零-shot 超分。

实验结果

研究问题

• RQ1 物理信息神经算子是否能够在有限数据下学习一族参数化 PDE 的真实解算子？
• RQ2 更高分辨率的 PDE 约束是否能提升泛化能力，并实现对未见频率或分辨率的准确外推？
• RQ3 PINO 能否比传统求解器或纯数据驱动方法更高效地解决逆问题？
• RQ4 实例级微调如何影响不同 PDE 与雷诺数下的精度和计算成本？

主要发现

• PINO 在多种 PDE 家族中实现了对地真实算子的高保真近似。
• PINO 能在 Kolmogorov 流中外推到未见的频率，优于仅数据的 FNO 和基于 UNet 的插值，在高频区表现更佳。
• 与仅数据基线相比，PINO 在瞬态和 Kolmogorov 流的相对误差平均降低约 7%，同时在 GPU 求解器上保持约 400 倍的加速。
• 通过实例级微调在雷诺数 (100–500) 范围内的 Navier–Stokes 转换显示对不同流态的可迁移性。
• 用 PINO 解决的逆问题在速度上远快于传统基于 MCMC 的方法（例如在 Darcy 流动场景中快 3000 倍）。
• PINO 可以在几乎没有训练数据的情况下通过利用 PDE 约束工作，解决纯 PINN 框架中的优化挑战。