[论文解读] Physics-constrained Unsupervised Learning of Partial Differential Equations using Meshes

Mike Y. Michelis, Robert K. Katzschmann|arXiv (Cornell University)|Mar 30, 2022

Model Reduction and Neural Networks被引用 4

一句话总结

本文提出了一种基于图神经网络（GNNs）的物理约束无监督学习框架，用于在不规则网格上求解偏微分方程（PDEs）。通过构建基于物理的损失函数，利用图-based有限差分方法强制实施PDE约束，该方法实现了高精度和跨未见初始条件与边界设置的泛化能力，同时在速度上优于经典求解器，保持了仿真保真度。

ABSTRACT

Enhancing neural networks with knowledge of physical equations has become an efficient way of solving various physics problems, from fluid flow to electromagnetism. Graph neural networks show promise in accurately representing irregularly meshed objects and learning their dynamics, but have so far required supervision through large datasets. In this work, we represent meshes naturally as graphs, process these using Graph Networks, and formulate our physics-based loss to provide an unsupervised learning framework for partial differential equations (PDE). We quantitatively compare our results to a classical numerical PDE solver, and show that our computationally efficient approach can be used as an interactive PDE solver that is adjusting boundary conditions in real-time and remains sufficiently close to the baseline solution. Our inherently differentiable framework will enable the application of PDE solvers in interactive settings, such as model-based control of soft-body deformations, or in gradient-based optimization methods that require a fully differentiable pipeline.

研究动机与目标

• 开发一种无需大规模标注数据集的无监督机器学习框架，用于在不规则网格上求解PDEs。
• 通过在推理过程中支持动态边界条件和环境随机化，实现实时交互式PDE仿真。
• 通过利用网格的几何灵活性和图网络的归纳偏置，克服先前方法依赖规则网格或监督数据的局限性。
• 建立一个完全可微分、计算高效的流水线，适用于基于梯度的优化和控制应用。
• 在极少微调的情况下，实现对多样化初始条件和PDE类型（包括热方程、Eikonal方程和Burgers方程）的泛化。

提出的方法

• 将网格表示为图，其中节点编码空间坐标、解变量和材料属性，边编码邻域关系。
• 图神经网络（GNN）处理节点和边特征，基于物理约束损失预测PDE解的下一时刻状态。
• 物理约束损失通过计算图-based有限差分近似来实现空间导数的逼近，确保预测结果在每个节点上满足PDE。
• 训练过程为无监督：随机采样初始条件和环境配置（如障碍物、流入边界），并通过仅在物理损失上反向传播进行网络训练。
• 该框架支持欧拉和拉格朗日网格形式，能够模拟移动边界和可变形体。
• 该方法本质上是可微分的，可无缝集成到基于梯度的优化流水线中，用于控制与设计。

实验结果

研究问题

• RQ1 基于无监督GNN的框架是否能在不依赖大规模标注数据集的情况下，准确求解不规则网格上的PDE？
• RQ2 该模型在训练中未见过的初始条件和边界配置下泛化能力如何？
• RQ3 该框架是否能够支持具有动态边界条件的实时交互式PDE仿真？
• RQ4 与经典数值求解器相比，基于图的有限差分近似在精度和速度方面表现如何？
• RQ5 该方法在多大程度上可扩展以处理复杂物理现象，如激波或超弹性变形？

主要发现

• 在包含20,000个网格节点的1D热方程上，模型的均方误差（MSE）为1.80×10⁻³，推理时间仅325ms，而FEniCS基线为1.21s。
• 在包含160,000个节点的2D热方程上，MSE为6.94×10⁻⁴，推理时间531ms，而FEniCS基线为3.06s，显示出显著的速度提升。
• 模型在未见初始条件上表现出良好的泛化能力，如在2D热方程实验中对三种不同随机初始条件的定性和定量对比所示。
• 该框架支持在推理过程中实时调整边界条件，实现交互式PDE求解，而这是标准PINNs或固定网格方法难以实现的。
• 尽管取得成功，有限差分近似在不连续区域（如激波）附近仍引入误差，表明需要更精确的梯度计算方法，如基于FEM或学习得到的梯度。
• 该方法可扩展至拉格朗日网格和多尺度架构（如图U-Net），为未来在大尺度超弹性变形和复杂流固耦合问题中的应用铺平道路。