[论文解读] Learning the Solution Operator of Boundary Value Problems using Graph Neural Networks

Winfried Lötzsch, Simon Ohler+1 more|arXiv (Cornell University)|Jun 28, 2022

Model Reduction and Neural Networks被引用 7

一句话总结

本文提出了一种基于图神经网络（GNN）的解算器，用于求解由偏微分方程（PDE）控制的时不变边界值问题，例如静电学和恒磁场中的泊松方程。通过在不同网格形状和非均匀性配置下的有限元法（FEM）模拟数据上进行训练，该GNN能够泛化至未见过的几何结构及源项叠加情形，在电势预测上达到高精度，同时相比FEM求解器实现显著的速度提升，但在导出场量时表现出明显的约束违反现象。

ABSTRACT

As an alternative to classical numerical solvers for partial differential equations (PDEs) subject to boundary value constraints, there has been a surge of interest in investigating neural networks that can solve such problems efficiently. In this work, we design a general solution operator for two different time-independent PDEs using graph neural networks (GNNs) and spectral graph convolutions. We train the networks on simulated data from a finite elements solver on a variety of shapes and inhomogeneities. In contrast to previous works, we focus on the ability of the trained operator to generalize to previously unseen scenarios. Specifically, we test generalization to meshes with different shapes and superposition of solutions for a different number of inhomogeneities. We find that training on a diverse dataset with lots of variation in the finite element meshes is a key ingredient for achieving good generalization results in all cases. With this, we believe that GNNs can be used to learn solution operators that generalize over a range of properties and produce solutions much faster than a generic solver. Our dataset, which we make publicly available, can be used and extended to verify the robustness of these models under varying conditions.

研究动机与目标

• 开发一种可在多样化网格几何结构和非均匀性配置下泛化的神经算子，用于静态PDE问题。
• 探究GNN是否可在不显式访问PDE方程的前提下，仅依赖FEM模拟数据学习解算子。
• 评估训练数据多样性在实现对未见网格形状及源项叠加情形泛化能力方面的作用。
• 将GNN的推理速度与传统FEM求解器进行基准对比，尤其在GPU加速硬件上。
• 识别在物理一致性方面存在的局限性，特别是对电场和磁场等导出量的影响。

提出的方法

• 模型采用具有谱图卷积的图神经网络（GNN），将三角化网格作为输入，其中节点代表网格顶点，边代表连接关系。
• GNN在监督学习范式下进行训练，使用静电学与恒磁场中泊松型PDE的FEM模拟解，边界条件非平凡。
• 输入特征包括每个网格节点的空间坐标、边界条件以及源项（如电荷密度或电流密度）。
• 模型在每个节点上预测解函数（如电势），并额外引入分支用于预测导出场量（如电场强度与方向）。
• 通过形状泛化（未见过的网格拓扑）与叠加任务（训练中未见的非均匀性数量）测试泛化能力。
• 训练数据增强包括多样化网格形状、非均匀性数量变化及空间分布，以提升鲁棒性。

实验结果

研究问题

• RQ1 GNN能否在不显式知晓PDE方程的前提下，学习跨多样化网格几何结构的静态PDE通用解算子？
• RQ2 训练数据多样性——尤其是网格形状与非均匀性配置——如何影响模型对未见场景的泛化能力？
• RQ3 GNN模型能否泛化至训练中未见的非均匀性数量的解叠加情形？
• RQ4 模型在多大程度上保持了物理约束，例如电场的∇×E=0？
• RQ5 GNN的推理速度与传统迭代式FEM求解器相比如何，尤其在GPU硬件上？

主要发现

• GNN在所有测试任务中均实现了对电势与磁势的高精度预测，包括形状泛化与叠加任务，表明其成功学习了解算子。
• 模型可泛化至训练中未见的网格形状及非均匀性数量，证明在多样化数据上训练后具备强鲁棒性。
• 基于GNN的求解器在GPU上比FEniCS FEM求解器快一个数量级以上，且由于并行化在CPU上也实现了显著加速。
• 尽管电势预测准确，但模型在导出场量（如电场与磁场）上表现出显著误差，尤其违反了如∇×E=0等物理约束。
• 最大预测误差出现在边界区域及场强梯度较大的区域，尤其在形状泛化任务中更为明显。
• 训练阶段的数据多样性至关重要：在有限网格变化下训练的模型无法实现泛化，凸显了数据增强对鲁棒性的关键作用。