[论文解读] GNN-based physics solver for time-independent PDEs

Rini Jasmine Gladstone, Helia Rahmani+4 more|arXiv (Cornell University)|Mar 28, 2023

Model Reduction and Neural Networks被引用 4

一句话总结

本文提出边缘增强图神经网络（EA-GNN）和多图神经网络（M-GNN）架构，以提升图神经网络在固体力学中求解时间无关偏微分方程（PDE）的性能。通过增强长程信息传递并采用仿真坐标系，模型在基线方法基础上将误差降低1.5至2倍，并在未见领域、边界条件以及旋转/平移变换下表现出稳健的泛化能力。

ABSTRACT

Physics-based deep learning frameworks have shown to be effective in accurately modeling the dynamics of complex physical systems with generalization capability across problem inputs. However, time-independent problems pose the challenge of requiring long-range exchange of information across the computational domain for obtaining accurate predictions. In the context of graph neural networks (GNNs), this calls for deeper networks, which, in turn, may compromise or slow down the training process. In this work, we present two GNN architectures to overcome this challenge - the Edge Augmented GNN and the Multi-GNN. We show that both these networks perform significantly better (by a factor of 1.5 to 2) than baseline methods when applied to time-independent solid mechanics problems. Furthermore, the proposed architectures generalize well to unseen domains, boundary conditions, and materials. Here, the treatment of variable domains is facilitated by a novel coordinate transformation that enables rotation and translation invariance. By broadening the range of problems that neural operators based on graph neural networks can tackle, this paper provides the groundwork for their application to complex scientific and industrial settings.

研究动机与目标

• 解决图神经网络（GNN）在时间无关PDE（尤其是静态固体力学）中长程信息交换的挑战。
• 克服标准GNN因依赖局部短程信息传递而难以捕捉长程相互作用的局限性。
• 开发可在未见领域、边界条件和材料属性间泛化的GNN架构。
• 通过新型坐标变换策略，确保物理系统中对旋转和平移的不变性。
• 利用基于图的深度学习代理模型，实现分辨率和几何形状不变的物理仿真。

提出的方法

• 提出边缘增强图神经网络（EA-GNN），通过增加跳跃连接或增强边特征，以改善GNN中的长程信息传递。
• 提出多流架构M-GNN，通过多条GNN分支聚合信息，增强长程连通性。
• 应用坐标变换，将物理域坐标映射到仿真参考系中，实现旋转和平移不变性。
• 在仿真坐标系中训练模型，以确保在域变换（包括缩放、旋转和平移）下的泛化能力。
• 采用基于图的表示方法，其中节点对应网格点，边表示空间连通性，并将物理参数（如材料属性、载荷）编码为节点和边特征。
• 利用物理信息损失函数，结合PDE的弱形式和边界条件，指导模型训练。

实验结果

研究问题

• RQ1 GNN架构能否被增强以有效建模时间无关PDE（如静态弹性）中所需的长程相互作用？
• RQ2 EA-GNN与M-GNN在时间无关固体力学问题中的精度与泛化能力相较于标准GNN有何差异？
• RQ3 在仿真参考系中采用坐标变换在多大程度上能确保基于GNN的物理求解器具备旋转和平移不变性？
• RQ4 所提出的模型能否在无需微调的情况下泛化至未见领域、边界条件和材料属性？
• RQ5 域缩放和几何变换对基于GNN的PDE求解器泛化性能有何影响？

主要发现

• 在所有测试案例中，EA-GNN与M-GNN在节点位移预测中的相对误差相比基线GNN降低了1.5至2倍。
• 在域缩放（scale = 0.5）情况下，EA-GNN在u_x方向的相对误差为0.09 ± 0.07，在u_y方向为0.09 ± 0.07，显著优于基线B（u_x方向为0.87 ± 0.56）。
• 在双倍缩放（scale = 2.0）情况下，EA-GNN保持低误差（u_x方向为0.22 ± 0.12），表明即使在域尺寸增大和出现未见坐标位置时仍具鲁棒性。
• 模型在分布外边界条件（如不连通集上的狄利克雷/诺伊曼条件）下泛化良好，EA-GNN在u_x方向的误差为0.11 ± 0.08，在u_y方向为0.13 ± 0.09。
• 当模型在仿真坐标系中训练时，成功实现了旋转和平移不变性，且在这些变换下误差未增加。
• 基线模型（B）在旋转和平移下无法泛化，其误差比EA-GNN与M-GNN高出1.5至2倍，证实了坐标变换的必要性。