[论文解读] Finite Element Operator Network for Solving Elliptic-type parametric PDEs

Jae Yong Lee, Seungchan Ko+1 more|arXiv (Cornell University)|Aug 9, 2023

Model Reduction and Neural NetworksPhysics and Astronomy被引用 3

一句话总结

该论文提出有限元算子网络（FEONet），一种结合有限元法与算子学习的物理信息深度学习框架，可在无需成对训练数据的情况下求解参数化椭圆型PDE。FEONet通过变分形式与神经网络近似解算子，实现高精度与良好泛化能力，其收敛速率与经典FEM相当，且在数据密集型方法（如DeepONet）中表现出更优的泛化性能。

ABSTRACT

Partial differential equations (PDEs) underlie our understanding and prediction of natural phenomena across numerous fields, including physics, engineering, and finance. However, solving parametric PDEs is a complex task that necessitates efficient numerical methods. In this paper, we propose a novel approach for solving parametric PDEs using a Finite Element Operator Network (FEONet). Our proposed method leverages the power of deep learning in conjunction with traditional numerical methods, specifically the finite element method, to solve parametric PDEs in the absence of any paired input-output training data. We performed various experiments on several benchmark problems and confirmed that our approach has demonstrated excellent performance across various settings and environments, proving its versatility in terms of accuracy, generalization, and computational flexibility. While our method is not meshless, the FEONet framework shows potential for application in various fields where PDEs play a crucial role in modeling complex domains with diverse boundary conditions and singular behavior. Furthermore, we provide theoretical convergence analysis to support our approach, utilizing finite element approximation in numerical analysis.

研究动机与目标

• 解决传统数值求解器在参数化PDE求解中计算成本高且依赖数据的问题。
• 克服PINNs与DeepONets的局限性，后者需要大量成对训练数据，且在边界层与复杂几何结构下表现不佳。
• 开发一种数据高效、物理信息驱动的算子学习框架，可在不同边界条件与参数变化下实现良好泛化。
• 基于有限元逼近理论，为所提方法建立理论收敛性保证。
• 实现实时参数化PDE解预测，仅需极少微调，即使在缺乏输入-输出数据集的情况下亦可实现。

提出的方法

• FEONet将参数化PDE的求解表述为基于PDE弱形式的算子学习问题，将物理约束直接嵌入网络架构中。
• 该方法采用变分形式，其中解在由节点基函数张成的有限维空间中近似，确保与有限元法的一致性。
• 训练一个神经网络，从输入参数（如源项、系数、边界条件）预测有限元展开的系数，无需依赖标注的解对数据。
• 损失函数源自弱形式的残差，以物理信息方式强制满足PDE与边界条件，实现对未见输入的零样本泛化。
• 框架采用P1与P2节点基函数，并借助收敛性分析表明，在适当假设下误差以最优速率衰减（P1为2，P2为3）。
• 该方法在随机生成的输入函数（如正弦/余弦组合或高斯场）上进行训练，确保对多样化输入分布的鲁棒性。

实验结果

研究问题

• RQ1 深度学习模型是否可在无需成对输入-输出训练数据的情况下求解参数化PDE？
• RQ2 所提出的FEONet是否能达到与经典有限元方法相当的收敛速率？
• RQ3 当在有限数据上训练时，FEONet的泛化性能与数据驱动算子网络（如DeepONet）相比如何？
• RQ4 FEONet是否可在无显式数据监督的情况下有效处理边界层问题与复杂几何结构？
• RQ5 在有限元逼近下，FEONet框架的理论收敛行为如何？

主要发现

• FEONet在P1单元下实现约2的收敛速率，在P2单元下实现约3的收敛速率，与经典FEM的理论收敛速率一致。
• 与仅使用30对数据训练的DeepONet相比，FEONet展现出更优的泛化性能，测试误差与标准差显著更低。
• 即使在无任何标注训练数据的情况下，FEONet仍能对包括随机正弦/余弦组合与高斯随机场在内的多样化输入函数实现稳健泛化。
• 理论分析表明，随着训练样本数量与网络容量的增加，FEONet解的误差会趋近于零，收敛性依赖于系数误差的$L^2$-范数。
• 在具有边界层与复杂参数依赖性的问题中，FEONet保持高精度，优于基于PINN的方法在这些刚性场景下的表现。
• 实验表明，FEONet在多个随机种子下的测试误差保持低且稳定，表明其在未见场景中具有强鲁棒性与可靠性。