[论文解读] Error Estimates for Neural Network Solutions of Partial Differential Equations.

Piotr Minakowski, Thomas Richter|arXiv (Cornell University)|Jul 23, 2021

Model Reduction and Neural Networks参考文献 20被引用 5

一句话总结

本文提出了一种基于双加权残差（DWR）的误差估计算法，用于神经网络求解偏微分方程（PDEs），可实现与神经网络架构或训练过程无关的可靠停止准则。该方法通过量化离散化误差来确保解的精度，已在拉普拉斯方程和斯托克斯方程的数值算例中得到验证，实现了可测量的误差控制。

ABSTRACT

We develop an error estimator for neural network approximations of PDEs. The proposed approach is based on dual weighted residual estimator (DWR). It is destined to serve as a stopping criterion that guarantees the accuracy of the solution independently of the design of the neural network training. The result is equipped with computational examples for Laplace and Stokes problems.

研究动机与目标

• 开发一种针对神经网络近似PDE解的可靠误差估计算法，且与网络设计和训练过程无关。
• 提供一种神经网络训练的停止准则，确保解的精度，且不依赖于网络特定的超参数。
• 将双加权残差（DWR）方法扩展至基于神经网络的PDE求解器，实现后验误差估计。
• 在基准PDE问题（包括拉普拉斯方程和斯托克斯方程）上验证所提出的误差估计算法。
• 确保误差估计算法在不同神经网络架构和训练流程下仍保持有效性。

提出的方法

• 该方法采用双加权残差（DWR）框架，计算神经网络求解PDE的后验误差估计。
• 提出一种基于残差的误差估计算法，用于量化由PDE解导出的感兴趣量的误差。
• 误差估计算法通过求解对偶问题获得，该对偶问题与原PDE问题并行求解。
• 采用神经网络近似求解原问题和对偶问题的解，实现在无网格、数据驱动环境下的误差估计。
• 将误差估计用作训练过程中的停止准则，以确保解满足用户定义的精度阈值。
• 在拉普拉斯方程和斯托克斯方程上开展计算实验，以展示估计算法的可靠性与收敛特性。

实验结果

研究问题

• RQ1 基于DWR的误差估计算法能否有效适配于神经网络近似PDE解？
• RQ2 所提出的误差估计算法是否能提供与神经网络架构和训练过程无关的可靠停止准则？
• RQ3 该误差估计算法在拉普拉斯方程和斯托克斯方程等PDE解中，能否准确预测真实误差？
• RQ4 随着神经网络训练的推进，误差估计算法的收敛行为如何？
• RQ5 该估计算法是否能在无需重新调参的情况下，保持在不同PDE和网络配置下的精度？

主要发现

• 所提出的基于DWR的误差估计算法能够以高可靠性量化神经网络求解PDE时的误差。
• 该误差估计算法可作为有效的停止准则，确保解的精度，且不受神经网络设计或训练动态的影响。
• 在拉普拉斯问题中，估计算法表现出一致的收敛行为，与理论预期相符。
• 在斯托克斯问题中，误差估计算法准确捕捉了速度场和压力场的误差，证实了其在鞍点问题中的鲁棒性。
• 该方法在不同网络架构和训练流程中均保持了精度，展现出良好的泛化能力。
• 计算示例表明，该误差估计算法可实现可靠、自适应的训练，且无需进行问题特定的校准。