[论文解读] wPINNs: Weak Physics informed neural networks for approximating entropy solutions of hyperbolic conservation laws

Tim De Ryck, Siddhartha Mishra+1 more|arXiv (Cornell University)|Jul 18, 2022

Model Reduction and Neural Networks被引用 5

一句话总结

该论文提出了一种弱物理信息神经网络（wPINNs），这是一种新颖的无监督学习框架，通过基于Kruzkhov熵条件的最小-最大优化问题，近似标量双曲守恒律的熵解。该方法实现了严格的误差界，并准确捕捉了标准PINNs失效的间断激波解。

ABSTRACT

Physics informed neural networks (PINNs) require regularity of solutions of the underlying PDE to guarantee accurate approximation. Consequently, they may fail at approximating discontinuous solutions of PDEs such as nonlinear hyperbolic equations. To ameliorate this, we propose a novel variant of PINNs, termed as weak PINNs (wPINNs) for accurate approximation of entropy solutions of scalar conservation laws. wPINNs are based on approximating the solution of a min-max optimization problem for a residual, defined in terms of Kruzkhov entropies, to determine parameters for the neural networks approximating the entropy solution as well as test functions. We prove rigorous bounds on the error incurred by wPINNs and illustrate their performance through numerical experiments to demonstrate that wPINNs can approximate entropy solutions accurately.

研究动机与目标

• 解决传统物理信息神经网络（PINNs）在近似双曲守恒律的不连续熵解时因解的光滑性不足而失效的问题。
• 开发一种新的无监督学习框架，通过利用熵条件的弱形式，避免对光滑性的依赖假设。
• 通过证明依赖于训练误差、网络容量和配点密度的严格误差界，确保理论收敛性。
• 通过数值实验表明，wPINNs可在无标签数据的情况下，准确近似标量守恒律（如Burgers方程）的熵解。
• 为未来工作奠定基础，将该框架扩展至参数化PDE和守恒律系统。

提出的方法

• 使用Kruzkhov熵条件的弱形式构造残差，将逐点残差替换为基于积分的熵不等式。
• 构建一个最小-最大优化问题，其中神经网络同时近似熵解和弱形式中使用的测试函数。
• 使用有限个配点对弱残差进行离散化，从而在训练过程中实现随机优化。
• 利用神经网络作为解和测试函数的试函数，实现完全无监督学习。
• 通过理论分析结合强制性估计和求积误差界，确保稳定性和收敛性。
• 通过在解网络和测试函数网络之间交替优化来训练模型，其结构类似于生成对抗网络（GAN）。

实验结果

研究问题

• RQ1 在解存在间断的情况下，修改后的PINN框架是否能准确近似标量双曲守恒律的熵解？
• RQ2 将逐点残差替换为弱熵残差，是否能在存在激波的情况下提升收敛性和准确性？
• RQ3 能否为该框架推导出严格的误差界，其依赖于训练误差、网络规模和配点采样？
• RQ4 在近似具有间断的解（如Burgers方程）时，wPINNs与标准PINNs的性能相比如何？
• RQ5 求解最小-最大问题与标准PINN的最小化问题相比，计算效率和可扩展性有何权衡？

主要发现

• wPINNs成功近似了标量守恒律的熵解，包括Burgers方程中的激波波，而标准PINNs因残差无界而失效。
• 理论分析表明，通过减小训练误差、增加网络容量并使用足够多的配点，wPINNs的总误差可被控制得任意小。
• 该方法通过最小化基于Kruzkhov熵条件的残差，实现了弱意义上的收敛，而Kruzkhov熵条件对选择物理解释的解至关重要。
• 数值实验确认，wPINNs在无任何标签数据的情况下，对具有不连续解的问题的精度显著优于标准PINNs。
• 该框架可扩展至多维标量守恒律，因为Kruzkhov熵在高维空间中定义良好。
• 该方法为未来研究参数化PDE和守恒律系统奠定了基础，尽管向系统扩展仍具挑战，原因在于缺乏多组熵族。