[论文解读] Gradient-Annihilated PINNs for Solving Riemann Problems: Application to Relativistic Hydrodynamics

Antonio Ferrer-Sánchez, José D. Martín‐Guerrero+3 more|arXiv (Cornell University)|May 15, 2023

Model Reduction and Neural Networks被引用 4

一句话总结

本文提出了一种新型的物理信息神经网络框架——梯度湮灭物理信息神经网络（GA-PINNs），通过修改损失函数以抑制高梯度区域的学习，显著提升了对具有不连续解的双曲型PDE（特别是相对论流体动力学中的黎曼问题）的求解性能。该方法在不依赖原始变量重构的情况下，实现了与二阶迎风有限体积格式相当的精度，且显著优于标准PINNs。

ABSTRACT

We present a novel methodology based on Physics-Informed Neural Networks (PINNs) for solving systems of partial differential equations admitting discontinuous solutions. Our method, called Gradient-Annihilated PINNs (GA-PINNs), introduces a modified loss function that requires the model to partially ignore high-gradients in the physical variables, achieved by introducing a suitable weighting function. The method relies on a set of hyperparameters that control how gradients are treated in the physical loss and how the activation functions of the neural model are dynamically accounted for. The performance of our GA-PINN model is demonstrated by solving Riemann problems in special relativistic hydrodynamics, extending earlier studies with PINNs in the context of the classical Euler equations. The solutions obtained with our GA-PINN model correctly describe the propagation speeds of discontinuities and sharply capture the associated jumps. We use the relative $l^{2}$ error to compare our results with the exact solution of special relativistic Riemann problems, used as the reference ``ground truth'', and with the error obtained with a second-order, central, shock-capturing scheme. In all problems investigated, the accuracy reached by our GA-PINN model is comparable to that obtained with a shock-capturing scheme and significantly higher than that achieved by a baseline PINN algorithm. An additional benefit worth stressing is that our PINN-based approach sidesteps the costly recovery of the primitive variables from the state vector of conserved ones, a well-known drawback of grid-based solutions of the relativistic hydrodynamics equations. Due to its inherent generality and its ability to handle steep gradients, the GA-PINN method discussed could be a valuable tool to model relativistic flows in astrophysics and particle physics, characterized by the prevalence of discontinuous solutions.

研究动机与目标

• 为解决使用PINNs求解具有不连续解的双曲型PDE（特别是在相对论流体动力学中）的挑战。
• 克服标准PINNs因梯度反向传播失控而导致在捕捉激波和不连续性方面表现不佳的问题。
• 消除传统基于网格的相对论流体动力学求解器中固有的计算成本高昂的原始变量重构步骤。
• 开发一种可推广的、可微分的框架，在不依赖启发式修改的前提下，保持在陡峭梯度区域的精度。
• 证明深度学习在建模具有激波的相对论流体中的可行性，特别是在天体物理背景下。

提出的方法

• 该方法引入一种改进的损失函数，通过引入梯度加权函数，抑制高梯度区域的学习，从而在不连续区域‘湮灭’梯度信号。
• 一组超参数控制梯度抑制的程度，并在训练过程中动态调整激活函数的影响。
• 神经网络通过最小化包含相对论欧拉方程、初始条件以及改进的梯度加权损失项的物理信息损失函数进行训练。
• 该架构允许同时学习守恒变量和原始变量，避免推理过程中进行迭代求根。
• 该方法在特殊相对论流体动力学的标准黎曼问题上进行了验证，将结果与精确黎曼求解器和有限体积格式进行对比。
• 该方法可通过潜在的网络结构改进（如变量特异性子网络）扩展至极端相对论流。

实验结果

研究问题

• RQ1 是否可以通过改进的PINN框架在不依赖传统激波捕捉格式的前提下，有效捕捉相对论流体动力学中的不连续解？
• RQ2 损失函数中的梯度抑制在提升PINN求解双曲型PDE（含激波）性能方面有何作用？
• RQ3 GA-PINNs在求解黎曼问题时，其精度在多大程度上可与高阶有限体积格式相媲美？
• RQ4 在GA-PINNs中消除原始变量重构是否带来计算与数值上的优势？
• RQ5 GA-PINN框架是否可扩展至处理具有极端速度梯度的超相对论流？

主要发现

• GA-PINN模型在所有测试的相对论黎曼问题中，相对l²误差与二阶中心型激波捕捉有限体积格式相当。
• 该方法显著优于标准PINNs，后者因梯度反向传播失控而无法准确捕捉激波位置和跳跃不连续性。
• 该模型即使在复杂的波结构中，也能以高分辨率成功捕捉激波和接触间断面的传播速度。
• 该框架自然避免了原始变量重构步骤，而该步骤是传统相对论流体动力学求解器中的主要计算瓶颈。
• 该方法在特殊相对论流体动力学中多种初始条件和黎曼问题类型下表现出强鲁棒性。
• 初步分析表明，通过架构扩展（如变量特异性子网络或初始条件的硬性强制）可能进一步提升在超相对论区域的性能。