[论文解读] Cell-average based neural network method for hyperbolic and parabolic partial differential equations

Changxin Qiu, Jue Yan|arXiv (Cornell University)|Jul 2, 2021

Model Reduction and Neural Networks参考文献 48被引用 9

一句话总结

该论文提出了一种基于单元平均值的神经网络方法（CANN），通过训练前馈网络学习时间步长之间单元平均解值的演化，受有限体积格式启发，用于求解双曲型和抛物型PDE。该方法避开了显式格式的CFL稳定性限制，能够在保持高分辨率的同时实现大时间步长，准确捕捉激波、膨胀波和接触间断，且数值耗散极小。

ABSTRACT

Motivated by finite volume scheme, a cell-average based neural network method is proposed. The method is based on the integral or weak formulation of partial differential equations. A simple feed forward network is forced to learn the solution average evolution between two neighboring time steps. Offline supervised training is carried out to obtain the optimal network parameter set, which uniquely identifies one finite volume like neural network method. Once well trained, the network method is implemented as a finite volume scheme, thus is mesh dependent. Different to traditional numerical methods, our method can be relieved from the explicit scheme CFL restriction and can adapt to any time step size for solution evolution. For Heat equation, first order of convergence is observed and the errors are related to the spatial mesh size but are observed independent of the mesh size in time. The cell-average based neural network method can sharply evolve contact discontinuity with almost zero numerical diffusion introduced. Shock and rarefaction waves are well captured for nonlinear hyperbolic conservation laws.

研究动机与目标

• 开发一种适用于双曲型和抛物型PDE的神经网络求解器，使其继承有限体积方法的稳定性和守恒性质。
• 通过机器学习学习稳定的时序演化，克服传统显式有限体积格式固有的CFL时间步长限制。
• 利用依赖于网格的、类似有限体积的神经网络，实现对非线性守恒律（含激波、膨胀波和接触间断）的精确模拟。
• 在精确解或高保真度解对上进行网络训练，学习相邻时间步长之间单元平均值的映射关系，确保与弱形式的一致性。
• 证明训练后的网络能够泛化至训练数据之外的解状态，包括激波与膨胀波相互作用后的动力学行为。

提出的方法

• 该方法基于PDE的弱形式或积分形式，以单元平均解值作为主要状态表示。
• 通过离线监督学习，训练前馈神经网络，将时间步长$n$的单元平均状态映射至时间步长$n+1$的状态。
• 网络输入由邻近单元平均值的模板构成，例如$\bar{u}^{n}_{j-4}$至$\bar{u}^{n}_{j+2}$，以提供局部空间上下文信息。
• 训练数据对$(\bar{u}^{n}_{j}, \bar{u}^{n+1}_{j})$由精确解或高阶数值解（如间断伽辽金法）在精细网格上生成。
• 训练完成后，网络以类似有限体积格式的方式部署，解的更新通过网络学习到的映射关系显式计算。
• 该方法虽实现为显式格式，但可在大时间步长下保持稳定（例如$\Delta t = 4\Delta x$），突破了传统CFL约束。

实验结果

研究问题

• RQ1 在单元平均解对上进行训练的神经网络，能否学习到双曲型和抛物型PDE的稳定且准确的时间演化算子？
• RQ2 基于神经网络的有限体积方法在多大程度上可绕过经典显式格式的CFL稳定性限制？
• RQ3 当训练数据不包含相互作用后动力学时，该方法在模拟复杂波相互作用（如激波-膨胀波合并）方面表现如何？
• RQ4 该方法是否能以极低的数值耗散保持间断和接触波的锐利分辨率？
• RQ5 训练后的网络能否泛化至训练数据中未出现的解状态，如激波相互作用后的构型？

主要发现

• CANN方法对热方程实现了首阶收敛，误差仅依赖于空间网格尺寸，与时间步长无关。
• 该方法几乎完全消除了数值耗散，成功捕捉了接触间断，保持了锐利的分辨率。
• 对于非线性双曲守恒律，该方法能准确解析激波和膨胀波，包括训练数据中未包含的相互作用后动力学。
• 网络对波相互作用具有良好的泛化能力：仅在$t=2$之前（激波-膨胀波相互作用前）进行训练，即可在$t>2$时准确模拟合并后的波结构。
• 即使解出现奇异性，L2误差仍保持在约$O(10^{-3})$，当单元尺寸$\Delta x \approx 0.06$时，表明方法具有强鲁棒性。
• 该方法在大时间步长（如$\Delta t = 4\Delta x$）下仍能稳定运行，证明神经网络成功绕过了显式格式通常要求的CFL条件。