[论文解读] Deep Neural Network Modeling of Unknown Partial Differential Equations in Nodal Space

Zhen Chen, Victor Churchill+2 more|arXiv (Cornell University)|Jun 7, 2021

Model Reduction and Neural Networks参考文献 34被引用 50

一句话总结

该论文提出了一种深度神经网络（DNN）框架，可直接从物理（节点）空间中的解轨迹数据学习未知的时间依赖偏微分方程（PDE），而无需模态变换或几何信息。该方法采用一种新颖的DNN架构，包含一个解耦块和一个组装层，其模仿PDE的时间推进演化算子，从而在结构化和非结构化网格上均能实现精确建模，包括对非线性PDE（如无粘Burgers方程）的激波捕捉。

ABSTRACT

We present a numerical framework for deep neural network (DNN) modeling of unknown time-dependent partial differential equations (PDE) using their trajectory data. Unlike the recent work of [Wu and Xiu, J. Comput. Phys. 2020], where the learning takes place in modal/Fourier space, the current method conducts the learning and modeling in physical space and uses measurement data as nodal values. We present a DNN structure that has a direct correspondence to the evolution operator of the underlying PDE, thus establishing the existence of the DNN model. The DNN model also does not require any geometric information of the data nodes. Consequently, a trained DNN defines a predictive model for the underlying unknown PDE over structureless grids. A set of examples, including linear and nonlinear scalar PDE, system of PDEs, in both one dimension and two dimensions, over structured and unstructured grids, are presented to demonstrate the effectiveness of the proposed DNN modeling. Extension to other equations such as differential-integral equations is also discussed.

研究动机与目标

• 解决从有限、含噪的轨迹数据中发现未知时间依赖PDE的挑战，且无需预先知晓方程形式。
• 克服现有方法依赖模态（傅里叶）空间或要求数据网格具有几何结构的局限性。
• 开发一种通用的、无网格的DNN框架，能够对1D和2D域中的各类PDE（包括标量PDE和PDE系统）进行建模。
• 通过将DNN架构与底层PDE的演化算子直接关联，为DNN模型的存在性提供数学基础。
• 在包括具有激波和复杂动力学的线性和非线性PDE上，验证方法的鲁棒性和准确性，特别是在非结构化网格上。

提出的方法

• 将学习任务表述为使用来自多个轨迹的快照对（u(t), u(t+Δt)）来近似未知PDE的时间演化算子。
• 提出一种新颖的DNN架构，由解耦块和组装层组成，直接在物理空间中模拟PDE的时间推进过程。
• 以解的节点值作为输入和输出，避免转换到谱空间或模态空间，从而无需预定义基函数。
• 采用基于流映射的方法进行DNN训练，学习从时间t的状态到时间t+Δt状态的映射，而无需导数数据。
• 通过设计DNN在任意节点配置上运行，无需几何信息，从而支持非结构化网格。
• 采用标准深度学习训练流程（如Adam优化器、tanh激活函数、批量训练），并针对每个问题调整超参数。

实验结果

研究问题

• RQ1 深度神经网络能否仅使用物理空间中的节点解数据，准确建模未知PDE的演化算子？
• RQ2 所提出的DNN架构是否能在无几何或拓扑先验的情况下，保持在非结构化网格上的准确性和泛化能力？
• RQ3 该方法能否有效学习线性和非线性PDE，包括PDE系统和具有不连续解的方程？
• RQ4 与在模态或谱空间中运行的现有方法相比，节点空间DNN的性能如何？
• RQ5 DNN在泛化到新初始条件方面的能力如何，能否预测超出训练数据范围的长时间动力学？

主要发现

• 所提出的DNN框架在1D结构化网格上成功学习并预测了黏性Burgers方程的动力学，准确捕捉到t = 2时的激波特性的形成。
• 对于无粘Burgers方程，DNN模型正确预测了t = 2时激波不连续性的形成，且在激波附近的小振荡与数值解一致。
• 该方法在10,000条轨迹上对1D线性波系统实现了准确的长期预测，预测结果在t = 10以内与参考解高度一致。
• 在2D非结构化网格上，DNN模型准确预测了对流-扩散方程的动力学，至t = 4时与参考解具有良好的一致性，初始条件为高斯分布。
• DNN模型在所有测试问题中均对未见过的初始条件（包括分段常数和光滑高斯分布）表现出良好的泛化能力。
• 该方法在数据稀疏和含噪条件下表现出鲁棒性，即使训练数据来自随机初始条件和数值求解器，预测结果依然准确。