[论文解读] Physics Informed Deep Learning (Part I): Data-driven Solutions of Nonlinear Partial Differential Equations

Maziar Raissi, Paris Perdikaris+1 more|arXiv (Cornell University)|Nov 28, 2017

Model Reduction and Neural Networks参考文献 10被引用 965

一句话总结

介绍利用物理信息神经网络 (PINNs) 通过自动微分使神经网络在遵循控制方程的前提下求解非线性偏微分方程，从而实现数据高效的解法与代理建模。

ABSTRACT

We introduce physics informed neural networks -- neural networks that are trained to solve supervised learning tasks while respecting any given law of physics described by general nonlinear partial differential equations. In this two part treatise, we present our developments in the context of solving two main classes of problems: data-driven solution and data-driven discovery of partial differential equations. Depending on the nature and arrangement of the available data, we devise two distinct classes of algorithms, namely continuous time and discrete time models. The resulting neural networks form a new class of data-efficient universal function approximators that naturally encode any underlying physical laws as prior information. In this first part, we demonstrate how these networks can be used to infer solutions to partial differential equations, and obtain physics-informed surrogate models that are fully differentiable with respect to all input coordinates and free parameters.

研究动机与目标

• 通过将物理规律嵌入神经网络来实现数据高效建模，以求解偏微分方程。
• 开发连续时间和离散时间的 PINN 框架，以推断解并构建可微分的物理信息代理模型。
• 在 Burgers’、Schrödinger、Allen–Cahn 等相关 PDE 上展示数据驱动的求解能力。
• 突出优点、局限性以及与经典数值方法的潜在整合。

提出的方法

• 用深度神经网络表示潜在的 PDE 解 u(t,x)，通过物理信息残差 f := u_t + N[u] 强制满足 PDE。
• 在训练过程中使用自动微分来计算 PDE 段残差所需的导数。
• 最小化复合损失 MSE = MSE_u + MSE_f（如有需要，对于复值或边界数据还有额外项）。
• 使用拟合点（N_f）在散乱位置强制 PDE，实现从有限观测中数据高效学习。
• 探索带有多输出网络的连续时间 PINNs，用于 u 和 f，以及基于 Runge-Kutta 方案、具有 q 个阶段以传播解的离散时间 PINNs。
• 证明基于 Runge-Kutta 的 PINNs 能以高稳定性和精度进行大步时间推进，降低对细小时间离散化的依赖。

实验结果

研究问题

• RQ1 PINNs 是否能够在尊重支配方程的同时，从有限数据中准确推断非线性 PDE 的解？
• RQ2 就准确性、数据效率和计算效率而言，连续时间 PINN 与离散时间 PINN 的表现有何不同？
• RQ3 网络结构、拟合点密度以及 Runge-Kutta 参数对非线性 PDE 的预测精度有何影响？
• RQ4 PINNs 是否能够处理复值解、周期边界以及多重非线性（如 Burgers’、Schrödinger、Allen–Cahn）？

主要发现

• PINNs 可以用大约 100 个数据点和 10,000 个拟合点，准确预测 Burgers’ 方程解，其相对 L2 误差低至 6.7e-4。
• 一个复值 PINN 可以用约 50 个初始数据点和 20,000 个拟合点，在求解非线性 Schrödinger 方程时获得相对 L2 误差 1.97e-3。
• 使用最多 500 阶的隐式 Runge–Kutta 方案的离散时间 PINNs 能在单步中预测到 t = 0.9，Burgers’ 方程的相对 L2 误差为 8.2e-4。
• 在固定 RK 设置下，增加网络容量可以降低误差；在连续时间 PINNs 中，增大 N_f 可以提高精度。
• Allen–Cahn 方程的实验表明，尽管存在尖锐特征，内部层仍能实现单步精确预测，达到相对 L2 误差 6.99e-3。
• 该方法表明一种数据高效、物理正则化的传统 PDE 求解器替代方案，兼容但不是对传统方法的替代。