[论文解读] Monte Carlo PINNs: deep learning approach for forward and inverse problems involving high dimensional fractional partial differential equations

Ling Guo, Hao Wu+2 more|arXiv (Cornell University)|Mar 16, 2022

Model Reduction and Neural Networks被引用 5

一句话总结

该论文提出蒙特卡洛物理信息神经网络（MC-PINNs），一种用于求解高维前向和反向分数阶偏微分方程（FPDEs）的深度学习方法。通过使用蒙特卡洛采样在损失函数中计算分数阶导数的无偏估计，MC-PINNs 相较于现有方法（如 fPINNs）降低了计算成本，从而实现了对高维 FPDEs 的高效求解，包括具有参数化和随机输入的问题，在 10D 案例中表现出良好的准确性。

ABSTRACT

We introduce a sampling based machine learning approach, Monte Carlo physics informed neural networks (MC-PINNs), for solving forward and inverse fractional partial differential equations (FPDEs). As a generalization of physics informed neural networks (PINNs), our method relies on deep neural network surrogates in addition to a stochastic approximation strategy for computing the fractional derivatives of the DNN outputs. A key ingredient in our MC-PINNs is to construct an unbiased estimation of the physical soft constraints in the loss function. Our directly sampling approach can yield less overall computational cost compared to fPINNs proposed in \cite{pang2019fpinns} and thus provide an opportunity for solving high dimensional fractional PDEs. We validate the performance of MC-PINNs method via several examples that include high dimensional integral fractional Laplacian equations, parametric identification of time-space fractional PDEs, and fractional diffusion equation with random inputs. The results show that MC-PINNs is flexible and promising to tackle high-dimensional FPDEs.

研究动机与目标

• 解决由于分数阶导数的非局部性和奇异性导致计算成本过高的高维分数阶 PDEs 的挑战。
• 克服现有 fPINN 方法依赖分数阶导数的有限差分离散化所导致的高计算成本。
• 实现在时空分数阶 PDEs 中的参数识别，以及具有随机输入的 FPDEs 中的不确定性量化。
• 开发一种可扩展的、基于采样的方法，避免先前方法中所需的大型辅助点集。
• 在高维问题（包括 10D 积分分数阶拉普拉斯方程和具有随机参数的反问题）上展示该方法的有效性。

提出的方法

• 使用蒙特卡洛采样计算神经网络输出的分数阶导数，替代传统的有限差分方案。
• 通过随机近似构建损失函数中物理约束的无偏估计器。
• 通过基于采样的求积方法，将分数阶导数估计直接集成到 DNN 训练的损失函数中。
• 将该方法应用于涉及积分分数阶拉普拉斯算子的前向问题、时空 FPDEs 的参数识别问题，以及具有随机输入的 FPDEs 问题。
• 采用自适应采样和基于 Adam 优化器的随机小批量训练，以提升收敛性和泛化能力。
• 将 MC-PINNs 与近似贝叶斯计算（ABC）结合，用于在具有传感器数据的反问题中进行后验分布估计。

实验结果

研究问题

• RQ1 蒙特卡洛采样能否为 PINNs 中分数阶导数的计算提供一种高效且可扩展的替代有限差分方案的方法？
• RQ2 MC-PINNs 在涉及积分分数阶拉普拉斯算子的高维前向问题中（包括最高达 10D 的情况）的求解精度如何？
• RQ3 MC-PINNs 能否在具有多个未知参数的时空分数阶对流-扩散方程中有效实现参数识别？
• RQ4 MC-PINNs 在具有随机输入的 FPDEs（如随机分数阶阶数或扩散系数）中处理不确定性量化的能力如何？
• RQ5 MC-PINNs 在高维反问题中与 fPINNs 相比，其可扩展性和性能表现如何？

主要发现

• 在 1D 反向 ADE 问题中，MC-PINNs 达到相对 L2 误差 5.04 × 10⁻⁴，所有识别出的参数均接近真实值。
• 在 3D 反向 ADE 问题中，相对 L2 误差为 1.18 × 10⁻³，识别出的参数为 α = 1.50115，γ = 0.50005，c = 0.09981。
• 在 5D 反向 ADE 问题中，相对 L2 误差为 3.26 × 10⁻³，成功恢复了全部八个未知参数。
• 该方法在 10D 空间分数阶拉普拉斯问题中表现出稳健性能，展示了超越传统数值方法的可扩展性。
• 对于具有随机输入的分数阶扩散问题，相对 L2 误差随维度增加而上升（2D：低，5D：中等，10D：较高），但代理模型在固定残差点数下仍保持高精度。
• 结合 MC-PINNs 的近似贝叶斯计算成功恢复了 α 和 µ 的后验分布，真实值（α = 1，µ = 0）位于可信区间内。