[论文解读] Learning to Solve PDE-constrained Inverse Problems with Graph Networks

Qingqing Zhao, David B. Lindell+1 more|arXiv (Cornell University)|Jun 1, 2022

Model Reduction and Neural Networks被引用 16

一句话总结

该论文提出了一种基于图神经网络（GNN）的框架，结合自编码器风格的先验，用于求解PDE约束的逆问题，能够从稀疏观测中快速且准确地恢复初始条件或物理参数。该方法相比有限元法（FEM）求解器实现了高达90倍的速度提升，同时在波动方程和Navier–Stokes方程上的精度优于基于CNN的基线模型。

ABSTRACT

Learned graph neural networks (GNNs) have recently been established as fast and accurate alternatives for principled solvers in simulating the dynamics of physical systems. In many application domains across science and engineering, however, we are not only interested in a forward simulation but also in solving inverse problems with constraints defined by a partial differential equation (PDE). Here we explore GNNs to solve such PDE-constrained inverse problems. Given a sparse set of measurements, we are interested in recovering the initial condition or parameters of the PDE. We demonstrate that GNNs combined with autodecoder-style priors are well-suited for these tasks, achieving more accurate estimates of initial conditions or physical parameters than other learned approaches when applied to the wave equation or Navier-Stokes equations. We also demonstrate computational speedups of up to 90x using GNNs compared to principled solvers. Project page: https://cyanzhao42.github.io/LearnInverseProblem

研究动机与目标

• 为在物理和工程领域中高效且准确地求解病态PDE约束逆问题提供解决方案。
• 将适用于前向物理模拟的图神经网络（GNN）扩展至涉及未知初始条件或参数的逆问题。
• 集成连续坐标网络作为自编码器风格的先验，以建模初始状态和物理参数的低维潜在空间。
• 在稀疏观测条件下实现计算效率与高精度，超越基于网格的CNN和传统求解器。
• 在复杂物理系统（如流体动力学和波传播）中，展示在非结构化、自适应网格上的可扩展性与泛化能力。

提出的方法

• 该框架使用在非结构化、自适应网格上运行的预训练GNN作为可微分前向模拟器，以建模PDE动力学。
• 采用学习到的生成先验（自编码器）将低维潜在码映射为初始条件或物理参数，将其约束在低维流形上。
• 先验在由经典FEM求解器生成的轨迹数据集上进行训练，从而实现高效的推理与优化。
• 在测试阶段，通过梯度下降优化潜在码，以最小化预测动力学与传感器节点处观测到的动力学之间的差异。
• 引入微调阶段，即在优化过程中更新先验的参数，以提升泛化能力，尤其是在具有挑战性的情况下。
• 该方法利用展开优化并结合反向传播通过GNN和先验，实现端到端的训练与推理。

实验结果

研究问题

• RQ1 基于GNN的前向模拟器能否有效扩展至在稀疏观测下求解PDE约束的逆问题？
• RQ2 与标准深度学习基线相比，集成自编码器风格先验在多大程度上提升了逆问题求解的精度与泛化能力？
• RQ3 在逆问题中，GNN结合学习到的先验在速度与精度方面相较于传统FEM求解器能提升多少？
• RQ4 将连续坐标网络作为先验是否增强了模型在未见网格配置和物理参数上的泛化能力？
• RQ5 在推理过程中对先验进行微调，能否提升病态逆问题的收敛性并降低重建误差？

主要发现

• 所提出的基于GNN的方法相比FEM求解器实现了高达90倍的速度提升，每次优化迭代的运行时间仅为0.694秒，而FEM为63.9秒。
• 在Navier–Stokes流体同化任务中，结合学习先验的GNN在$u_x$上的均方误差为6.55e-3，在$u_y$上为1.86e-3，优于参数量相似或更多的U-Net（CNN）基线模型。
• 引入先验的微调阶段显著降低了最终观测目标函数值，且在200次迭代后残差明显下降。
• 尽管参数量更少且在自适应、非结构化网格上运行，基于GNN并结合先验的方法在精度上仍优于U-Net（CNN）模型。
• 该方法在流体数据同化任务中对50个未见过的网格实现了更好的泛化性能，且持续优于基于网格的CNN。
• 该框架成功地从稀疏传感器测量中重建了波和Navier–Stokes问题的完整动力学，凸显了其在观测有限条件下的鲁棒性。