[论文解读] Solving Inverse Problems in Steady-State Navier-Stokes Equations using Deep Neural Networks

Tiffany Fan, Kailai Xu+2 more|arXiv (Cornell University)|Aug 30, 2020

Model Reduction and Neural Networks参考文献 15被引用 9

一句话总结

本文提出了一种深度学习框架，将深度神经网络（DNNs）与自动微分结合，用于求解稳态Navier-Stokes方程中的反问题。通过将PDE求解器和DNN表示为可微分的计算图，该方法实现了基于梯度的优化，能够从稀疏、噪声较大的速度观测中推断空间变化的粘度和导热系数场，即使数据有限，也表现出有效的正则化和精确的重建效果。

ABSTRACT

Inverse problems in fluid dynamics are ubiquitous in science and engineering, with applications ranging from electronic cooling system design to ocean modeling. We propose a general and robust approach for solving inverse problems in the steady-state Navier-Stokes equations by combining deep neural networks and numerical partial differential equation (PDE) schemes. Our approach expresses numerical simulation as a computational graph with differentiable operators. We then solve inverse problems by constrained optimization, using gradients calculated from the computational graph with reverse-mode automatic differentiation. This technique enables us to model unknown physical properties using deep neural networks and embed them into the PDE model. We demonstrate the effectiveness of our method by computing spatially-varying viscosity and conductivity fields with deep neural networks (DNNs) and training the DNNs using partial observations of velocity fields. We show that the DNNs are capable of modeling complex spatially-varying physical fields with sparse and noisy data. Our implementation leverages the open access ADCME, a library for solving inverse modeling problems in scientific computing using automatic differentiation.

研究动机与目标

• 解决在仅获得速度场部分且间接观测的情况下，估计流体动力学中空间变化的物理属性（如粘度）的挑战。
• 克服稳态Navier-Stokes模拟中反问题的不适定性和高计算成本。
• 开发一种通用且鲁棒的框架，将深度神经网络与数值PDE求解器集成用于反演建模。
• 利用自动微分高效计算通过PDE求解器和DNN的梯度，以支持优化。
• 展示DNN作为正则化器在从稀疏且噪声较大的数据中重建复杂空间变化物理场方面的有效性。

提出的方法

• 将反问题表述为约束优化问题，其中PDE为约束条件，损失函数衡量观测与预测速度场之间的差异。
• 将PDE求解器和DNN表示为具有可微分算子的计算图，以支持反向自动微分。
• 使用自动微分反向传播通过整个模拟流程的梯度，包括PDE求解器中的牛顿迭代。
• 通过基于梯度的优化方法训练DNN，以预测空间变化的粘度或导热系数场。
• 使用开源的ADCME和AdFem库实现该框架，这些库支持PDE的自动微分和有限元方法。
• 将该方法应用于三个测试案例：纯Navier-Stokes方程、带热传导方程的Navier-Stokes方程，以及带输运方程的Navier-Stokes方程，展示了其多功能性。

实验结果

研究问题

• RQ1 在稳态Navier-Stokes流动中，DNN能否有效从稀疏且噪声较大的速度观测中重建空间变化的粘度场？
• RQ2 在数据有限的条件下，使用DNN作为正则化器在多大程度上改善了反问题的条件和精度？
• RQ3 通过PDE求解器实现自动微分在多大程度上支持了DNN在物理属性推断中的端到端训练？
• RQ4 所提出的框架能否处理涉及Navier-Stokes方程与其他物理现象（如热传导或粒子输运）耦合的系统？
• RQ5 在高分辨率模拟中应用该方法时，所面临的计算和数值挑战（如内存消耗和非凸性）是什么？

主要发现

• 基于DNN的方法即使在仅有22个稀疏速度观测的情况下，也成功重建了依赖于x坐标的分层结构空间变化粘度场。
• 该方法在100次优化步骤后仍保持低重建误差，准确估计了参考粘度场，如图9所示。
• 与在稀疏数据条件下采用像素级近似的传统方法相比，使用DNN作为正则化器显著提高了反问题的稳定性和收敛性。
• 该框架在处理多个耦合物理系统（包括带热传导和输运方程的Navier-Stokes方程）方面表现出鲁棒性，证实了其通用性。
• 尽管存在高内存使用和非凸优化等挑战，该方法依然有效，尤其在对DNN施加先验结构假设（如分层模型）时表现更优。
• 使用ADCME和AdFem的实现支持高效的梯度计算，并可扩展至科学计算中的其他反问题。