[论文解读] Flow field tomography with uncertainty quantification using a Bayesian physics-informed neural network

Joseph P. Molnar, Samuel J. Grauer|arXiv (Cornell University)|Aug 20, 2021

Model Reduction and Neural Networks参考文献 68被引用 49

一句话总结

本文提出一种贝叶斯物理信息神经网络（B-PINN），用于从稀疏视线（LoS）测量中直接重建二维流场，将纳维-斯托克斯方程和对流-扩散方程嵌入损失函数。该方法在先进算法中实现了更优的重建精度，并实现了全面的不确定性量化（UQ），揭示了噪声数据中的半收敛现象，同时为模型验证提供了鲁棒的后验分布。

ABSTRACT

We report a new approach to flow field tomography that uses the Navier-Stokes and advection-diffusion equations to regularize reconstructions. Tomography is increasingly employed to infer 2D or 3D fluid flow and combustion structures from a series of line-of-sight (LoS) integrated measurements using a wide array of imaging modalities. The high-dimensional flow field is reconstructed from low-dimensional measurements by inverting a projection model that comprises path integrals along each LoS through the region of interest. Regularization techniques are needed to obtain realistic estimates, but current methods rely on truncating an iterative solution or adding a penalty term that is incompatible with the flow physics to varying degrees. Physics-informed neural networks (PINNs) are new tools for inverse analysis that enable regularization of the flow field estimates using the governing physics. We demonstrate how a PINN can be leveraged to reconstruct a 2D flow field from sparse LoS-integrated measurements with no knowledge of the boundary conditions by incorporating the measurement model into the loss function used to train the network. The resulting reconstructions are remarkably superior to reconstructions produced by state-of-the-art algorithms, even when a PINN is used for post-processing. However, as with conventional iterative algorithms, our approach is susceptible to semi-convergence when there is a high level of noise. We address this issue through the use of a Bayesian PINN, which facilitates comprehensive uncertainty quantification of the reconstructions, enables the use of a more intuitive loss function, and reveals the source of semi-convergence.

研究动机与目标

• 本文旨在通过将物理定律直接整合到重建过程中，解决传统流场层析成像重建中的病态性与噪声敏感性问题。
• 旨在克服传统正则化技术与流体动力学物理不相容的局限性。
• 本研究旨在证明，直接使用物理信息神经网络（PINN）进行重建，其结果精度高于对标准重建算法进行PINN后处理的结果。
• 本研究探讨了在PINN框架内引入贝叶斯推断如何实现不确定性量化（UQ），并提升对噪声和模型误差的鲁棒性。
• 本研究目标包括验证B-PINN生成可靠后验分布的能力，以支持定量模型比较与基准测试。

提出的方法

• 该方法采用物理信息神经网络（PINN），其损失函数同时包含测量模型（投影矩阵A）以及控制方程——纳维-斯托克斯方程与对流-扩散方程。
• PINN通过端到端训练，直接从视线积分测量中重建二维流场，避免了中间重建步骤。
• 采用贝叶斯PINN（B-PINN）对网络权重的后验分布进行采样，从而实现对重建流场的完整不确定性量化（UQ）。
• B-PINN使用一种强约束流体物理的先验，使优化更具鲁棒性，并在噪声条件下获得更优的重建结果。
• 训练过程通过三阶段制度进行监控：第一阶段（初始收敛）、第二阶段（物理一致性）和第三阶段（噪声引起的半收敛）。
• 提出基于从第一阶段到第二阶段的过渡作为停止准则，以正则化训练过程，避免在真实数据中对噪声过拟合。

实验结果

研究问题

• RQ1 能否通过将投影模型嵌入损失函数，利用PINN直接从稀疏LoS测量中重建二维流场，而无需依赖预重建步骤？
• RQ2 直接PINN重建与对标准重建算法进行PINN后处理相比，其精度如何？
• RQ3 噪声数据重建中的半收敛现象由何引起？是否可通过合理的训练制度实现检测与缓解？
• RQ4 与传统PINN（MAP估计）相比，贝叶斯PINN能否提供更可靠、更具信息量的不确定性估计？
• RQ5 在噪声条件下，B-PINN中更严格的物理先验在多大程度上能提升重建精度？

主要发现

• 即使投影数量更少且噪声更大，直接使用PINN的重建性能也优于对标准重建结果进行PINN后处理的方法。
• 该方法识别出三个训练阶段：初始收敛、物理一致性以及噪声导致的半收敛；从第一阶段到第二阶段的过渡被用作可靠的停止准则。
• 通过损失函数分析确认了噪声数据中的半收敛现象，低正则化强度（γ = 10−7）下表现出非凸行为，表明存在过拟合风险。
• B-PINN生成的条件均值（CM）重建结果比C-PINN的MAP估计更贴近真实流场，尤其在噪声条件下表现更优。
• B-PINN生成的不确定性图显示，在光束间隙和域边界区域不确定性升高，与测量稀疏区域一致，验证了该方法在可靠性评估方面的能力。
• B-PINN的边际后验分布显示，真实值始终位于高后验密度区域，证实了该方法的鲁棒性及其在模型验证中的实用性。