[論文レビュー] Flow field tomography with uncertainty quantification using a Bayesian physics-informed neural network

Joseph P. Molnar, Samuel J. Grauer|arXiv (Cornell University)|Aug 20, 2021

Model Reduction and Neural Networks参考文献 68被引用数 49

ひとこと要約

本稿では、ナビエ＝ストークス方程式および拡散移流方程式を損失関数に組み込むことで、希な線路上（LoS）測定値から直接2次元流れ場トモグラフィー再構成を実行するベイジアン物理情報ニューラルネットワーク（B-PINN）を提案する。この手法は、最先端のアルゴリズムを上回る再構成精度を達成し、包括的な不確実性評価（UQ）を可能にし、ノイズを含むデータにおける準収束を明らかにするとともに、モデル検証のための頑健な事後分布を提供する。

ABSTRACT

We report a new approach to flow field tomography that uses the Navier-Stokes and advection-diffusion equations to regularize reconstructions. Tomography is increasingly employed to infer 2D or 3D fluid flow and combustion structures from a series of line-of-sight (LoS) integrated measurements using a wide array of imaging modalities. The high-dimensional flow field is reconstructed from low-dimensional measurements by inverting a projection model that comprises path integrals along each LoS through the region of interest. Regularization techniques are needed to obtain realistic estimates, but current methods rely on truncating an iterative solution or adding a penalty term that is incompatible with the flow physics to varying degrees. Physics-informed neural networks (PINNs) are new tools for inverse analysis that enable regularization of the flow field estimates using the governing physics. We demonstrate how a PINN can be leveraged to reconstruct a 2D flow field from sparse LoS-integrated measurements with no knowledge of the boundary conditions by incorporating the measurement model into the loss function used to train the network. The resulting reconstructions are remarkably superior to reconstructions produced by state-of-the-art algorithms, even when a PINN is used for post-processing. However, as with conventional iterative algorithms, our approach is susceptible to semi-convergence when there is a high level of noise. We address this issue through the use of a Bayesian PINN, which facilitates comprehensive uncertainty quantification of the reconstructions, enables the use of a more intuitive loss function, and reveals the source of semi-convergence.

研究の動機と目的

• 本稿の目的は、従来の流れ場トモグラフィー再構成における不適切な定式化とノイズへの感受性を解消するために、物理法則を再構成プロセスに直接統合することにある。
• 流体動力学の物理法則と整合しない従来の正則化手法の限界を克服することにある。
• 直接的再構成としての物理情報ニューラルネットワーク（PINN）の使用が、標準再構成アルゴリズムにPINNを後処理として適用する手法よりも、より高い精度を達成することを示すことにある。
• PINNフレームワーク内でのベイジアン推論が不確実性評価（UQ）を可能にし、ノイズやモデル誤差に対する耐性を高めることを調査することにある。
• B-PINNが定量的モデル比較やベンチマークに適した信頼性の高い事後分布を生成できるかどうかの検証を含む。

提案手法

• 本手法は、測定モデル（投影行列A）と支配的となるナビエ＝ストークス方程式および拡散移流方程式を損失関数に組み込む物理情報ニューラルネットワーク（PINN）を用いる。
• PINNは、中間の再構成ステップを回避して、線路上の積分測定値から直接2次元流れ場を再構成するようにエンドツーエンドで訓練される。
• ベイジアンPINN（B-PINN）を用いて、ネットワーク重みの事後分布からのサンプリングが行われ、再構成済み流れ場の完全な不確実性評価（UQ）が可能になる。
• B-PINNは、流体の物理法則を厳密に満たす事前分布を採用しており、ノイズの多い条件下でもより頑健な最適化と改善された再構成が可能になる。
• 訓練プロセスは三段階のレジームに分けて監視される：第I段階（初期収束）、第II段階（物理的一致性）、第III段階（ノイズによる準収束）。
• 実世界のデータにおけるノイズへの過剰適合を避けるために、第I段階から第II段階への遷移を根拠とする停止基準が提案されている。

実験結果

リサーチクエスチョン

• RQ1 測定モデルを損失関数に組み込むことで、事前の再構成ステップに依存せずに、希な線路上（LoS）測定値から直接2次元流れ場を再構成するPINNを用いることは可能か？
• RQ2 標準再構成アルゴリズムにPINNを後処理として適用する手法と比較して、直接PINN再構成の精度はどの程度向上するか？
• RQ3 ノイズを含むデータ再構成における準収束の原因は何か？ そして、整合的な訓練レジームを用いることで、これを検出および緩和できるか？
• RQ4 ベイジアンPINNは、通常のPINN（MAP推定）と比較して、流れ場トモグラフィーにおいてより信頼性が高く情報量の多い不確実性推定を提供できるか？
• RQ5 B-PINNにおけるより厳密な物理的事前分布は、ノイズの多い条件下で再構成精度をどの程度向上できるか？

主な発見

• 直接的PINN再構成は、わずかでノイズの強い投影測定値を用いても、標準再構成にPINNを後処理する手法を上回る性能を示した。
• 訓練プロセスは三つのレジームに分かれており、初期収束、物理的一致性、ノイズによる準収束であり、第I段階から第II段階への遷移が信頼性の高い停止基準として機能した。
• 損失関数の分析により、ノイズを含む再構成における準収束が確認され、正則化パラメータγ = 10−7の低正則化条件下で非凸的挙動が示され、過剰適合のリスクが裏付けられた。
• ベイジアンPINNが生成した条件付き平均（CM）再構成は、特にノイズの強い条件下で、C-PINNのMAP推定よりも真の流れ場をより的確に表現していた。
• B-PINNが生成した不確実性マップは、ビームギャップやドメインの縁で不確実性が高くなる傾向を示しており、測定が希な領域と整合しており、本手法の信頼性評価能力を裏付けた。
• B-PINNの周辺事後分布は、真値が常に高い事後密度領域に位置することを示しており、本手法の頑健性とモデル検証への有用性を確認した。