[논문 리뷰] Flow field tomography with uncertainty quantification using a Bayesian physics-informed neural network

Joseph P. Molnar, Samuel J. Grauer|arXiv (Cornell University)|2021. 08. 20.

Model Reduction and Neural Networks참고 문헌 68인용 수 49

한 줄 요약

이 논문은 희소한 선형 통과(LoS) 측정값에서 직접 2차원 유동장 톰그래피 재구성을 위한 베이지안 물리 기반 신경망(B-PINN)을 소개한다. Navier–Stokes 방정식과 이동-확산 방정식을 손실 함수에 통합하여 물리 법칙을 직접 통합한다. 이 방법은 최신 기술 대비 뛰어난 재구성 정확도를 달성하며, 포괄적인 불확실성 정량화(UQ)를 가능하게 하여 노이즈가 있는 데이터에서 준수수렴 현상을 드러내고, 모델 검증을 위한 강력한 사후 분포를 제공한다.

ABSTRACT

We report a new approach to flow field tomography that uses the Navier-Stokes and advection-diffusion equations to regularize reconstructions. Tomography is increasingly employed to infer 2D or 3D fluid flow and combustion structures from a series of line-of-sight (LoS) integrated measurements using a wide array of imaging modalities. The high-dimensional flow field is reconstructed from low-dimensional measurements by inverting a projection model that comprises path integrals along each LoS through the region of interest. Regularization techniques are needed to obtain realistic estimates, but current methods rely on truncating an iterative solution or adding a penalty term that is incompatible with the flow physics to varying degrees. Physics-informed neural networks (PINNs) are new tools for inverse analysis that enable regularization of the flow field estimates using the governing physics. We demonstrate how a PINN can be leveraged to reconstruct a 2D flow field from sparse LoS-integrated measurements with no knowledge of the boundary conditions by incorporating the measurement model into the loss function used to train the network. The resulting reconstructions are remarkably superior to reconstructions produced by state-of-the-art algorithms, even when a PINN is used for post-processing. However, as with conventional iterative algorithms, our approach is susceptible to semi-convergence when there is a high level of noise. We address this issue through the use of a Bayesian PINN, which facilitates comprehensive uncertainty quantification of the reconstructions, enables the use of a more intuitive loss function, and reveals the source of semi-convergence.

연구 동기 및 목표

• . 기존의 흐름장 톰그래피 재구성 기법이 가지는 정의되지 않은 문제성과 노이즈 민감성 문제를 해결하고자, 물리 법칙을 재구성 과정에 직접 통합한다.
• 유체역학 물리 법칙과 부적합한 전통적 정규화 기법의 한계를 극복하고자 한다.
• 직접 재구성 기반의 물리 기반 신경망(PINN)이 표준 재구성 알고리즘에 PINN를 후처리하는 것보다 더 정확한 결과를 도출할 수 있음을 입증하고자 한다.
• PINN 프레임워크 내에서의 베이지안 추론이 불확실성 정량화(UQ)를 어떻게 가능하게 하고 노이즈 및 모델 오차에 대한 강건성을 향상시키는지 탐구한다.
• B-PINN가 정량적 모델 비교 및 벤치마킹을 위한 신뢰할 수 있는 사후 분포를 생성할 수 있는 능력을 검증하는 것

제안 방법

• . 손실 함수에 측정 모델(투영 행렬 A)과 주도적인 Navier–Stokes 및 이동-확산 방정식을 통합한 물리 기반 신경망(PINN)을 사용한다.
• PINN는 중간 재구성 단계를 건너뛰고, 직접 LoS 통합 측정값에서 2차원 유동장을 재구성하기 위해 종단간(end-to-end)으로 훈련된다.
• B-PINN는 네트워크 가중치의 사후 분포에서 샘플링하여 재구성된 필드의 완전한 불확실성 정량화(UQ)를 가능하게 한다.
• B-PINN는 유체역학 물리 법칙을 엄격히 준수하도록 하는 사전 분포를 사용하여 노이즈 조건 하에서도 더 강력한 최적화와 개선된 재구성 성능을 달성한다.
• 훈련 과정은 세 단계로 모니터링된다: 단계 I(초기 수렴), 단계 II(물리적 일관성), 단계 III(노이즈로 인한 준수수렴).
• 실제 데이터에서 노이즈에 과적합되는 것을 방지하기 위해, 단계 I에서 단계 II로의 전이를 기반으로 한 정규화 기반의 정지 기준을 제안한다.

실험 결과

연구 질문

• RQ1 . 측정 모델을 손실 함수에 통합함으로써, 사전 재구성 단계 없이도 희소한 선형 통과(LoS) 측정값에서 직접 2차원 유동장을 PINN로 재구성할 수 있는가?
• RQ2 PINN를 직접 재구성에 사용할 경우와 표준 재구성 알고리즘에 PINN를 후처리하는 경우의 정확도는 어떻게 비교되는가?
• RQ3 노이즈가 있는 데이터 재구성에서 준수수렴 현상이 발생하는 원인은 무엇이며, 체계적인 훈련 제도를 통해 이를 감지하고 완화할 수 있는가?
• RQ4 베이지안 PINN는 기존의 PINN(MAP 추정)보다 더 신뢰할 수 있고 정보가 풍부한 불확실성 추정을 제공할 수 있는가?
• RQ5 B-PINN에서 더 엄격한 물리 법칙 사전 분포는 노이즈 조건 하에서 재구성 정확도를 얼마나 향상시킬 수 있는가?

주요 결과

• . 직접 재구성 기반의 PINN는 더 적고 노이즈가 많은 투영 데이터를 사용하더라도, 표준 재구성 알고리즘에 PINN를 후처리하는 것보다 더 뛰어난 성능을 보였다.
• 훈련 과정은 세 단계로 나뉘었으며, 초기 수렴, 물리적 일관성, 노이즈로 인한 준수수렴을 확인했고, 단계 I에서 단계 II로의 전이가 신뢰할 수 있는 정지 기준이 되었다.
• 손실 함수 분석을 통해 노이즈가 있는 데이터에서의 준수수렴 현상이 확인되었으며, 정규화 계수 γ = 10−7에서 비볼록 행동이 나타나 과적합 위험이 있음을 시사했다.
• 베이지안 PINN는 C-PINN의 MAP 추정보다 조건부 평균(CM) 재구성 결과가 진짜 유동장과 더 유사한 경향을 보였다. 특히 노이즈 조건에서 두드러졌다.
• B-PINN에서 유도된 불확실성 지apap은 빔 간격과 도메인 경계에서 높아졌으며, 이는 측정이 희소한 영역과 일치하여, 이 방법의 신뢰성 평가 능력이 검증됨을 시사했다.
• B-PINN의 주변 사후 분포 분석 결과, 진짜 값들이 항상 높은 사후 밀도 영역 내에 위치하여, 이 방법의 강건성과 모델 검증에 대한 유용성을 확인했다.