[논문 리뷰] Physics-Constrained Bayesian Neural Network for Fluid Flow Reconstruction with Sparse and Noisy Data

Luning Sun, Jianxun Wang|arXiv (Cornell University)|2020. 01. 15.

Model Reduction and Neural Networks참고 문헌 42인용 수 15

한 줄 요약

이 논문은 희박하고 노이즈가 많은 속도 측정치로부터 고해상도 유체 흐름 필드를 복원하기 위한 물리적 제약을 가한 베이지안 신경망(PC-BNN)을 제안한다. 물리적 제약(나비에-스토크스 방정식)을 베이지안 우도 함수에 통합하고, 스틴 변분 경사 하강법을 사용하여 효율적인 추론을 구현함으로써, 측정 노이즈 상황에서 데이터 기반의 물리적 제약 학습보다 유의미하게 뛰어난 정확도를 보이며 불확실성을 정량화한 흐름 복원이 가능해진다.

ABSTRACT

In many applications, flow measurements are usually sparse and possibly noisy. The reconstruction of a high-resolution flow field from limited and imperfect flow information is significant yet challenging. In this work, we propose an innovative physics-constrained Bayesian deep learning approach to reconstruct flow fields from sparse, noisy velocity data, where equation-based constraints are imposed through the likelihood function and uncertainty of the reconstructed flow can be estimated. Specifically, a Bayesian deep neural network is trained on sparse measurement data to capture the flow field. In the meantime, the violation of physical laws will be penalized on a large number of spatiotemporal points where measurements are not available. A non-parametric variational inference approach is applied to enable efficient physics-constrained Bayesian learning. Several test cases on idealized vascular flows with synthetic measurement data are studied to demonstrate the merit of the proposed method.

연구 동기 및 목표

• 의료 영상 및 풍력 발전소 모니터링과 같은 분야에서 제한적이고 희박하며 노이즈가 많은 측정치로부터 고해상도 유체 흐름 필드를 복원하는 데 도전하는 데 목적을 두며.
• 측정 노이즈나 모델 부적합성으로 인한 불확실성을 정량화할 수 없는 결정론적 딥 러닝 모델의 한계를 극복하는 데 목적을 두며.
• 나비에-스토크스 방정식과 같은 물리 법칙을 베이지안 학습 프레임워크에 통합하여 복원 정확도와 신뢰성을 향상시키는 데 목적을 두며.
• 측정 노이즈와 모델 형식 불확실성 모두를 확률적으로 모델링하여 흐름 복원의 불확실성 정량화를 가능하게 하는 데 목적을 두며.

제안 방법

• 측정 노이즈와 모델 부적합성을 모두 수반한 우도 함수를 사용하여 베이지안 신경망을 훈련함으로써, 확률적 흐름 필드 추정이 가능해진다.
• 측정치가 없는 시공간 점들에 대한 페널티를 통해 물리적 제약을 강제로 적용함으로써, 나비에-스토크스 방정식을 손실 함수에 직접 통합한다.
• 비모수적 변분 추론 방법인 스틴 변분 경사 하강법을 사용하여 네트워크 가중치에 대한 사후 분포를 효율적으로 근사한다.
• 경계 조건을 부드럽게 적용하기 위해 페널티 매개변수(λ=0.1)를 사용하여 정확한 경계 데이터가 필요 없이 물리적 일관성을 유지한다.
• 희박한 측정 데이터에서 종합적으로 훈련되며, 네트워크는 저해상도, 노이즈가 많은 입력에서 고해상도, 불확실성 인식 흐름 필드로의 매핑을 학습한다.
• 사후 분포를 통해 평균 흐름 예측과 예측 불확실성(표준편차)을 모두 추정할 수 있으며, 이는 평균 및 최대 표준편차로 정량화된다.

실험 결과

연구 질문

• RQ1 희박하고 노이즈가 많은 속도 측정치로부터 물리적 제약을 가한 베이지안 신경망이 고해상도 유체 흐름 필드를 효과적으로 복원할 수 있는가?
• RQ2 희박한 레이블이 있는 데이터의 포함이 데이터 기반 없는 PDE 제약 학습에 비해 물리적 제약을 가진 딥 러닝의 성능을 얼마나 향상시키는가?
• RQ3 제안된 방법이 측정 노이즈 수준이 다양할 경우 흐름 복원의 불확실성을 어느 정도 정량화할 수 있는가?
• RQ4 베이지안 우도 함수를 통한 물리 법칙 통합이 복원 정확도와 내구성에 어떻게 기여하는가?
• RQ5 제안된 프레임워크에서 데이터 희박성과 불확실성 추정 정밀도 사이의 상호 상충 관계는 어떠한가?

주요 결과

• 5% 노이즈가 있는 협착 흐름의 경우, PC-BNN은 데이터 전용 기반의 상대 평균 오차 0.623을 0.041로 감소시켰으며, 평균/표준편차 0.038/0.076로 불확실성 추정을 수행하였다.
• 15% 노이즈 상황에서는 PC-BNN의 상대 평균 오차가 0.100으로, 데이터 전용 복원의 0.941보다 훨씬 낮아 고노이즈 환경에서도 뛰어난 내구성을 보였다.
• 분지 흐름의 경우, PC-BNN은 15% 노이즈에서 상대 평균 오차 0.173을 기록했으며, 데이터 전용 기반의 1.000보다 뚜렷이 뛰어난 성능을 보였다.
• 15% 노이즈 상황에서 PC-BNN은 최대 표준편차 0.325를 추정하였으며, 노이즈 증가에 따라 신뢰도 감소 경향을 반영하였다.
• 약한 데이터 기반 PC-BNN은 데이터 기반 없는 물리적 제약 학습보다 테스트 오차를 한 단계 낮추는 데 훨씬 더 빠르게 도달했으며, 희박한 데이터의 유용성을 명확히 보여주었다.
• 불확실성 추정은 잘 校정되어 있었으며, 고노이즈 및 복잡한 흐름 구조가 있는 영역에서 높은 표준편차가 관찰되었다.