[논문 리뷰] Physics Informed Machine Learning of SPH: Machine Learning Lagrangian Turbulence.

Michael Woodward, Yifeng Tian외 5명|arXiv (Cornell University)|2021. 10. 25.

Model Reduction and Neural Networks참고 문헌 49인용 수 4

한 줄 요약

이 논문은 라그랑주 난류를 모델링하기 위해 신경망과 물리 기반 파rameter를 통합한 스플라인 입자 유체역학(SPH)을 위한 물리 기반 기계학습 프레임워크를 제안한다. 정방향 및 역방향 모드 자동 미분과 민감도 분석을 결합함으로써, 이 방법은 효율적인 최적화, 역문제 해결, 난류 통계 학습, 그리고 훈련 데이터를 초월한 일반화를 가능하게 하며, 물리적 대칭성을 유지하고 데이터 요구량을 감소시킨다.

ABSTRACT

Smoothed particle hydrodynamics (SPH) is a mesh-free Lagrangian method for obtaining approximate numerical solutions of the equations of fluid dynamics; which has been widely applied to weakly- and strongly compressible turbulence in astrophysics and engineering applications. We present a learn-able hierarchy of parameterized and physics-explainable SPH informed fluid simulators using both physics based parameters and Neural Networks (NNs) as universal function approximators. Our learning algorithm develops a mixed mode approach, mixing forward and reverse mode automatic differentiation with forward and adjoint based sensitivity analyses to efficiently perform gradient based optimization. We show that our physics informed learning method is capable of: (a) solving inverse problems over the physically interpretable parameter space, as well as over the space of NN parameters; (b) learning Lagrangian statistics of turbulence (interpolation); (c) combining Lagrangian trajectory based, probabilistic, and Eulerian field based loss functions; and (d) extrapolating beyond training sets into more complex regimes of interest. Furthermore, this hierarchy of models gradually introduces more physical structure, which we show improves interpretability, generalizability (over larger ranges of time scales and Reynolds numbers), preservation of physical symmetries, and requires less training data.

연구 동기 및 목표

• 라그랑주 난류의 개선된 모델링을 위해 신경망과 물리적 파rameter를 통합한 학습 가능하고 물리적으로 설명 가능한 SPH 시뮬레이터의 계층적 구조를 개발하는 것.
• 순수 데이터 기반 SPH 모델에서의 일반화 및 해석 가능성의 한계를 극복하기 위해 물리 법칙을 학습 프레임워크에 통합하는 것.
• 모델 아키텍처에 체계적인 물리적 사전 지식을 통합하여 다양한 레이놀즈 수와 시간 스케일에서의 데이터 요구량을 줄이고 강건성을 향상시키는 것.
• 기울기 기반 최적화를 통해 물리적 파rameter와 신경망 가중치 양쪽에 대한 역문제 해결을 가능하게 하는 것.
• 라그랑주 경로 기반, 확률론적, 오일러 필드 기반의 다중 손실 함수를 통합한 통합 학습 프레임워크를 통해 난류의 종합적 표현을 가능하게 하는 것.

제안 방법

• 이 프레임워크는 정방향 및 역방향 모드 자동 미분을 사용하여 물리 기반 파rameter와 신경망 가중치의 기울기를 계산하는 혼합 모드 학습 접근법을 채택한다.
• 고차원 파rameter 공간에서의 최적화에 필요한 기울기를 효율적으로 계산하기 위해 정방향 및 수반(아djoi) 방법을 사용한 민감도 분석을 수행한다.
• 계층적 모델 구조를 통해 물리적 제약 조건을 점진적으로 신경망에 통합함으로써, 설명 가능성 향상과 물리적 대칭성 유지가 가능해진다.
• 이 방법은 다중 모달 손실 함수를 지원한다: 라그랑주 경로 추적, 확률 밀도 추정, 오일러 필드 재구성으로, 종합적인 학습 신호를 제공한다.
• 신경망은 물리 기반 손실 함수 내에서 일반 함수 근사기 역할을 하며, 예측 결과가 기초가 되는 유체역학 방정식과 일관성을 유지하도록 보장한다.
• 최적화 과정은 유체 역학의 일관성, 데이터 적합성, 다양한 유동 표현 방식에 대한 통계 정확성의 복합 손실에 의해 이끌린다.

실험 결과

연구 질문

• RQ1 물리 기반 기계학습 프레임워크는 물리적 파rameter와 신경망 가중치를 동시에 학습함으로써 SPH에서 역문제를 효과적으로 해결할 수 있는가?
• RQ2 SPH 데이터에서 학습된 신경망이 레이놀즈 수와 시간 스케일의 새로운 영역으로 일반화할 수 있는 정도는 어느 정도이며, 물리적 일관성을 유지할 수 있는가?
• RQ3 모델 계층에 물리적 구조를 통합할 경우, 설명 가능성, 데이터 효율성, 그리고 라그랑주 난류 시뮬레이션에서의 대칭성 유지에 어떤 영향을 미치는가?
• RQ4 라그랑주 경로, 확률 분포, 오일러 필드를 통합한 통합 손실 함수는 SPH 시뮬레이션의 정확성과 강건성을 향상시킬 수 있는가?
• RQ5 학습 가능한 SPH 프레임워크에 물리 기반 제약 조건을 통합할 경우, 훈련 분포를 초월한 외삽 성능이 향상되는가?

주요 결과

• 기울기 기반 최적화를 통해 물리적 파rameter 공간과 신경망 가중치 공간에서 모두 높은 효율성으로 역문제를 성공적으로 해결하였다.
• 모델은 훈련 데이터 분포를 초월하여 더 복잡한 난류 영역으로의 외삽 능력을 보이며 강력한 일반화 능력을 입증하였다.
• 모델 계층에 물리적 구조를 통합함으로써 설명 가능성 향상과 운동량 및 에너지 보존과 같은 핵심 물리적 대칭성 유지가 가능해졌다.
• 물리 기반 제약 조건으로 인한 인덕티브 바이어스 덕분에 순수 데이터 기반 접근보다 훈련 데이터 요구량이 감소하였다.
• 라그랑주 경로, 확률론적, 오일러 필드 기반 손실 함수의 조합은 난류 통계의 더 정확하고 종합적인 표현을 가능하게 하였다.
• 혼합 모드 자동 미분과 수반 민감도 분석을 사용함으로써 고차원 SPH 시뮬레이션 문제에 대한 확장 가능하고 효율적인 학습이 가능해졌다.