[논문 리뷰] Learned Turbulence Modelling with Differentiable Fluid Solvers: Physics-based Loss-functions and Optimisation Horizons

Bjoern List, Liwei Chen외 1명|arXiv (Cornell University)|2022. 02. 14.

Model Reduction and Neural Networks인용 수 8

한 줄 요약

이 논문은 물리 기반 손실 함수와 훈련 중 확장된 솔버 언롤링을 사용하여, 유동 해소 과정에서의 난류를 기반으로 하는 손실 함수를 사용하는 복합 물리 기반 딥 러닝 프레임워크를 제안한다. 이 방법은 후행 통계를 직접 최적화하지 않더라도 2D 난류 흐름의 장기적 안정성과 정확도를 향상시키며, 최대 14배의 속도 향상과 레이놀즈 수 및 소용루스 스케일에 걸친 강력한 일반화 성능을 달성한다.

ABSTRACT

In this paper, we train turbulence models based on convolutional neural networks. These learned turbulence models improve under-resolved low resolution solutions to the incompressible Navier-Stokes equations at simulation time. Our study involves the development of a differentiable numerical solver that supports the propagation of optimisation gradients through multiple solver steps. The significance of this property is demonstrated by the superior stability and accuracy of those models that unroll more solver steps during training. Furthermore, we introduce loss terms based on turbulence physics that further improve the model accuracy. This approach is applied to three two-dimensional turbulence flow scenarios, a homogeneous decaying turbulence case, a temporally evolving mixing layer, and a spatially evolving mixing layer. Our models achieve significant improvements of long-term a-posteriori statistics when compared to no-model simulations, without requiring these statistics to be directly included in the learning targets. At inference time, our proposed method also gains substantial performance improvements over similarly accurate, purely numerical methods.

연구 동기 및 목표

• 난류 모델 훈련을 위한 다중 수치 단계를 거쳐 기울기 역전파를 가능하게 하는 기울기 역전파 가능한 유동 해소 과정을 개발한다.
• 훈련 중 더 많은 솔버 단계를 언롤링하여 학습된 난류 모델의 장기적 안정성과 정확도를 향상시킨다.
• 난류 이론에서 유도된 물리 기반 손실 함수를 통합하여, 후행 통계에 대한 직접적 감독 없이도 모델의 정밀도를 향상시킨다.
• 하이브리드 신경망-수치적 해소 과정이 레이놀즈 수 및 소용루스 스케일이 다양한 난류 흐름에서 일반화할 수 있으며 순수 수치적 방법을 초월하는 성능을 보임을 입증한다.

제안 방법

• 기울기 역전파가 가능한 비압축성 나비에-스토크스 해소 과정을 구현하여, 다중 시간 단계를 거쳐 난류 모델의 종단 간 훈련을 가능하게 한다.
• 컨volutional 아키텍처를 사용하여, 미세해상도의 대규모 유동 특징을 보정하기 위해 서브그리드 스케일 응력 예측을 학습한다.
• 기본적인 난류 방정정식에서 유도된 물리 기반 손실 함수를 사용하여 학습을 안내한다. 이에는 에너지 소산 및 코어스터리비티 동역학이 포함된다.
• 훈련 과정에서 솔버를 다수의 단계로 언롤링하며, 기울기 정지 기법을 사용하여 전체 시퀀스를 거쳐 최적화를 가능하게 하여 장기적 일致성을 향상시킨다.
• 기울기가 모든 언롤된 단계를 통해 전파되는 다단계 훈련 루프를 사용하며, 기존의 머신러닝 기법과 대비하여 초기 기울기를 기각하거나 잘라내지 않는다.
• 프레임워크는 세 가지 2D 난류 사례에서 평가된다: 균일한 감쇠 난류, 시간적으로 변화하는 혼합층, 공간적으로 변화하는 혼합층.

실험 결과

연구 질문

• RQ1 기울기 역전파 가능한 유동 해소 과정은 다수의 솔버 단계를 장기적으로 언롤링하여 학습된 난류 모델의 안정성과 정확도를 향상시킬 수 있는가?
• RQ2 난류 이론에서 유도된 물리 기반 손실 함수는 후행 통계에 대한 직접적 감독 없이도 모델 정확도와 일반화 능력을 향상시키는가?
• RQ3 훈련 중 언롤링하는 솔버 단계 수를 늘릴수록 장기적 시뮬레이션의 안정성과 정확도는 어느 정도 향상되는가?
• RQ4 제안된 하이브리드 접근법은 레이놀즈 수와 소용루스 스케일이 다양한 난류 흐름에서 일반화할 수 있는가?
• RQ5 학습된 모델의 성능은 정확도와 계산 효율성 측면에서 순수 수치적 해소 과정과 비교해 어떻게 되는가?

주요 결과

• 표준 수치적 해소 과정과 비교해 최대 14배의 속도 향상을 달성하면서도 장기 시뮬레이션에서 높은 정확도를 유지했다.
• 확장된 솔버 언롤링을 통해 훈련된 시뮬레이션은 훈련 기간을 훨씬 초월한 장기 시뮬레이션 기간 동안도 안정적이고 정확했다. 이는 강력한 시간적 일관성을 보였다.
• 이러한 통계에 대한 직접적 감독 없이도 난류 운동 에너지 스펙트럼과 시간에 따른 진동을 정확히 재현했으며, 소용루스의 뒤집힘 및 융합 사건까지도 잘 반영했다.
• 후행 통계가 훈련 목표에 포함되지 않았음에도 불구하고, 물리 기반 손실 함수는 표준 L2 손실 대비 모델 성능을 크게 향상시켰다.
• 등방성 난류에서 Re=126에서 Re=296까지의 레이놀즈 수 범위에서 잘 일반화되었으며, 혼합층에서 소용루스 크기는 7δω₀에서 60δω₀까지 포괄했다.
• 다양한 교란 파rameter로 훈련된 공간적으로 변화하는 혼합층 사례에서도 강건성을 보였으며, 강력한 외삽 능력을 입증했다.