[논문 리뷰] End-to-end differentiable learning of turbulence models from indirect observations

Carlos A. Michelén Ströfer, Heng Xiao|arXiv (Cornell University)|2021. 04. 10.

Model Reduction and Neural Networks참고 문헌 18인용 수 10

한 줄 요약

이 논문은 레이놀즈 평균 나비에르-스토크스(RANS) 해소기와 신경망 난류 모델을 결합하여 간접 관측 자료—예를 들어 속도장 및 압력장—로부터 비선형 에디 비산도 모델을 학습하는 종단간(end-to-end) 미분 가능 프레임워크를 제시한다. RANS 감도에 대해 연속적 애드조인트 방법과 신경망에 대해 자동 미분을 사용함으로써, 이 방법은 합성 데이터로부터 진정한 난류 폐쇄 모델을 성공적으로 학습하고, 정확한 선형 폐쇄가 존재하지 않는 경우에도 새로운 유동 기하 구조로 일반화할 수 있다.

ABSTRACT

The emerging push of the differentiable programming paradigm in scientific computing is conducive to training deep learning turbulence models using indirect observations. This paper demonstrates the viability of this approach and presents an end-to-end differentiable framework for training deep neural networks to learn eddy viscosity models from indirect observations derived from the velocity and pressure fields. The framework consists of a Reynolds-averaged Navier-Stokes (RANS) solver and a neural-network-represented turbulence model, each accompanied by its derivative computations. For computing the sensitivities of the indirect observations to the Reynolds stress field, we use the continuous adjoint equations for the RANS equations, while the gradient of the neural network is obtained via its built-in automatic differentiation capability. We demonstrate the ability of this approach to learn the true underlying turbulence closure when one exists by training models using synthetic velocity data from linear and nonlinear closures. We also train a linear eddy viscosity model using synthetic velocity measurements from direct numerical simulations of the Navier-Stokes equations for which no true underlying linear closure exists. The trained deep-neural-network turbulence model showed predictive capability on similar flows.

연구 동기 및 목표

• 직접 레이놀즈 응력 측정보다 더 접근하기 쉬운 속도장 및 압력장과 같은 간접 관측 자료를 사용하여 데이터 기반 난류 모델을 훈련하기 위한 미분 가능 프레임워크 개발
• RANS 해소기 내에서 연속적 애드조인트 방정식을 사용하여 감도를 계산함으로써 간접 관측 자료에 대한 기울기 계산을 가능하게 하여, 깊은 신경망 모델을 간접 관측 자료에서 훈련하는 데 발생하는 과제를 극복
• 직접 숫자 시뮬레이션(DNS)에서 유도된 합성 데이터를 사용하여, 진정한 선형 폐쇄가 존재하지 않는 조건에서도 깊은 신경망이 정확한 에디 비산도 폐쇄를 학습할 수 있음을 입증
• 특히 기하 구조가 다양한 파동형 산기류에서의 복잡한 유동을 포함하여, 훈련된 모델이 새로운 기하 구조로 일반화하는 능력을 평가

제안 방법

• 레이놀즈 평균 나비에르-스토크스(RANS) 해소기에 비선형 에디 비산도 모델로 깊은 신경망을 통합하고, 레이놀즈 응력 이방성의 매개변수화를 위해 정합성 기반 표현(integrity basis representation)을 사용
• RANS 시스템의 연속적 애드조인트 방정식을 사용하여 간접 관측 자료(예: 속도장)가 레이놀즈 응력 필드에 대해 감도를 계산
• 신경망 가중치에 대한 손실 함수의 기울기를 계산하기 위해 자동 미분을 사용하여 전체 모델 체인을 거쳐 역전파 가능하게 구현
• 예측된 속도/압력장과 관측된 속도/압력장 간의 차이를 기반으로 한 손실 함수를 사용하여 신경망을 종단간으로 훈련
• 기하 구조가 알려진 난류 모델(예: k–ω, k–ε) 및 파동형 산기류의 직접 숫자 시뮬레이션(DNS)에서 유도된 합성 데이터를 사용하여 학습 능력을 검증
• 훈련된 모델을 다양한 기하 구조(예: 기하 구조가 다른 산기울기)에서의 유동 예측에 적용하여 일반화 및 외삽 성능 평가

실험 결과

연구 질문

• RQ1 딥 뉴럴 네트워크는 속도장 및 압력장과 같은 간접 관측 자료만을 사용하여 정확한 비선형 에디 비산도 모델을 학습할 수 있는가?
• RQ2 기존 모델에서 유도된 합성 데이터를 사용하여 진정한 기초 난류 폐쇄 모델을 회복하는 데 있어 제안된 미분 가능 프레임워크의 효과는 어떠한가?
• RQ3 기본 흐름 물리에서 진정한 선형 폐쇄가 존재하지 않는 경우—예를 들어 파동형 산기류의 DNS에서—이 프레임워크가 의미 있는 선형 에디 비산도 모델을 학습할 수 있는가?
• RQ4 한 가지 기하 구조에서 훈련된 모델이 다른 기하 구조(예: 파동형 산기류에서 기울기가 다른 경우)의 흐름을 얼마나 잘 일반화하여 예측할 수 있는가?
• RQ5 훈련 과정에서 속도 예측 향상과 스칼라 계수 정확도 향상 사이의 균형은 어떻게 이루어지며, 수렴 특성은 어떠한가?

주요 결과

• 합성 속도 데이터에서 기반으로 삼은 선형 및 비선형 RANS 모델의 진정한 기초 난류 폐쇄 모델을 성공적으로 학습하여, 이 방법이 알려진 물리 법칙을 복원할 수 있음을 입증
• 파동형 산기류의 경우, 훈련된 선형 에디 비산도 모델이 α = 1.5(약간에서 중간 정도의 분리 영역)에서 표준 k–ω 모델보다 상부 채널에서 더 나은 속도 예측 성능을 보였다
• 모델은 새로운 기하 구조로 일반화되었으며, α = 0.5(강한 분리 영역)일 경우 상부 채널에서는 k–ω 모델보다 성능이 뛰어났고, 하부 채널에서는 k–ω 모델이 더 우수한 성능을 보였다
• 속도장 예측 향상은 수십 번의 훈련 스텝 내에 달성되었지만, 정확한 스칼라 계수 복원은 1~2개의 지수 단위 더 많은 스텝이 필요했으며, 속도 정확도 향상에 대한 수익 감소 현상이 관찰됨
• 중앙 채널에서 τyz를 정확히 예측하지 못했음에도 불구하고 속도 예측 성능에 크게 영향을 주지 않아, 손실 곡면의 강건성을 시사함
• 결과적으로, 합성 데이터가 진정한 모델을 학습할 수 있는지 평가하기 위해 필수적이며, 단지 관심 있는 양의 예측 성능 향상만을 목표로 하는 것이 아니라, 진정한 모델 학습 능력을 평가하는 데 핵심적임을 확인