[논문 리뷰] Long-term predictions of turbulence by implicit U-Net enhanced Fourier neural operator

Zhijie Li, Wenhui Peng외 2명|arXiv (Cornell University)|2023. 05. 17.

Fluid Dynamics and Turbulent Flows인용 수 8

한 줄 요약

이 논문은 3D 난류의 안정적이고 정확하며 빠른 장기 예측을 위해 IU-FNO를 제안합니다. 이는 vanilla FNO, IFNO, U-FNO, DSM보다 다양한 통계에서 우수합니다.

ABSTRACT

Long-term predictions of nonlinear dynamics of three-dimensional (3D) turbulence are very challenging for machine learning approaches. In this paper, we propose an implicit U-Net enhanced Fourier neural operator (IU-FNO) for stable and efficient predictions on the long-term large-scale dynamics of turbulence. The IU-FNO model employs implicit recurrent Fourier layers for deeper network extension and incorporates the U-net network for the accurate prediction on small-scale flow structures. The model is systematically tested in large-eddy simulations of three types of 3D turbulence, including forced homogeneous isotropic turbulence (HIT), temporally evolving turbulent mixing layer, and decaying homogeneous isotropic turbulence. The numerical simulations demonstrate that the IU-FNO model is more accurate than other FNO-based models including vanilla FNO, implicit FNO (IFNO) and U-Net enhanced FNO (U-FNO), and dynamic Smagorinsky model (DSM) in predicting a variety of statistics including the velocity spectrum, probability density functions (PDFs) of vorticity and velocity increments, and instantaneous spatial structures of flow field. Moreover, IU-FNO improves long-term stable predictions, which has not been achieved by the previous versions of FNO. Besides, the proposed model is much faster than traditional LES with DSM model, and can be well generalized to the situations of higher Taylor-Reynolds numbers and unseen flow regime of decaying turbulence.

연구 동기 및 목표

• 3D 흐름에서의 장기 비선형 난류 예측의 도전과 현재 ML 접근법의 한계를 동기화합니다.
• 대규모-소규모 구조를 포착하기 위해 암묵적 푸리에 계층과 U-네트를 결합한 대리 모델(IU-FNO)을 개발합니다.
• 여러 난류 체계에 걸친 장기 예측에서 우수한 정확도와 안정성을 입증합니다.
• IU-FNO가 DSM 기반 LES보다 빠르며 더 높은 Reynolds 수 및 보지 못한 흐름 체계에 일반화될 수 있음을 보여줍니다.

제안 방법

• 시간 간격 사이의 속도 증가량을 예측하기 위해 암묵적 푸리에 계층과 U-Net을 통합하여 IU-FNO를 도입합니다.
• 고정 매개변수 수를 가진 심층 네트워크를 가능하게 하는 공유 히든 계층을 사용하여 긴 시간 적분을 가능하게 합니다.
• 전체 필드와 대규모 FFT 재구성 사이의 차이에 적용된 U-Net을 통해 소규모 보정치를 계산합니다.
• 강제 HIT로부터의 fDNS 유도 데이터를 사용해 학습하고, DSM 및 다른 FNO 변형에 대해 다양한 난류 흐름에서 후향적으로 평가합니다.
• 속도 스펙트럼, 와류 및 속도 증가의 PDF, 구조 함수, 순간 흐름 구조를 사용해 성능을 비교합니다.

Figure 1: The Fourier neural operator (FNO) architecture.

실험 결과

연구 질문

• RQ1 IU-FNO가 vanilla FNO, IFNO, U-FNO의 한계를 넘어 LES의 3D 난류에 대해 안정적인 장기 예측을 달성할 수 있을까요?
• RQ2 암묵적 공유 계층 아키텍처가 매개변수 수를 줄이면서 심층 FNO 모델의 정확도를 유지하거나 향상시킬까요?
• RQ3 강제 HIT, 혼합층, 소멸 HIT 등 다양한 난류 체계에서 스펙트럴, 통계적, 구조적 지표 측면에서 IU-FNO의 성능은 어떠한가요?
• RQ4 더 높은 Reynolds 수(Reλ)나 보지 못한 체계에서 IU-FNO가 전통적인 DSM 기반 LES 및 다른 ML 대리모형보다 빠르고 일반화가 잘 되나요?

주요 결과

• IU-FNO는 강제 HIT에서 t/τ ≤ 50까지의 짧은 및 장기 예측에 대해 정확한 속도 스펙트럼을 산출하고, t/τ ≥ 100에서도 안정적입니다.
• U-Net을 도입해 소규모 구조를 학습시키면 기본 FNO 및 U-FNO 대비 학습 및 테스트 손실이 개선되며, L=40에서 가장 작은 테스트 손실(0.155)을 얻은 것이 IU-FNO입니다.
• 암묵적 공유 계층 모델(IFNO 및 IU-FNO)은 깊이가 증가함에 따라 매개변수 수를 줄이고 성능을 유지하는 반면, 표준 FNO/U-FNO는 그렇지 않습니다.
• IU-FNO는 시간에 걸쳐 2차 및 4차 구조 함수도 정확하게 유지하는 반면, DSM은 일부 체계에서 발산합니다.
• IU-FNO 하에서 속도 증가의 PDF는 시간에 따라 fDNS에 가깝게 남아 있으며, 후기에 IFNO 및 U-FNO를 능가합니다.
• 전반적으로 IU-FNO는 무압력 난류 통계 및 순간 흐름 구조에서 DSM, DMM, VGM 및 이전 FNO 변형을 능가하고, 전통적 LES 대비 상당한 계산 속도 향상을 제공합니다.

Figure 2: The architecture of implicit U-Net enhanced Fourier neural operator (IU-FNO).