[논문 리뷰] A Deep Learning based Approach to Reduced Order Modeling for Turbulent Flow Control using LSTM Neural Networks

Arvind Mohan, Datta V. Gaitonde|arXiv (Cornell University)|2018. 04. 24.

Model Reduction and Neural Networks참고 문헌 41인용 수 131

한 줄 요약

이 논문은 POD 모드 계수를 LSTM 및 BiLSTM 네트워크로 모델링하여 난류 흐름용 딥 러닝 ROM을 개발하고 흐름 예측 및 제어 응용을 가능하게 한다. 또한 데이터의 기억(memory)을 분석하기 위해 허스트 지수를 도입한다.

ABSTRACT

Reduced Order Modeling (ROM) for engineering applications has been a major research focus in the past few decades due to the unprecedented physical insight into turbulence offered by high-fidelity CFD. The primary goal of a ROM is to model the key physics/features of a flow-field without computing the full Navier-Stokes (NS) equations. This is accomplished by projecting the high-dimensional dynamics to a low-dimensional subspace, typically utilizing dimensionality reduction techniques like Proper Orthogonal Decomposition (POD), coupled with Galerkin projection. In this work, we demonstrate a deep learning based approach to build a ROM using the POD basis of canonical DNS datasets, for turbulent flow control applications. We find that a type of Recurrent Neural Network, the Long Short Term Memory (LSTM) which has been primarily utilized for problems like speech modeling and language translation, shows attractive potential in modeling temporal dynamics of turbulence. Additionally, we introduce the Hurst Exponent as a tool to study LSTM behavior for non-stationary data, and uncover useful characteristics that may aid ROM development for a variety of applications.

연구 동기 및 목표

• POD 모드를 축 reduced basis로 사용하여 난류 흐름에 대한 딥 러닝 기반 축약 모델링 접근법을 입증한다.
• POD 모드의 시간 계수를 미래 흐름 진화를 예측하기 위해 LSTM 및 BiLSTM 네트워크의 타당성을 조사한다.
• 등방성 난류 및 맥동유전자유도(MHD) 난류 데이터셋에 대해 LSTM 기반 ROM의 안정성과 정확성을 평가한다.
• 예측 성능을 향상시키기 위해 POD 모드 전반에 걸친 통합 모델 대 다중 모델 학습 전략을 탐색한다.
• 비정상적인 난류 데이터에서 기억을 정량화하는 도구로서 허스트 지수를 도입하고 이를 모델 성능과 연결한다.

제안 방법

• DNS 데이터베이스에서 POD를 사용하여 지배적인 흐름 특징(POD 모드 및 시간 계수)을 추출한다.
• 짧은 과거 윈도우를 입력-출력 프레이밍으로 미래 POD 계수를 예측하기 위해 LSTM 및 양방향 LSTM(BiLSTM) 네트워크를 학습한다.
• 3D 데이터를 복수의 2D 평면으로 분해하여 JHTB 데이터셋인 강제된 등방성 난류(ISO)와 맥동유전자유도 난류(MHD)를 평가한다.
• POD 모드별 개별 모델 대 모드 전반에 걸친 통합 모델 등 학습 패러다임을 비교한다.
• 예측 지속 시간(메모리 효과)을 허스트 지수로 분석하여 지속성/반지속성이 예측 지평선 성능과 어떻게 연결되는지 평가한다.

실험 결과

연구 질문

• RQ1 LSTM(및 BiLSTM)가 지배적인 POD 모드의 시간 계수를 충분히 잘 예측하여 미래 흐름장을 재구성할 수 있는가?
• RQ2 POD 모드 전반에 걸친 통합 신경망 모델이 난류 ROM에 대해 모드별 개별 모델보다 더 우수한가?
• RQ3 허스트 지수로 포착된 기억 특성이 LSTM-ROM의 예측 정확도에 지평선 전체에서 어떤 영향을 미치는가?
• RQ4 등방성 난류 및 MHD 난류 데이터셋에 대한 ROM 성능에 예측 지평선과 모드 지속성이 어떤 영향을 미치는가?

주요 결과

• LSTM 예측은 지배적 POD 모드의 실제 시간적 경향을 일반적으로 따라가며, 이 난류 맥락에서 BiLSTM은 종종 LSTM에 비해 성능이 떨어진다.
• POD 모드 전반에 걸친 통합 모델은 공유된 통계 구조가 모드 간에 존재한다는 것을 시사하며 양호한 예측 성능을 달성할 수 있다.
• 더 긴 예측 지평선에서 특히 높은 지속성을 가진 모드의 경우 LSTM-ROM의 정확도가 악화되고, 반대로 매우 반지속적인 모드는 지평선 전체에서 예측이 어렵다.
• MASE 지표는 많은 모드에서 낮은 오차를 보이지만, 갑작스러운 동역학이 나타나는 샘플에서 더 높은 오차가 발생하며 에너지가 낮은(고 차수) 모드가 전체 흐름 정확도에 덜 기여한다.
• 등방성 난류에서는 낮은 POD 모드가 에너지를 지배하고 더 강한 지속성을 보여 짧은 지평선 예측에 영향을 준다; MHD에서 통합 모델링도 상당한 예측 능력을 보인다.
• BiLSTM은 이 혼란스러운 난류 데이터셋에서 일반적으로 LSTM보다 더 높은 오차를 보이며, 이는 난류 신호와의 장거리 의존성 가정이 충족되지 않기 때문일 가능성이 있다.