[논문 리뷰] Mechanisms of a Convolutional Neural Network for Learning Three-dimensional Unsteady Wake Flow

Sang-Seung Lee, Donghyun You|arXiv (Cornell University)|2019. 09. 13.

Model Reduction and Neural Networks참고 문헌 64인용 수 7

한 줄 요약

이 연구는 원통 뒤의 3차원 비정상 유동을 예측하기 위해 다중 해상도 컨volution 신경망(CNN) 시스템을 개발한다. 두 유동 영역—3차원 웨이크 전이 및 시어 레이어 전이—에서 적용된다. 특징 맵 분석과 푸리에 분석을 통해 저자들은 CNN이 층을 통해 파수 정보를 추출하고 전송함으로써 역학을 예측함을 규명하였으며, 예측 성능에 손실 없이 85%의 불필요한 특징 맵을 제거할 수 있음을 입증하였다. 이는 설계 시의 시행착오를 줄이고 효율적이며 해석 가능한 유동 모델링을 가능하게 한다.

ABSTRACT

Convolutional neural networks (CNNs) have recently been applied to predict or model fluid dynamics. However, mechanisms of CNNs for learning fluid dynamics are still not well understood, while such understanding is highly necessary to optimize the network or to reduce trial-and-errors during the network optmization. In the present study, a CNN to predict future three-dimensional unsteady wake flow using flow fields in the past occasions is developed. Mechanisms of the developed CNN for prediction of wake flow behind a circular cylinder are investigated in two flow regimes: the three-dimensional wake transition regime and the shear-layer transition regime. Feature maps in the CNN are visualized to compare flow structures which are extracted by the CNN from flow at the two flow regimes. In both flow regimes, feature maps are found to extract similar sets of flow structures such as braid shear-layers and shedding vortices. A Fourier analysis is conducted to investigate mechanisms of the CNN for predicting wake flow in flow regimes with different wave number characteristics. It is found that a convolution layer in the CNN integrates and transports wave number information from flow to predict the dynamics. Characteristics of the CNN for transporting input information including time histories of flow variables is analyzed by assessing contributions of each flow variable and time history to feature maps in the CNN. Structural similarities between feature maps in the CNN are calculated to reveal the number of feature maps that contain similar flow structures. By reducing the number of feature maps that contain similar flow structures, it is also able to successfully reduce the number of parameters to learn in the CNN by 85\% without affecting prediction performances.

연구 동기 및 목표

• 복잡한 3차원 비정상 유체역학, 특히 웨이크 유동을 학습하는 데서 CNN의 예측 메커니즘을 이해하기 위해.
• 정보가 층을 통해 어떻게 처리되고 전송되는지 밝혀내어 CNN 아키텍처 설계에서의 시행착오 의존도를 줄이기 위해.
• 예측 성능 저하 없이 불필요한 특징 맵을 식별하고 제거하기 위해.
• 다른 유동 영역(웨이크 전이 및 시어 레이어 전이)이 특징 맵 표현과 정보 전달 방식에 미치는 영향을 조사하기 위해.
• 유체역학 응용 분야에 적합한 CNN 최적화를 위한 체계적이고 데이터 기반의 접근법을 제공하기 위해.

제안 방법

• 다양한 공간 스케일에서 유동 역학을 캡처하기 위해 다중 하위넷을 갖춘 다중 해상도 CNN 시스템을 구축하였다.
• 비압축성 나비에-스토크스 방정식의 수치 시뮬레이션을 통해 ReD = 3900을 포함한 레이놀즈 수에서 유동장 데이터셋을 생성하였다.
• 각 컨볼루션 층의 특징 맵을 시각화하여 브레이드 시어 레이어 및 탈출 에디스와 같은 유동 구조를 분석하였다.
• 다양한 스케일 간 파수 정보의 통합 및 전달 방식을 조사하기 위해 푸리에 분석을 적용하였다.
• 기여도 분석을 통해 개별 유동 변수와 시간 이력이 특징 맵 출력에 미치는 영향을 평가하여 정보 전달 메커니즘을 평가하였다.
• 특징 맵 간의 구조적 유사성을 유사도 행렬을 사용해 정량화하여 불필요한 맵을 탐지하고 제거하였으며, 이로 인해 모델 복잡도를 85% 감소시켰다.

실험 결과

연구 질문

• RQ1 다중 해상도 CNN 시스템에서 특징 맵은 다양한 비정상 웨이크 유동 영역에서 어떻게 유동 구조를 표현하는가?
• RQ2 컨볼루션 층은 3차원 비정상 유동 역학을 예측하기 위해 파수 정보를 어떻게 통합하고 전송하는가?
• RQ3 CNN 시스템의 각 층에서 다른 유동 변수와 시간 이력의 기여도는 어떻게 변화하는가?
• RQ4 유사한 유동 구조를 포함하는 불필요한 특징 맵을 얼마나 제거해도 예측 정확도에 영향을 주지 않을 수 있는가?
• RQ5 체계적인 유사도 기반 방법을 통해 특징 맵 수를 줄여도 CNN 기반 유동 모델링의 예측 성능를 유지할 수 있는가?

주요 결과

• CNN 시스템은 컨볼루션 층을 통해 전달되는 파수 정보를 활용하여 3차원 비정상 웨이크 유동을 3차원 웨이크 전이 및 시어 레이어 전이 영역 모두에서 성공적으로 예측하였다.
• 다양한 레이놀즈 수에서 특징 맵은 일관되게 브레이드 시어 레이어 및 탈출 에디스와 같은 핵심 유동 구조를 추출하였으며, 더 높은 Re에서 더 세밀한 구조가 나타났다.
• 컨볼루션 층은 입력 유동장의 파수 정보를 통합하고 전달하여 다양한 길이 척도에서의 예측을 가능하게 하였다.
• 깊이가 깊어질수록 유동 변수와 시간 이력의 누적 통합으로 인해 더 명확하고 일관된 유동 구조가 나타났다.
• 깊은 층에서는 모든 유동 변수의 기여도가 거의 동일했으며, 최근 시간 이력이 더 강하게 기여함을 통해 시간적 상관관계 학습이 이루어졌음을 나타냈다.
• 구조적 유사성을 기반으로 85%의 특징 맵을 제거한 감소된 CNN 시스템은 원래 모델과 예측 성능가 흡사하여 정확도 손실 없이 모델 압축을 크게 달성하였다.