[論文レビュー] Mechanisms of a Convolutional Neural Network for Learning Three-dimensional Unsteady Wake Flow

Sang-Seung Lee, Donghyun You|arXiv (Cornell University)|Sep 13, 2019

Model Reduction and Neural Networks参考文献 64被引用数 7

ひとこと要約

本研究では、円形シリンダーの後方で発生する三次元非定常な流れ場の2つの流れ状態—三次元的流れの遷移とシアー層の遷移—を予測するため、マルチスケール畳み込みニューラルネットワーク（CNN）システムを開発した。特徴マップの分析とフーリエ解析を通じて、CNNが層を跨いで波数情報を抽出・輸送することを明らかにした。また、性能に損なわれることなく85%の冗長な特徴マップを削除可能であることを示し、ネットワーク設計における試行錯誤を低減する効率的で解釈可能な流れのモデリングを実現した。

ABSTRACT

Convolutional neural networks (CNNs) have recently been applied to predict or model fluid dynamics. However, mechanisms of CNNs for learning fluid dynamics are still not well understood, while such understanding is highly necessary to optimize the network or to reduce trial-and-errors during the network optmization. In the present study, a CNN to predict future three-dimensional unsteady wake flow using flow fields in the past occasions is developed. Mechanisms of the developed CNN for prediction of wake flow behind a circular cylinder are investigated in two flow regimes: the three-dimensional wake transition regime and the shear-layer transition regime. Feature maps in the CNN are visualized to compare flow structures which are extracted by the CNN from flow at the two flow regimes. In both flow regimes, feature maps are found to extract similar sets of flow structures such as braid shear-layers and shedding vortices. A Fourier analysis is conducted to investigate mechanisms of the CNN for predicting wake flow in flow regimes with different wave number characteristics. It is found that a convolution layer in the CNN integrates and transports wave number information from flow to predict the dynamics. Characteristics of the CNN for transporting input information including time histories of flow variables is analyzed by assessing contributions of each flow variable and time history to feature maps in the CNN. Structural similarities between feature maps in the CNN are calculated to reveal the number of feature maps that contain similar flow structures. By reducing the number of feature maps that contain similar flow structures, it is also able to successfully reduce the number of parameters to learn in the CNN by 85\% without affecting prediction performances.

研究の動機と目的

• CNNが複雑な三次元非定常流体力学、特に流れの尾跡を学習する際の予測メカニズムを理解すること。
• 情報が層を通過する際の処理と輸送の仕組みを解明することで、CNNアーキテクチャ設計における試行錯誤に依存するのを減らすこと。
• 性能に影響を与えることなく、冗長な特徴マップを特定・削除すること。
• 異なる流れ状態（尾跡遷移とシアー層遷移）が特徴マップ表現および情報輸送に与える影響を調査すること。
• 流体力学応用分野におけるCNN最適化のための体系的でデータ駆動型のアプローチを提供すること。

提案手法

• 異なる空間スケールでの流れのダイナミクスを捉えるために、複数のサブネットワークを有するマルチスケールCNNシステムを構築した。
• 非圧縮性ナビエ＝ストークス方程式の数値シミュレーションにより、ReD = 3900 を含むレイノルズ数での流れ場データセットを生成した。
• 各畳み込み層からの特徴マップを可視化し、ブレイト・シアー層や剥離渦といった抽出された流れ構造を分析した。
• 畳み込み層が異なるスケール間で波数情報をどのように統合・輸送するかを調査するために、フーリエ解析を適用した。
• 個々の流れ変数および時間履歴が特徴マップ出力に与える寄与度を評価することで、情報輸送メカニズムを評価した。
• 特徴マップ間の構造的類似性を類似度行列を用いて定量化し、冗長なマップを同定・削除することで、モデルの複雑さを85%まで低減した。

実験結果

リサーチクエスチョン

• RQ1 マルチスケールCNNシステムにおける特徴マップは、異なる非定常な尾跡流れ状態でどのように流れ構造を表現するか？
• RQ2 畳み込み層は、三次元非定常流れのダイナミクスを予測するために、波数情報をどのように統合・輸送するか？
• RQ3 CNNシステムの各層において、異なる流れ変数および時間履歴の寄与度はどのように変化するか？
• RQ4 同一の流れ構造を含む冗長な特徴マップを、予測精度に影響を与えることなくどの程度削除可能か？
• RQ5 体系的な類似性に基づく手法により、CNNを用いた流れ場モデリングにおいて、特徴マップの数を削減しつつも予測性能を維持できるか？

主な発見

• CNNシステムは、畳み込み層を介して輸送される波数情報を活用することで、三次元的流れの遷移およびシアー層の遷移の両状態において、三次元非定常な尾跡流れを効果的に予測した。
• 異なるレイノルズ数においても、特徴マップは一貫して、ブレイト・シアー層や剥離渦といった主要な流れ構造を抽出した。より高いReでは、微細なスケールの構造が顕著に現れた。
• 畳み込み層は、入力の流れ場から波数情報を統合・輸送し、複数の長さスケールにわたる予測を可能にした。
• 深層に近づくほど、流れ変数および時間履歴の累積的統合により、より明確で一貫性のある流れ構造が現れた。
• 深層では、すべての流れ変数の寄与度がほぼ同等であったが、最近の時間履歴の寄与度がより強く、時間的相関学習が行われていることが示された。
• 構造的類似性に基づき85%の特徴マップを削除した削減版CNNシステムは、元のモデルと区別できない予測性能を維持した。これは、精度を損なわず大幅なモデル圧縮が可能であることを示している。