[論文レビュー] Predictions of turbulent shear flows using deep neural networks

Prem A. Srinivasan, Luca Guastoni+3 more|arXiv (Cornell University)|May 7, 2019

Fluid Dynamics and Turbulent Flows被引用数 6

ひとこと要約

本研究では、近壁乱流せん断流の低次元モデルにおける時間的ダイナミクスを予測するための深層ニューラルネットワークの有効性を評価する。Moehlisら（2004）が提唱した九方程式のせん断流モデルを用い、長短期記憶（LSTM）ネットワークが多層パーセプトロン（MLP）を上回り、平均および揺動流統計量においてそれぞれ0.45%および2.49%の相対誤差を達成し、ポアンカレ写像やリャプノフ指数といった複雑な動的挙動を正確に再現した。

ABSTRACT

In the present work we assess the capabilities of neural networks to predict temporally evolving turbulent flows. In particular, we use the nine-equation shear flow model by Moehlis et al. [New J. Phys. 6, 56 (2004)] to generate training data for two types of neural networks: the multilayer perceptron (MLP) and the long short-term memory (LSTM) network. We tested a number of neural network architectures by varying the number of layers, number of units per layer, dimension of the input, weight initialization and activation functions in order to obtain the best configurations for flow prediction. Due to its ability to exploit the sequential nature of the data, the LSTM network outperformed the MLP. The LSTM led to excellent predictions of turbulence statistics (with relative errors of 0.45% and 2.49% in mean and fluctuating quantities, respectively) and of the dynamical behavior of the system (characterized by Poincaré maps and Lyapunov exponents). This is an exploratory study where we consider a low-order representation of near-wall turbulence. Based on the present results, the proposed machine-learning framework may underpin future applications aimed at developing accurate and efficient data-driven subgrid-scale models for large-eddy simulations of more complex wall-bounded turbulent flows, including channels and developing boundary layers.

研究の動機と目的

• 深層ニューラルネットワークを用いて乱流せん断流の時間的進化を予測可能かどうかを評価すること。
• 多層パーセプトロン（MLP）と長短期記憶（LSTM）ネットワークの両者が乱流統計量およびダイナミカルな挙動をどれだけ正確に捉えられるかを比較すること。
• 大規模渦分解シミュレーション（LES）における複雑な壁拘束流のためのデータ駆動型サブグリッドスケール（SGS）モデルとしてのニューラルネットワークの可能性を評価すること。
• 訓練済みのニューラルネットワークの推論における計算効率が、元の常微分方程式（ODE）系を直接解くのと比べてどの程度かを評価すること。
• 未知または複雑な流れのダイナミクス（例：LESフィルタリングや流入境界条件の生成）への機械学習の応用を拡張する基盤を確立すること。

提案手法

• 訓練データは、Moehlisら（2004）が提唱した九方程式のせん断流モデルを用いて生成された。このモデルは、九つのフーリエモード振幅を用いて近壁乱流をモデル化する。
• 10,000件以上の乱流時系列がシミュレーションされ、それぞれ4,000時間単位にわたり1時間単位の刻みで生成され、訓練および検証データセットが構築された。
• 層数、1層あたりのユニット数、入力次元、重み初期化、活性化関数を変更した複数のMLPおよびLSTMネットワークのアーキテクチャをテストした。
• LSTMアーキテクチャは、時系列の流れデータに内在する逐次的依存関係をモデル化できる能力があるため、特に選択された。
• ネットワークの性能は、乱流統計量（平均および揺動量）、ポアンカレ写像、リャプノフ指数を用いて評価された。
• 計算効率は、九つのODEを直接統合するのと比較して、訓練済みネットワークの予測時間をベンチマークした。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークは、乱流せん断流の低次元モデルにおける時間的ダイナミクスを正確に予測できるか？
• RQ2 LSTMネットワークは、MLPと比較して乱流の統計的および動的特徴をどれだけ正確に捉えられるか？
• RQ3 訓練済みのニューラルネットワークは、ポアンカレ写像やリャプノフ指数といった複雑な流れの挙動をどの程度正確に再現できるか？
• RQ4 訓練済みのニューラルネットワークを用いた推論の計算コストは、元のODE系を解くのと比べてどの程度か？
• RQ5 このフレームワークは、より複雑な壁拘束流のための大規模渦分解シミュレーション（LES）におけるデータ駆動型サブグリッドスケールモデルの開発に拡張可能か？

主な発見

• LSTMネットワークは、平均流れ量の予測において0.45%の相対誤差を達成し、MLPを著しく上回った。
• LSTMモデルは、揺動量の予測において2.49%の相対誤差を示し、高い統計的整合性を示した。
• LSTMは、システムの動的挙動（ポアンカレ写像やリャプノフ指数を含む）を正確に再現した。これは、正しいカオス的ダイナミクスを再現していることを示している。
• LSTMは、乱流の時間的進化に内在する逐次的および時間的依存関係を、MLPよりも効果的に捉えていた。
• 訓練後、500件の時系列生成にLSTMを用いると約12分を要したが、ODEを直接統合する場合と比べて6分であったため、推論のオーバーヘッドはわずかであり、許容可能な水準であった。
• 本研究では、訓練済みのニューラルネットワークをより小型で効率的なモデルに圧縮可能であることを示した。これは、乱流モデルにおけるリアルタイムまたは埋め込み応用への強い可能性を示唆している。