[論文レビュー] Deep Learning for Reduced Order Modelling and Efficient Temporal Evolution of Fluid Simulations

Pranshu Pant, Ruchit Doshi+2 more|arXiv (Cornell University)|Jul 9, 2021

Model Reduction and Neural Networks参考文献 80被引用数 116

ひとこと要約

本論文では、3次元オートエンコーダーとU-Netアーキテクチャを用いて、非線形な低次元流体流れの表現を学習する深層学習フレームワーク、DL-ROMを提案する。高精度な流れのスナップショットを学習された低次元の潜在空間に投影することで、従来のCFDソルバーに比べて最大100倍高速な推論が可能となり、再構成精度は高く保たれ、時間経過に伴う誤差蓄積も最小限に抑えられる。

ABSTRACT

Reduced Order Modelling (ROM) has been widely used to create lower order, computationally inexpensive representations of higher-order dynamical systems. Using these representations, ROMs can efficiently model flow fields while using significantly lesser parameters. Conventional ROMs accomplish this by linearly projecting higher-order manifolds to lower-dimensional space using dimensionality reduction techniques such as Proper Orthogonal Decomposition (POD). In this work, we develop a novel deep learning framework DL-ROM (Deep Learning - Reduced Order Modelling) to create a neural network capable of non-linear projections to reduced order states. We then use the learned reduced state to efficiently predict future time steps of the simulation using 3D Autoencoder and 3D U-Net based architectures. Our model DL-ROM is able to create highly accurate reconstructions from the learned ROM and is thus able to efficiently predict future time steps by temporally traversing in the learned reduced state. All of this is achieved without ground truth supervision or needing to iteratively solve the expensive Navier-Stokes(NS) equations thereby resulting in massive computational savings. To test the effectiveness and performance of our approach, we evaluate our implementation on five different Computational Fluid Dynamics (CFD) datasets using reconstruction performance and computational runtime metrics. DL-ROM can reduce the computational runtimes of iterative solvers by nearly two orders of magnitude while maintaining an acceptable error threshold.

研究の動機と目的

• 複雑な非線形流体力学を捉えることが難しい線形低次元モデル（ROM）の限界を克服すること。
• 教師なしの真値を必要とせず、非線形かつ低次元の流れ状態の埋め込みを学習する深層学習ベースのフレームワークを開発すること。
• 学習された潜在空間内で時間的に前方に伝播させることで、将来の流れ状態を効率的かつリアルタイムに予測すること。
• 繰り返し解く必要があるナビエ＝ストークス方程式ソルバーと比較して、計算コストを大幅に削減しつつも、妥当な精度を維持すること。
• 乱流や渦中心の流れを含む多様なCFDデータセットにおいて、手法の有効性を検証すること。

提案手法

• フレームワークは、高精度な流れスナップショットを低次元の潜在空間に符号化するための3次元畳み込みオートエンコーダーを用い、非線形多様体を学習する。
• 潜在表現からフルオーダーの流れ状態を再構成するために、3次元U-Netアーキテクチャをデコーダーとして採用し、誤差を最小限に抑える。
• モデルは、10個の過去のタイムステップ（各10タイムステップ間隔）を入力とし、潜在空間内で次の流れ状態を予測する。
• 潜在状態の遷移は、ナビエ＝ストークス方程式を解かずに、時間的予測ヘッドによってモデル化される。
• 潜在次元（最適化で32に設定）や時間的文脈長といったハイパーパrameterは、再構成精度と効率性を最適化するために調整される。
• LSTMを避けるために、空間的・時間的整合性を保つために3次元畳み込み再帰機構を採用する。

実験結果

リサーチクエスチョン

• RQ1 深層学習ベースのROMは、従来の線形ROMに比べ、複雑な非線形流体力学をより効果的に捉えることができるか？
• RQ2 学習された潜在空間は、繰り返しナビエ＝ストークス方程式を解かずに、正確で長期的な流れの進化予測をどの程度可能にするか？
• RQ3 多様な流れ状態において、DL-ROMフレームワークは従来のCFDソルバーと比較して、計算効率と再構成精度の両面で優れているか？
• RQ4 閉ループシミュレーションにおいて、複数の予測ステップにわたり誤差蓄積が低く抑えられるか？
• RQ5 流れの複雑さ（例：カーマン渦列、高勾配領域）が再構成の正確さに与える影響は何か？

主な発見

• DL-ROMは、3つのカスタムデータセット（2次元シリンダー、2次元翼型、2次元プレート）において、反復的OpenFOAMソルバーと比較して、CFDシミュレーションの実行時間をほぼ2桁短縮した。
• モデルは高い再構成精度を達成し、20回の予測イテレーションにわたり、ピクセル単位の平均二乗誤差（MSE）が低く、徐々に減少する傾向を示しており、誤差伝搬の安定性が裏付けられている。
• 特に、ボン・カーマン渦列のような複雑な流れ構造を、高勾配領域でも正確に予測しているが、障害物付近ではわずかな誤差が生じる。
• 微細構造を持つ乱流（例：2次元チャネル流れ）を含むデータセットでは、潜在空間への圧縮に伴い小さな流れの特徴が消失するため、再構成性能が最適でない。
• 教師なしの状態で20タイムステップにわたるループシミュレーションを成功裏に実行し、MSEが低く、予測が安定していることが確認された。
• 再構成の最適な潜在次元は32であった。これは、精度と計算効率のバランスを最適にしている。