[論文レビュー] Learned Turbulence Modelling with Differentiable Fluid Solvers: Physics-based Loss-functions and Optimisation Horizons

Bjoern List, Liwei Chen+1 more|arXiv (Cornell University)|Feb 14, 2022

Model Reduction and Neural Networks被引用数 8

ひとこと要約

本稿では、物理に基づく損失関数とトレーニング中の拡張されたソルバーユーニングを用いて、微分可能流体ソルバ内で乱流をモデル化するためのハイブリッド物理情報付きディープラーニングフレームワークを提案する。この手法は、事後統計の直接最適化を行わず、14倍の高速化とレイノルズ数や渦スケールにわたる強固な一般化を達成しながら、2次元乱流の長期間にわたる安定性と精度を優れて実現している。

ABSTRACT

In this paper, we train turbulence models based on convolutional neural networks. These learned turbulence models improve under-resolved low resolution solutions to the incompressible Navier-Stokes equations at simulation time. Our study involves the development of a differentiable numerical solver that supports the propagation of optimisation gradients through multiple solver steps. The significance of this property is demonstrated by the superior stability and accuracy of those models that unroll more solver steps during training. Furthermore, we introduce loss terms based on turbulence physics that further improve the model accuracy. This approach is applied to three two-dimensional turbulence flow scenarios, a homogeneous decaying turbulence case, a temporally evolving mixing layer, and a spatially evolving mixing layer. Our models achieve significant improvements of long-term a-posteriori statistics when compared to no-model simulations, without requiring these statistics to be directly included in the learning targets. At inference time, our proposed method also gains substantial performance improvements over similarly accurate, purely numerical methods.

研究の動機と目的

• 乱流モデルのトレーニングを可能にするために、複数の数値ステップにわたる勾配バックプロパゲーションをサポートする微分可能流体ソルバを開発すること。
• トレーニング中により多くのソルバーステップをユーニングすることで、学習済み乱流モデルの長期間安定性と精度を向上させること。
• 乱流理論から導出された物理ベースの損失関数を組み込むことで、事後統計への直接的監視なしにモデルの忠実性を向上させること。
• ニューラルネットワークと数値ソルバのハイブリッドアプローチが、レイノルズ数や渦スケールにわたる一般化を達成し、完全に数値的な手法を上回ることを示すこと。

提案手法

• 複数の時間ステップにわたるバックプロパゲーションを可能にする、非圧縮性ナビエ＝ストークスソルバを実装し、乱流モデルのエンドツーエンドトレーニングを可能にした。
• 畳み込みアーキテクチャを用いて、未解像化の大規模な流れの特徴を補正するためのサブスケール応力予測を行うニューラルネットワークを学習させた。
• エネルギー散逸および渦度のダイナミクスを含む、基本的な乱流方程式から物理ベースの損失関数を導出した。
• トレーニングプロセスでは、勾配のストッピングを伴う複数ステップのソルバーユーニングを実施し、全シーケンスにわたる最適化を可能にした。これにより、長期間の整合性が向上した。
• 勾配がすべてのユーニングステップを経由して伝搬されるマルチステップトレーニングループを採用した。これは、標準的な機械学習手法が初期の勾配を破棄またはクリッピングするのとは対照的である。
• フレームワークは、均一に減衰する乱流、時間的に進化する混合層、空間的に進化する混合層の3つの2次元乱流ケースで評価された。

実験結果

リサーチクエスチョン

• RQ1 微分可能流体ソルバは、複数ステップのソルバーユーニングを長期間にわたって行うことで、学習済み乱流モデルの安定的かつ正確なトレーニングを可能にするか？
• RQ2 乱流理論から導出された物理ベースの損失関数は、事後統計への直接的監視なしに、モデルの精度と一般化能力をどのように向上させるか？
• RQ3 トレーニング中にユーニングするソルバーステップ数を増加させることで、長期間のシミュレーション安定性と精度はどの程度向上するか？
• RQ4 提案されたハイブリッドアプローチは、乱流のレイノルズ数や渦スケールに応じて一般化可能か？
• RQ5 学習済みモデルの性能は、精度と計算効率の観点から、完全に数値的なソルバーよりも優れているか？

主な発見

• 標準的な数値ソルバーよりも最大14倍の高速化を達成しながら、長期間のシミュレーションにおいても高い精度を維持した。
• 拡張されたソルバーユーニングでトレーニングされたシミュレーションは、トレーニング期間をはるかに超えるシミュレーション期間にわたり、安定的かつ正確に保たれ、優れた時間的整合性を示した。
• これらの統計への直接的監視がなかったにもかかわらず、乱流運動エネルギースペクトルとその時間的変化、特に渦の巻き込みや合体の様子を正確に再現した。
• 事後統計がトレーニングターゲットに含まれていなかったにもかかわらず、物理ベースの損失関数は、標準的なL2損失よりも顕著にモデル性能を向上させた。
• 等方的乱流においてレイノルズ数Re=126からRe=296の範囲で良好な一般化を示し、混合層では7δω₀から60δω₀の渦サイズを捉えた。
• 多様な摂動パラメータでトレーニングされた空間的に進化する混合層ケースにおいても、強力な外挿能力を示し、ロバストネスを確認した。