[論文レビュー] Turbulence forecasting via Neural ODE

Gavin Portwood, Peetak Mitra+10 more|arXiv (Cornell University)|Nov 12, 2019

Model Reduction and Neural Networks参考文献 21被引用数 23

ひとこと要約

本稿では、事前に指定された物理的モデルに依存せずに乱流運動エネルギー散逸を予測するためのニューラルODEフレームワークを提案する。直接数値シミュレーション（DNS）データから乱流の潜在的ダイナミクスを学習することで、本手法はDNSと比較して1–2%の誤差を達成し、一時的でマルチスケールな乱流の進化を予測する際、最新の解析モデルと比較して精度がほぼ2桁向上する。

ABSTRACT

Fluid turbulence is characterized by strong coupling across a broad range of scales. Furthermore, besides the usual local cascades, such coupling may extend to interactions that are non-local in scale-space. As such the computational demands associated with explicitly resolving the full set of scales and their interactions, as in the Direct Numerical Simulation (DNS) of the Navier-Stokes equations, in most problems of practical interest are so high that reduced modeling of scales and interactions is required before further progress can be made. While popular reduced models are typically based on phenomenological modeling of relevant turbulent processes, recent advances in machine learning techniques have energized efforts to further improve the accuracy of such reduced models. In contrast to such efforts that seek to improve an existing turbulence model, we propose a machine learning(ML) methodology that captures, de novo, underlying turbulence phenomenology without a pre-specified model form. To illustrate the approach, we consider transient modeling of the dissipation of turbulent kinetic energy, a fundamental turbulent process that is central to a wide range of turbulence models using a Neural ODE approach. After presenting details of the methodology, we show that this approach outperforms state-of-the-art approaches.

研究の動機と目的

• 事前に指定された物理的モデル形式に依存せずに、自動的かつデータ駆動型の低次元乱流モデルを訓練するための手法を開発すること。
• 乱流運動エネルギー散逸の予測精度を、さまざまなレイノルズ数および励起パラメータの下で向上させること。
• ニューラルODEが一時的で非局所的かつマルチスケールな乱流ダイナミクスを捉える一般化可能性を示すこと。
• 学習された潜在的ODEを用いて、連続時間での乱流進化の効率的で高精度な予測を可能にすること。
• 気候モデルなどの複雑なシステムへのデータ駆動型モデルの統合の基盤を提供すること。

提案手法

• 本手法は連続時間の潜在的ODEフレームワークを採用し、乱流予報変数（運動エネルギーおよび散逸率）の時系列データを潜在空間に符号化する。
• RNNエンコーダーとデコーダーを備えた変分オートエンコーダーにより、入力データを潜在空間へ、およびその逆にマッピングし、エンドツーエンドの学習を可能にする。
• 潜在的ダイナミクスは、1層20ユニットの全結合フィードフォワードネットワークでパラメータ化されたニューラルODEでモデル化される。
• ODEの数値積分には標準的な数値解法を用い、任意の時刻における軌道の補間および外挿が可能になる。
• 複数のレイノルズ数および励起パラメータ（p₀）におけるDNS生成データを用いて学習することで、訓練データにない条件への一般化が可能になる。
• フレームワークは非侵襲的であり、物理的原理に関する事前の仮定を必要とせず、複雑な非局所的相互作用の発見が可能になる。

実験結果

リサーチクエスチョン

• RQ1 事前に指定された物理的モデル形式に依存せずに、データ駆動型のニューラルODEモデルが、乱流運動エネルギー散逸の一時的進化を正確に予測できるか？
• RQ2 ニューラルODEの性能は、レイノルズ数および励起パラメータ依存性を捉える際、最新の解析モデルと比較してどの程度優れているか？
• RQ3 トレーニングデータに含まれないパラメータ値（例：新しいp₀やRe）に対して、ニューラルODEはどの程度一般化できるか？
• RQ4 潜在的ODEフレームワークは、従来の低次元モデルが困難とする非局所的かつスケールカップリングされた乱流ダイナミクスを効果的に捉えることができるか？
• RQ5 純粋にデータ駆動型の手法として、乱流散逸予測における達成可能な精度は、高精度なDNSと比較してどの程度か？

主な発見

• ニューラルODEモデルは、複数のテストケースにおいてDNSの真値と比較して1–2%の誤差を達成し、最新の解析モデルを著しく上回る。
• 本手法は、解析モデルが低レイノルズ数の表現が不十分であるために過大評価する散逸率の遅延減衰挙動を正確に捉えている。
• 新しいパラメータ値（例：新しいp₀）に対しても効果的に一般化され、訓練データを超えた外挿においても高いロバスト性を示している。
• 潜在的ODEフレームワークにより、離散的深さのRNNとは異なり、任意の時刻における連続時間の予測と補間が可能である。
• 異なるレイノルズ数および励起条件の下でも一貫して高い精度を維持しており、強力な一般化能力を示している。
• 結果から、データ駆動型のニューラルODEは、複雑な流体力学における低次元モデル開発の代替手段として実用的かつ効果的であると示唆される。