[論文レビュー] Physics Informed Machine Learning of SPH: Machine Learning Lagrangian Turbulence.

Michael Woodward, Yifeng Tian+5 more|arXiv (Cornell University)|Oct 25, 2021

Model Reduction and Neural Networks参考文献 49被引用数 4

ひとこと要約

本論文は、滑らかな粒子法（SPH）のための物理に基づく機械学習フレームワークを紹介する。このフレームワークは、ニューラルネットワークと物理的パラメータを統合し、ラグランジュ的乱流をモデル化する。前向きおよび逆向きの自動微分と感度解析を組み合わせることで、効率的な最適化が可能となり、逆問題の解法、乱流統計の学習、訓練データを超えた一般化が可能になる。物理的対称性を保持するとともに、データ要件を低減する。

ABSTRACT

Smoothed particle hydrodynamics (SPH) is a mesh-free Lagrangian method for obtaining approximate numerical solutions of the equations of fluid dynamics; which has been widely applied to weakly- and strongly compressible turbulence in astrophysics and engineering applications. We present a learn-able hierarchy of parameterized and physics-explainable SPH informed fluid simulators using both physics based parameters and Neural Networks (NNs) as universal function approximators. Our learning algorithm develops a mixed mode approach, mixing forward and reverse mode automatic differentiation with forward and adjoint based sensitivity analyses to efficiently perform gradient based optimization. We show that our physics informed learning method is capable of: (a) solving inverse problems over the physically interpretable parameter space, as well as over the space of NN parameters; (b) learning Lagrangian statistics of turbulence (interpolation); (c) combining Lagrangian trajectory based, probabilistic, and Eulerian field based loss functions; and (d) extrapolating beyond training sets into more complex regimes of interest. Furthermore, this hierarchy of models gradually introduces more physical structure, which we show improves interpretability, generalizability (over larger ranges of time scales and Reynolds numbers), preservation of physical symmetries, and requires less training data.

研究の動機と目的

• ラグランジュ的乱流のより良いモデル化を目的として、ニューラルネットワークと物理的パラメータを統合した学習可能で物理的に説明可能なSPHシミュレータの階層的フレームワークを開発すること。
• 完全にデータ駆動のSPHモデルにおける一般化可能性と解釈可能性の欠如という課題に対処するため、学習フレームワークに物理法則を埋め込むこと。
• モデルアーキテクチャに構造的な物理的事前知識を組み込むことで、多様なレイノルズ数と時間スケールにおいてデータ要件を低減し、耐障害性を向上させること。
• 勾配ベース最適化を用いて、物理的パラメータとニューラルネットワークの重みの両方に対する逆問題を解けるようにすること。
• ラグランジュ的軌道に基づく損失、確率的損失、オイラー的場に基づく損失の複数の損失関数を統合した一貫した学習フレームワークを構築し、乱流の包括的表現を可能にすること。

提案手法

• フレームワークは、物理的パラメータとニューラルネットワーク重みの両方の勾配を計算するために、前向きおよび逆向きの自動微分を用いた混合モード学習アプローチを採用する。
• 高次元パラメータ空間における最適化に必要な勾配を効率的に計算するために、前向き法およびアドジョイント法を用いた感度解析が実施される。
• 階層的モデル構造により、ニューラルネットワークに段階的に物理的制約を組み込むことで、解釈可能性を向上させるとともに、物理的対称性を保持する。
• マルチモーダル損失関数をサポートする：ラグランジュ的軌道追跡、確率的密度推定、オイラー的場再構築。これにより包括的な学習信号が得られる。
• ニューラルネットワークは、物理に基づく損失関数内でのユニバーサル関数近似器として機能し、予測結果が流体動力学方程式と整合的であることを保証する。
• 最適化プロセスは、物理的一致性、データ適合性、および異なる流れの表現における統計的正確性を組み合わせた複合損失関数によってガイドされる。

実験結果

リサーチクエスチョン

• RQ1 物理に基づく機械学習フレームワークは、勾配ベース最適化を用いて、物理的パラメータとニューラルネットワーク重みを同時に学習することで、SPHにおける逆問題を効果的に解けるか？
• RQ2 SPHデータで学習したニューラルネットワークは、レイノルズ数や時間スケールの未学習な領域へどの程度一般化可能であり、物理的一致性を保っているか？
• RQ3 モデル階層に物理的構造を組み込むことで、解釈可能性、データ効率、およびラグランジュ的乱流シミュレーションにおける対称性の保存にどのような影響を与えるか？
• RQ4 ラグランジュ的軌道、確率的分布、オイラー的場を統合した統一損失関数は、SPHシミュレーションの精度と耐障害性を向上させられるか？
• RQ5 学習可能なSPHフレームワークに物理的制約を統合することで、訓練分布を超えた外挿性能が向上するか？

主な発見

• 勾配ベース最適化を用いて、物理的パrameter空間およびニューラルネットワーク重み空間の両方で逆問題を高い効率で効果的に解ける。
• モデルは強力な一般化能力を示し、訓練データの分布を超えたより複雑な乱流領域へも外挿可能である。
• 物理的構造をモデル階層に組み込むことで、解釈性が向上し、運動量保存やエネルギー保存といった重要な物理的対称性が保持される。
• 物理的制約によるインダクティブバイアスのおかげで、完全にデータ駆動のアプローチよりも少ない訓練データで済む。
• ラグランジュ的軌道、確率的、オイラー的場に基づく損失関数の組み合わせにより、乱流統計のより正確で包括的な表現が可能になる。
• 混合モード自動微分とアドジョイント感度解析の使用により、高次元SPHシミュレーション問題におけるスケーラブルで効率的な学習が可能になる。