[論文レビュー] A Posteriori Evaluation of a Physics-Constrained Neural Ordinary Differential Equations Approach Coupled with CFD Solver for Modeling Stiff Chemical Kinetics

Tadbhagya Kumar, Anuj Kumar+1 more|arXiv (Cornell University)|Nov 22, 2023

Model Reduction and Neural Networks被引用数 4

ひとこと要約

本稿では、学習中の損失関数に直接要素的質量保存則を組み込むことで、力学的・物理的整合性と精度を著しく向上させる物理制約付きニューラル常微分方程式（PC-NODE）フレームワークを提案する。CFDソルバと組み合わせた場合、PC-NODEは純粋にデータ駆動のNODEモデルよりも熱力学的状態の予測において優れた性能を示し、誤差の蓄積が最小限に抑えられ、未学習の条件に対しても頑健な一般化性能を発揮する。

ABSTRACT

The high computational cost associated with solving for detailed chemistry poses a significant challenge for predictive computational fluid dynamics (CFD) simulations of turbulent reacting flows. These models often require solving a system of coupled stiff ordinary differential equations (ODEs). While deep learning techniques have been experimented with to develop faster surrogate models, they often fail to integrate reliably with CFD solvers. This instability arises because deep learning methods optimize for training error without ensuring compatibility with ODE solvers, leading to accumulation of errors over time. Recently, NeuralODE-based techniques have offered a promising solution by effectively modeling chemical kinetics. In this study, we extend the NeuralODE framework for stiff chemical kinetics by incorporating mass conservation constraints directly into the loss function during training. This ensures that the total mass and the elemental mass are conserved, a critical requirement for reliable downstream integration with CFD solvers. Proof-of-concept studies are performed with physics-constrained neuralODE (PC-NODE) approach for homogeneous autoignition of hydrogen-air mixture over a range of composition and thermodynamic conditions. Our results demonstrate that this enhancement not only improves the physical consistency with respect to mass conservation criteria but also ensures better robustness. Lastly, a posteriori studies are performed wherein the trained PC-NODE model is coupled with a 3D CFD solver for computing the chemical source terms. PC-NODE is shown to be more accurate relative to the purely data-driven neuralODE approach. Moreover, PC-NODE also exhibits robustness and generalizability to unseen initial conditions from within (interpolative capability) as well as outside (extrapolative capability) the training regime.

研究の動機と目的

• CFDソルバと結合された場合に、 stiff 化学動力学のデータ駆動的代理モデルが不安定で物理的整合性に欠ける問題に対処すること。
• ニューラルODEの学習プロセスに要素的質量保存則の制約を埋め込むことで、学習効率と物理的忠実性を向上させること。
• 初期条件の範囲を越える状況、特に分布外の状況を含む、熱力学的状態の時間発展に対する頑健で一般化可能な予測を可能にすること。
• 水素-空気自己着火ケースを用いた3次元CFD環境において、物理制約付き手法の実現可能性と優位性を示すこと。

提案手法

• ニューラルODEの学習中に、全質量および要素的質量保存則を正則化項として損失関数に組み込むことで、質量保存を保証する。
• ニューラルネットワークを用いて、 stiff ODE系の化学的源項をパラメータ化し、学習中に stiff ODEソルバを介して統合する。
• 詳細な化学機構からの真値解を用いて、予測された熱力学的軌道と真値との差を最小化するように、モデルをエンドツーエンドで学習する。
• 訓練済みのPC-NODEモデルを、CONVERGE CFDソルバ内での化学的源項の代理モデルとして統合し、3次元シミュレーションに応用する。
• 異なるストイキオメトリック比と初期温度条件下での水素-空気混合気の均一な自己着火に本フレームワークを適用する。
• 事後的CFDシミュレーションを用いて性能を検証し、純粋にデータ駆動のNODEモデル（NO-CONS）および真値機構と比較する。

Fig. 1: Mean squared error (computed between ground truth and predictions) evolution for the two cases trained with MSE loss function (Eq. ( 3 )) and PC-NODE loss function (Eq. ( 4 )).

実験結果

リサーチクエスチョン

• RQ1 損失関数に要素的質量保存則を強制することで、stiff 化学動力学におけるニューラルODEモデルの物理的整合性が向上するか？
• RQ2 時間経過に伴う誤差蓄積の観点から、物理制約付きのPC-NODEモデルは、純粋にデータ駆動のNODEモデルと比較して、精度が向上するか？
• RQ3 PC-NODEモデルは、学習分布外の初期条件、特に外挿的領域に対してもどの程度一般化可能か？
• RQ4 質量保存則の制約を組み込むことで、stiff ODE系の文脈において学習効率と収束性が向上するか？

主な発見

• 要素的質量保存則を組み込んだPC-NODEモデル（ELE-CONS）は、温度および成分の質量分率について真値と良好な一致を示したが、制約なしのモデル（NO-CONS）は顕著なずれを示した。
• PC-NODEの予測では、水素および酸素の要素的質量分率が、学習外の条件でも数値的許容範囲内に保存されており、物理的整合性が確認された。
• PC-NODEモデルは、学習範囲外の初期温度1200 Kおよびストイキオメトリック比φ=0.4およびφ=1.6に対しても、頑健な外挿的一般化性能を示した。
• PC-NODEの予測は、純粋にデータ駆動のNODEアプローチと比較して、熱力学的スカラーの時間発展における誤差が著しく低減された。
• 物理法則の正則化が損失関数に組み込まれたことで、PC-NODEモデルは学習効率が向上し、収束性の良い挙動を示した。
• CONVERGE CFDソルバと統合した場合、PC-NODEは質量保存則からのずれが小さく、3次元ユニットセルシミュレーション全体にわたり、正確で安定した解を生成した。

(a)