[論文レビュー] Physics-aware deep neural networks for surrogate modeling of turbulent natural convection

Didier Lucor, Atul Agrawal+1 more|arXiv (Cornell University)|Mar 5, 2021

Model Reduction and Neural Networks参考文献 35被引用数 29

ひとこと要約

本論文は乱流Rayleigh-Bénard対流の代理モデルとして物理情報付きニューラルネットワーク（PINN）を調査し、訓練を改善するためにパディングと緩和された非圧縮性を導入する。非常に高いRayleigh数でも限られたDNSデータを用いて高精度を報告する。

ABSTRACT

Recent works have explored the potential of machine learning as data-driven turbulence closures for RANS and LES techniques. Beyond these advances, the high expressivity and agility of physics-informed neural networks (PINNs) make them promising candidates for full fluid flow PDE modeling. An important question is whether this new paradigm, exempt from the traditional notion of discretization of the underlying operators very much connected to the flow scales resolution, is capable of sustaining high levels of turbulence characterized by multi-scale features? We investigate the use of PINNs surrogate modeling for turbulent Rayleigh-B{é}nard (RB) convection flows in rough and smooth rectangular cavities, mainly relying on DNS temperature data from the fluid bulk. We carefully quantify the computational requirements under which the formulation is capable of accurately recovering the flow hidden quantities. We then propose a new padding technique to distribute some of the scattered coordinates-at which PDE residuals are minimized-around the region of labeled data acquisition. We show how it comes to play as a regularization close to the training boundaries which are zones of poor accuracy for standard PINNs and results in a noticeable global accuracy improvement at iso-budget. Finally, we propose for the first time to relax the incompressibility condition in such a way that it drastically benefits the optimization search and results in a much improved convergence of the composite loss function. The RB results obtained at high Rayleigh number Ra = 2 $\bullet$ 10 9 are particularly impressive: the predictive accuracy of the surrogate over the entire half a billion DNS coordinates yields errors for all flow variables ranging between [0.3% -- 4%] in the relative L 2 norm, with a training relying only on 1.6% of the DNS data points.

研究の動機と目的

• ボース方程式近似を用いたNSでモデル化される3D乱流自然対流の代理としてPINNの実現可能性を評価する。
• 部分DNSデータから流れ場を正確に回復するために必要なデータ要件と残差サンプリング戦略を定量化する。
• 訓練を正則化するため、ラベル付きデータ領域の周りに残差を分布させるパディング技術を導入する。
• 最適化収束と代理精度を向上させるため、非圧縮性制約を緩和することを提案する。

提案手法

• PINNフレームワーク内で、ボース素近似下の非定常Navier–Stokes方程式を定式化する。
• 解ベクトルu=(v, p, T)を近似するために多層パーセプトロンを用い、PDE残差を自動微分で計算する。
• ラベル付きデータとPDE残差を組み合わせた損失で訓練し、段階的学習率サイクルを持つAdamを用いる。
• ラベル付きデータ領域の周りに残差評価点を分布させるパディング戦略を導入し、境界精度を向上させる。
• 追加の訓練制約を提供するために、移送された温度変数T̄ = 1 − Tを追加する。
• 合成損失の最適化探索と収束を改善するために、非圧縮性条件を緩和する。

実験結果

リサーチクエスチョン

• RQ1 部分DNSデータで3D乱流自然対流を高Rayleigh数で正確に代理できるのか。
• RQ2 乱 RB対流のPINN訓練で、ラベル付きデータとPDE残差の最適なバランスを取るデータおよび残差サンプリング戦略は何か。
• RQ3 ラベル付きデータ周りのパディング方式は、特に訓練境界近傍でPINNの精度を向上させるか。
• RQ4 非圧縮性制約を緩和することで最適化収束と代理モデル性能が改善されるか。

主な発見

• 高Ra RB対流で、訓練にDNS点のわずか1.6%しか用いない場合でも、流れ変数ごとの相対L2誤差を0.3%から4%の範囲で達成した。
• 訓練初期にはPDE残差が支配的である一方、データラベル誤差はサイクルを重ねるにつれてより規則的に収束することを示した。
• ラベル付きデータ領域の周りに残差点を分布させるパディング技術を導入し、等予算で顕著な全体精度向上をもたらした。
• 非圧縮性制約を緩和することは、PINN損失の最適化探索と収束を著しく改善する。
• Ra = 2×10^9 の場合、DNSデータの一部で訓練された代理は、総5億 DNS 座標にわたる全場を高忠実度で予測できる。