[論文レビュー] Embedding Hard Physical Constraints in Neural Network Coarse-Graining of 3D Turbulence

Arvind Mohan, Nicholas Lubbers+2 more|arXiv (Cornell University)|Jan 31, 2020

Model Reduction and Neural Networks参考文献 46被引用数 48

ひとこと要約

本論文は3D乱流の畳み込み自己符号化器（PhyCAE）に硬い不可圧縮性制約を組み込み、固定のCNN由来の微分ストencilとghost-cell境界条件によって発散ゼロの速度を課すことで、局所的な質量保存を改善しつつ性能を損なわない。

ABSTRACT

In the recent years, deep learning approaches have shown much promise in modeling complex systems in the physical sciences. A major challenge in deep learning of PDEs is enforcing physical constraints and boundary conditions. In this work, we propose a general framework to directly embed the notion of an incompressible fluid into Convolutional Neural Networks, and apply this to coarse-graining of turbulent flow. These physics-embedded neural networks leverage interpretable strategies from numerical methods and computational fluid dynamics to enforce physical laws and boundary conditions by taking advantage the mathematical properties of the underlying equations. We demonstrate results on three-dimensional fully-developed turbulence, showing that this technique drastically improves local conservation of mass, without sacrificing performance according to several other metrics characterizing the fluid flow.

研究の動機と目的

• 3D乱流モデリングにおいて不可圧性を保証するために、ニューラルネットワークに硬い物理的制約を組み込む動機づけ。
• coarse-graining時に発散ゼロ条件を強制する物理埋め込み型畳み込み自己符号化器（PhyCAE）の開発。
• 有限差分に類似したCNNカーネルとghost-cell境界処理を活用して、訓練可能な枠組みで厳密な物理演算子を実装する。
• 保存則への影響、乱流診断指標全般の精度、および訓練ダイナミクスに対する硬い制約の影響を評価する。

提案手法

• 3D HIT速度場の粗視化に畳み込み自己符号化器（CAE）を用いる。
• ベクトルポテンシャルAを予測してV = curl(A)を計算することで発散ゼロ制約を埋め込み、curlを固定の訓練不能微分ストencilで実装するCNN層を用いる。
• 高次のストencil精度を維持するためにghost cellsを用いた境界条件を課す。
• CNNカーネルを有限体積ストencilsに関連付け、空間微分を通じた逆伝播を可能にする。
• 単精度DNSデータで評価し、Divergence of V (nabla·V)と乱流診断を標準のCAEと比較する。
• CNN埋め込み演算子による高次スキームや他の硬い制約への潜在的拡張について議論する。

実験結果

リサーチクエスチョン

• RQ1 3D乱流モデルで不可压性を強制するために、CNNアーキテクチャに硬い物理制約を埋め込むことは可能か？
• RQ2 物理埋め込み型CAE（PhyCAE）は、標準のCAEと比較して乱流統計を損なうことなく局所的な質量保存を改善しますか？
• RQ3 固定導関数ストencilとghost-cell境界処理は、粗視化乱流データの訓練ダイナミクスと予測忠実度にどのような影響を与えますか？
• RQ4 学習された粗視化場に対する硬い制約の影響は何ですか？（エネルギースペクトル、速度勾配統計、Q-R平面など）

主な発見

• PhyCAEはCAEよりはるかに低い最終発散量（TAD）を達成し、テストデータでの最終発散は約10^-5対約10^-2。
• 訓練時、PhyCAEの発散は時間とともに減少し、数値的にゼロに近づくことがあり、初期エポックから不可压性の遵守を示している。
• エネルギースペクトルと大規模/慣性範囲の精度はPhyCAEとCAEで概ね同等で、粗視化による小さなスケールの差がある。
• PhyCAEでは速度勾配PDFがDNSと緊密に一致し、CAEより尾部がわずかに改善され、小惑規模挙動が良好である。
• Q-R平面診断はPhyCAEが大規模な流れのトポロジーを非常に良く捉え、慣性スケールはやや精度が低いが許容範囲。
• 全体として、PhyCAEは訓練可能パラメータを増やさずに硬い物理保証を提供し、堅牢性と解釈性を向上させる。