[論文レビュー] Combining Differentiable PDE Solvers and Graph Neural Networks for Fluid Flow Prediction

Filipe de Avila Belbute-Peres, Thomas D. Economon+1 more|arXiv (Cornell University)|Jul 8, 2020

Advanced Graph Neural Networks参考文献 26被引用数 11

ひとこと要約

本論文は、非構造格子上で動作するグラフニューラルネットワーク（GCN）内に微分可能で粗い解像度のCFDシミュレータを統合するハイブリッドディープラーニングフレームワークを提案する。このモデルは、高い精度と一般化性能を実現し、訓練データに存在しなかった強力な衝撃波のような未観測の物理的条件下でも、完全なCFDシミュレーションよりも高速に推論を実行する。

ABSTRACT

Solving large complex partial differential equations (PDEs), such as those that arise in computational fluid dynamics (CFD), is a computationally expensive process. This has motivated the use of deep learning approaches to approximate the PDE solutions, yet the simulation results predicted from these approaches typically do not generalize well to truly novel scenarios. In this work, we develop a hybrid (graph) neural network that combines a traditional graph convolutional network with an embedded differentiable fluid dynamics simulator inside the network itself. By combining an actual CFD simulator (run on a much coarser resolution representation of the problem) with the graph network, we show that we can both generalize well to new situations and benefit from the substantial speedup of neural network CFD predictions, while also substantially outperforming the coarse CFD simulation alone.

研究の動機と目的

• 純粋なディープラーニングモデルが訓練分布を超えて一般化性能に欠ける問題に対処すること。
• 高精度CFDシミュレーションの計算コストを低減しつつ物理的正確性を維持すること。
• 微分可能で低解像度のCFDシミュレータをグラフニューラルネットワーク内に学習可能なモジュールとして統合し、シミュレーションの忠実度を向上させること。
• 随伴法を用いた勾配ベース最適化により、GCNと粗いメッシュ入力をエンドツーエンドで訓練可能にすること。
• 本ハイブリッドモデルが、純粋なGCNベースラインや単独の粗いCFDシミュレーションよりも、未観測の物理的挙動に優れた一般化性能を示すことを実証すること。

提案手法

• モデルは、CFDシミュレーションで一般的な非構造的・非一様メッシュ上で直接動作するグラフ畳み込みネットワーク（GCN）を用いる。
• 微分可能で低解像度のCFDシミュレータがGCN内に微分可能レイヤーとして埋め込まれ、シミュレーションを経由した勾配逆伝播が可能になる。
• GCNと粗いメッシュ入力を、随伴法を用いてバックプロパゲーションによりエンドツーエンドで最適化し、予測精度を向上させる。
• GCNは粗いメッシュ上の特徴を処理し、CFDシミュレータが物理的ダイナミクスを計算し、予測結果は元の解像度にアップスケーリングされる。
• 高精度の真値シミュレーションと予測値を比較する損失関数を用いて、システム全体をエンドツーエンドで学習する。
• CFDソルバーの微分可能性を活用し、ニューラルネットワークとメッシュジオメトリの両方を共同最適化することで、一般化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 微分可能なCFDシミュレータとGCNを組み合わせたハイブリッドモデルは、純粋なGCNや単独の粗いCFDシミュレーションよりも、未観測の流体ダイナミクス状況に対して一般化性能が優れているか？
• RQ2 GCNアーキテクチャ内に微分可能なPDEソルバーを統合することで、完全なCFDシミュレーションと比較して予測精度と推論速度にどのような影響を与えるか？
• RQ3 GCNと粗いメッシュ入力をエンドツーエンドで訓練することで、強力な衝撃波のような新しい物理的条件への一般化性能がどの程度向上するか？
• RQ4 本モデルは、単なる粗いシミュレーション結果の補間を超えて学習を効果的に行っているのか、それとも単に補間しているだけなのか？
• RQ5 本ハイブリッドモデルの計算コストは、完全なCFDシミュレーションや純粋なニューラルネットワークベースラインと比較してどうか？

主な発見

• CFD-GCNモデルは、訓練データに存在しなかった大規模な衝撃波を含むテストケースにおいて、純粋なGCNベースラインよりも顕著に優れた一般化性能を示した。
• モデルは単独の粗いCFDシミュレーションを上回り、一般化タスクにおいて誤差1.4·10⁻²を達成したのに対し、粗いシミュレーションは9.5·10⁻²の誤差を示した。
• CFD-GCNモデルはテスト誤差1.4·10⁻²を達成し、純粋なGCNベースライン（1.9·10⁻²）よりも顕著に低い誤差を示しており、精度の向上が確認された。
• 本モデルは、訓練データに存在しなかったにもかかわらず、衝撃波や渦などの複雑な流れの特徴をGCNオンリーモデルよりも正確に予測できた。
• 訓練プロセスは、視覚的に確認可能な方法で粗いメッシュジオメトリを最適化し、予測品質を向上させた。図12（付録）にその例を示す。
• CFD-GCNモデルは完全なCFDシミュレーションの約20倍高速であり、推論時間の85%がCFDシミュレーションに費やされ、10%がメッシュアップスケーリング、残りの5%がグラフ畳み込みに割り当てられている。