[論文レビュー] MultiScale MeshGraphNets

Meire Fortunato, Tobias Pfaff+3 more|arXiv (Cornell University)|Oct 2, 2022

Model Reduction and Neural Networks被引用数 26

ひとこと要約

本論文は MultiScale MeshGraphNets (MS-MGN) を提案する。階層的な二解像度のグラフニューラルネットワークで、メッシュベースのシミュレーションにおいて MeshGraphNets より精度と効率を向上させる。多スケールのメッセージ伝播を可能にし、高精度ラベルを使用する。

ABSTRACT

In recent years, there has been a growing interest in using machine learning to overcome the high cost of numerical simulation, with some learned models achieving impressive speed-ups over classical solvers whilst maintaining accuracy. However, these methods are usually tested at low-resolution settings, and it remains to be seen whether they can scale to the costly high-resolution simulations that we ultimately want to tackle. In this work, we propose two complementary approaches to improve the framework from MeshGraphNets, which demonstrated accurate predictions in a broad range of physical systems. MeshGraphNets relies on a message passing graph neural network to propagate information, and this structure becomes a limiting factor for high-resolution simulations, as equally distant points in space become further apart in graph space. First, we demonstrate that it is possible to learn accurate surrogate dynamics of a high-resolution system on a much coarser mesh, both removing the message passing bottleneck and improving performance; and second, we introduce a hierarchical approach (MultiScale MeshGraphNets) which passes messages on two different resolutions (fine and coarse), significantly improving the accuracy of MeshGraphNets while requiring less computational resources.

研究の動機と目的

• MeshGraphNets (MGN) の高解像度メッシュでのメッセージ伝播のボトルネックに対処する。
• 精度を向上させ計算を削減するためにデュアル解像度のメッセージ伝播を備えた階層的 MS-MGN を提案する。
• サブグリッド動力学を教え予測を強化するために高精度ラベルを調査する。
• CylinderFlow dataset で異なるメッシュ解像度での性能を評価する。

提案手法

• 4つのグラフを使用する：fine (G^h)、coarse (G^l)、downsampling (G^{down})、および upsampling (G^{up})。
• Encode-Process-Decode フレームワークは MG N から継続され、G^h と G^l で独立した更新を行う。
• V-cycle のようなプロセッサを実装：G^h の局所更新を行い、G^l にダウンサンプル、G^l の更新、次に G^h にアップサンプル、さらに G^h の更新を続ける。
• 次ステップ予測で訓練し、ロールアウトに対して反復的に適用する。損失は細粒度グラフノード上に配置。
• 高精度ラベルを取り入れ、高解像度の参照解を補間してより良い訓練信号を提供する。

実験結果

リサーチクエスチョン

• RQ1 MS-MGN は MGN がメッセージ伝播速度の制限で停止する高解像度で空間収束を回復できるか？
• RQ2 マルチスケールのメッセージ伝播と粗いグラフは、同じメッセージ伝播ステップ数で MGN より精度と計算効率を改善するか？
• RQ3 高精度ラベルはモデルのサブグリッド動力学の学習能力と解像度を超えた予測を改善するか？
• RQ4 MS-MGN のロールアウトの安定性と複数タイムステップにわたる誤差蓄積に与える影響は？
• RQ5 粗いメッシュの選択は非構造メッシュ整合性に対する性能にどう影響するか？

主な発見

• 同じ総メッセージ伝播ステップ数で MGN と比較して MS-MGN は1ステップの予測誤差を減らす。
• 25 のメッセージ伝播ステップ（mps）を用いた MS-MGN は参照ソルバーの空間収束曲線をほぼ追跡する。
• 高精度ラベルでの訓練により、MGN はより粗いメッシュで参照ソルバーを上回り、MS-MGN は解像度を跨いで上回る。
• 粗いレベルの更新が安価で情報伝播が効果的であるため、MS-MGN はメッシュ解像度を跨いでも MGN より良い精度/計算のトレードオフを提供する。
• 誤差分析では Graph Fourier Transform 分析で長距離空間相関に対する誤差を抑制することを示す。