[論文レビュー] Learning to Simulate Unseen Physical Systems with Graph Neural Networks

Ce Yang, Weihao Gao+2 more|arXiv (Cornell University)|Jan 28, 2022

Machine Learning in Materials Science被引用数 6

ひとこと要約

本稿では、材料パラメータと運動量保存則を組み込むことで、未知の物理的システムに一般化するグラフニューラルネットワーク（GNN）ベースのシミュレータ、Graph-based Physics Engine（GPE）を提案する。動的グラフ上のメッセージパッシングによる物理的ダイナミクスのモデル化と物理法則の強制により、GPEは新しい粘性、弾性、および複雑な幾何形状に対しゼロショット一般化を達成し、訓練の安定性と効率性が向上する。

ABSTRACT

Simulation of the dynamics of physical systems is essential to the development of both science and engineering. Recently there is an increasing interest in learning to simulate the dynamics of physical systems using neural networks. However, existing approaches fail to generalize to physical substances not in the training set, such as liquids with different viscosities or elastomers with different elasticities. Here we present a machine learning method embedded with physical priors and material parameters, which we term as "Graph-based Physics Engine" (GPE), to efficiently model the physical dynamics of different substances in a wide variety of scenarios. We demonstrate that GPE can generalize to materials with different properties not seen in the training set and perform well from single-step predictions to multi-step roll-out simulations. In addition, introducing the law of momentum conservation in the model significantly improves the efficiency and stability of learning, allowing convergence to better models with fewer training steps.

研究の動機と目的

• 液体の新しい粘性やエラスマーの新しい弾性といった、未学習の物理的物質への一般化の欠如を解消すること。
• 微分可能物理エンジンにおける訓練効率と長期シミュレーションの安定性を向上させること。
• 学習データをはるかに超える大規模かつ複雑な物理的シナリオへのゼロショット一般化を可能にすること。
• 特に運動量保存則を含む基本的な物理法則をGNNアーキテクチャに統合し、モデルの忠実性と学習効率を向上させること。

提案手法

• ノードを離散的な物質点とし、エッジを相互作用力で表す動的有向グラフとして物理的システムを表現する。
• 相対的な位置と速度に基づいてノード間の力を計算するために、メッセージパッシングニューラルネットワーク（MPNN）を用いる。
• 学習可能または入力特徴としての材料パラメータ（例：粘性、弾性）を組み込むことで、物理的性質の間での一般化を可能にする。
• システム全体の合力がゼロになるようにメッセージパッシングを修正することで運動量保存則を強制し、安定性の向上と計算コストの低減を実現する。
• 全軌道の監視を必要とせず、1ステップ先予測損失を用いてエンドツーエンド学習を可能にする。
• 近隣探索やマルチスケールグリッドなどの異なるグラフ構築戦略を用い、流体、エラスマー、有限要素法モデルなど多様な物理ドメインに適応する。

実験結果

リサーチクエスチョン

• RQ1 学習中に見られなかった材料パラメータを持つ物理的システムに、学習済み物理シミュレータが一般化できるか？
• RQ2 運動量保存則の強制は、GNNベースのシミュレータにおける訓練の安定性と計算効率にどのように影響するか？
• RQ3 GNNベースのシミュレータは、学習データに含まれるシナリオよりも大規模かつ複雑な物理的状況に、どの程度一般化できるか？
• RQ4 運動量保存則のような物理的事前知識を組み込むことで、GNNベースのシミュレータの一般化性能と長期的なロールアウト性能が向上するか？
• RQ5 一様なGNNアーキテクチャで、流体の流れ、弾性変形、FEMを含む多様な物理的ダイナミクスを、アーキテクチャの再設計なしにシミュレートできるか？

主な発見

• GPEは、エラスマー分野で平均MSE 1.35、FEM分野で1.27を達成し、GNS、DPI-Net、ConvNetといったベースラインを上回る最先端の一般化性能を実現した。
• 運動量保存則の導入により、前方計算時間が37％短縮され、より低い検証損失で収束が早くなった。
• GPEは、学習時とは比較にならない150,000個の液体ノードと50,000個の境界ノードを有する3次元複雑な峡谷の流れに対しても、強力なゼロショット転送を実現した。
• 2次元の球形境界で学習したにもかかわらず、GPEは3次元の液体の流れやウォーターフォールを正確にシミュレートでき、訓練データの記憶ではなく物理法則を学習していることを示している。
• GPEは、単一ステップ予測損失での学習のみに依存しているにもかかわらず、長期的なロールアウト性能が安定しており、物理的制約による強いインダクティブバイアスがあることが示された。
• GPEは、砂、雪、流体、エラスマー、FEMなど多様なドメインで一貫した性能を示し、アーキテクチャの最小限の変更で実現した。