[論文レビュー] Learning Neural Constitutive Laws From Motion Observations for Generalizable PDE Dynamics

Pingchuan Ma, Peter Yichen Chen+5 more|arXiv (Cornell University)|Apr 27, 2023

Model Reduction and Neural Networks被引用数 6

ひとこと要約

本稿では、運動観測から構成則を学習するためのハイブリッドフレームワークであるニューラル構成則（NCLaw）を提案する。NCLawは、微分可能で物理的制約を組み込んだニューラルネットワークをPDEベースのシミュレータ内に埋め込み、回転等長性などの物理的事前知識を強制し、運動学的データを監視信号として用いることで、多様な幾何形状、初期・境界条件、マルチフィジックス系において、エンドツーエンドのニューラルネットワークと比較して、1桁から2桁以上も優れた一般化性能を達成する。訓練にはたった1つの軌道データで十分である。

ABSTRACT

We propose a hybrid neural network (NN) and PDE approach for learning generalizable PDE dynamics from motion observations. Many NN approaches learn an end-to-end model that implicitly models both the governing PDE and constitutive models (or material models). Without explicit PDE knowledge, these approaches cannot guarantee physical correctness and have limited generalizability. We argue that the governing PDEs are often well-known and should be explicitly enforced rather than learned. Instead, constitutive models are particularly suitable for learning due to their data-fitting nature. To this end, we introduce a new framework termed "Neural Constitutive Laws" (NCLaw), which utilizes a network architecture that strictly guarantees standard constitutive priors, including rotation equivariance and undeformed state equilibrium. We embed this network inside a differentiable simulation and train the model by minimizing a loss function based on the difference between the simulation and the motion observation. We validate NCLaw on various large-deformation dynamical systems, ranging from solids to fluids. After training on a single motion trajectory, our method generalizes to new geometries, initial/boundary conditions, temporal ranges, and even multi-physics systems. On these extremely out-of-distribution generalization tasks, NCLaw is orders-of-magnitude more accurate than previous NN approaches. Real-world experiments demonstrate our method's ability to learn constitutive laws from videos.

研究の動機と目的

• PDE動的モデルにおけるエンドツーエンドのニューラルネットワークモデルの一般化性能の低さと物理的整合性の欠如を解決すること。
• 現実の物理系では応力-ひずみデータのラベル付けが困難であるという課題を克服すること。
• 既知のPDEと物理的事前知識を強制しながら、構成則のみを学習することでPDEベースの動的モデルの一般化性能を向上させること。
• 運動観測のみを用いて、データ効率的かつ一般化可能な複雑な力学系のモデリングを可能とすること。

提案手法

• 回転等長性と未変形状態の平衡を設計段階で強制するニューラルネットワークアーキテクチャを導入する。
• 微分可能でPDEベースの物理シミュレータ内にニューラル構成モデルを埋め込み、エンドツーエンドのバックプロパゲーションを可能にする。
• シミュレートされた軌道と観測された運動軌道の差を最小化する損失関数を用いてモデルを訓練する。
• 時間軸に沿ったバックプロパゲーション（BPTT）を用い、軌道レベルの監視信号に基づいてニューラル構成モデルを最適化する。
• シミュレータを活用して微分可能な予測を生成し、応力やひずみの直接監視が不要な勾配ベースの最適化を可能にする。
• 固体、流体、マルチフィジックス系を含む多様な材料に本フレームワークを適用し、未学習の幾何形状や条件に対してもゼロショット一般化を実現する。

Figure 1: Hybrid NN-PDE time-stepping . (a) Our method “time-steps” sequentially to obtain the solution of the dynamical system (b) Inside the time-stepping algorithm, we (i) use the neural elastic constitutive law to obtain the stress, (ii) update the state by solving the governing PDE ( Eqn. 1 ),

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークは、回転不変性などの基本的物理的対称性を保持しながら、運動観測から構成則を学習できるか？
• RQ2 支配方程式を固定した上で構成則のみを学習することで、エンドツーエンドのニューラルPDE学習と比較して一般化性能がどのように向上するか？
• RQ3 最小限のデータで、水、ゼリー、砂、粘土といった多様な材料をカバーする1つのニューラルアーキテクチャが一般化可能か？
• RQ4 新しい幾何形状、初期条件、時間範囲、マルチフィジックス系など、極端な分布外一般化において、本手法はどのように性能を示すか？
• RQ5 応力データが入手不能な状況において、位置・速度といった運動学的データのみで十分な監視が可能か、その有効性はどの程度か？

主な発見

• NCLawは、1つの訓練軌道で、新しい幾何形状、初期・境界条件、時間範囲に対しても一般化でき、ベースラインのGNNと比較して1桁から2桁以上も低い誤差を達成した。
• 速度一般化タスクにおいて、NCLawは1つの軌道で損失1.9e-5を達成し、100軌道を用いたGNNでさえ損失1.2e-2を示す中で、優れた性能を示した。
• 弾性右コーシー・グリーンテンソルの平均二乗誤差は2.388e-6であり、ラベル付きベースライン（2.381e-6）と同等の精度を達成したが、直接的な応力監視は使用していない。
• パrameter同定タスクでは、NCLawのPテンソル誤差は6.1e-1であり、ラベル付き手法（2.6e-3）より高いが、これはラベル付き手法が真値応力監視を使用しているため想定内である。
• 速度に基づく補助損失を追加すると、4つのタスクのうち3つで性能がわずかに向上したが、位置情報の監視のみでも強力な一般化性能が達成された。
• 実世界の動画ベース実験により、視覚的運動データから構成則を学習可能であることが確認され、実用的応用の可能性が示された。

Figure 2: Generalization . We first train all methods in the environments specified in training with the initial velocities indicated using the black arrows. Then, we evaluate the generalization of all methods on four tasks specified in testing : (a) extended time, (b) unseen initial velocity, (c) c