[論文レビュー] Physics Informed Deep Learning (Part II): Data-driven Discovery of Nonlinear Partial Differential Equations

Maziar Raissi, Paris Perdikaris+1 more|arXiv (Cornell University)|Nov 28, 2017

Model Reduction and Neural Networks被引用数 316

ひとこと要約

著者らはデータ駆動発見のための物理情報ニューラルネットワーク（PINN）を開発し、連続時間および離散時間の定式化を用いて空間-時間領域全体で希少またはノイズデータから支配方程式を同定する。

ABSTRACT

We introduce physics informed neural networks -- neural networks that are trained to solve supervised learning tasks while respecting any given law of physics described by general nonlinear partial differential equations. In this second part of our two-part treatise, we focus on the problem of data-driven discovery of partial differential equations. Depending on whether the available data is scattered in space-time or arranged in fixed temporal snapshots, we introduce two main classes of algorithms, namely continuous time and discrete time models. The effectiveness of our approach is demonstrated using a wide range of benchmark problems in mathematical physics, including conservation laws, incompressible fluid flow, and the propagation of nonlinear shallow-water waves.

研究の動機と目的

• 未知パラメータの下での非線形PDEのデータ駆動発見を動機づけ、形式化する。
• データからPDE演算子とパラメータを推定する連続時間および離散時間PINNフレームワークを開発する。
• ベンチマーク（ Burgers’， Navier–Stokes、KdV）を通じてノイズとデータスパース性に対する頑健性を示す。
• PINNが部分データから全状態および補助量（例：圧力）を回復できることを示す。

提案手法

• 状態 u(t,x) をニューラルネットワークで表現し、PDE残差 f := u_t + N[u; lambda] を自動微分で強制する。
• データ誤差とPDE残差をコラケーション点で組み合わせた損失を最小化して訓練する（MSE_u + MSE_f）。
• Navier–Stokes では、連続性を強制し、f および g 残差の中で lambda を解くことで速度成分と圧力を共同学習する。
• 離散時間では、Runge-Kutta 時間積分を用いて二つの時刻のスナップショットを関連付け、Runge-Kutta の段階解と lambda を最小化して SSE を両方のスナップショットで最小化して訓練する。
• ノイズがありスパースなデータを用いて Burgers’、Navier–Stokes、KdV 方程式に適用し、推定パラメータの頑健性と精度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 未知の非線形PDEパラメータ lambda を、限られたデータ（おそらくノイズあり）から正確に同定できるか？
• RQ2 連続時間および離散時間PINNの定式化を、散乱データおよび二つの時刻のスナップショットをそれぞれ扱えるように設計するには？
• RQ3 PINNは支配方程式だけでなく、部分観測から補助場（例：圧力）をどれくらい良く回復できるか？
• RQ4 データ密度、ノイズ、ネットワーク/ RK 設計の選択がPDE発見の精度と頑健性に与える影響は？
• RQ5 高次微分（例：KdV）を扱い、スパースデータから基礎となるダイナミクスを同定できるか？

主な発見

• PINNsは Burgers’ 方程式のパラメータを高精度で同定でき、データノイズが最大10%まで頑健である。
• Navier–Stokes のパラメータ回復はノイズ下で lambda1 の誤差を 0.2% 未満、lambda2 をおおよそ 5–6% 程度で達成。
• Navier–Stokes で速度データのみから圧力場を定性的に回復でき、加法定数まで回復可能。
• Runge-Kutta 形式を用いた離散時間PINNは、ノイズや大きな間隔があっても二つの離れたスナップショットから正確なパラメータ回復を可能にする。
• KdV の例は、高次PDEのパラメータをノイズを含むスパースなスナップショットから正確に回復できることを示す。
• 全体として、物理情報を組み込んだ学習は予測モデリング、制御、最適化のための正確で微分可能な代理モデルを生み出す。）