[論文レビュー] Physics Informed Deep Learning (Part I): Data-driven Solutions of Nonlinear Partial Differential Equations

Maziar Raissi, Paris Perdikaris+1 more|arXiv (Cornell University)|Nov 28, 2017

Model Reduction and Neural Networks参考文献 10被引用数 965

ひとこと要約

物理知識を組み込んだニューラルネットワーク（PINN）を導入し、非線形偏微分方程式(PDE)を解くために、 自動微分を介して支配方程式を遵守させることで、データ効率の良い解法と代理モデルを実現する。

ABSTRACT

We introduce physics informed neural networks -- neural networks that are trained to solve supervised learning tasks while respecting any given law of physics described by general nonlinear partial differential equations. In this two part treatise, we present our developments in the context of solving two main classes of problems: data-driven solution and data-driven discovery of partial differential equations. Depending on the nature and arrangement of the available data, we devise two distinct classes of algorithms, namely continuous time and discrete time models. The resulting neural networks form a new class of data-efficient universal function approximators that naturally encode any underlying physical laws as prior information. In this first part, we demonstrate how these networks can be used to infer solutions to partial differential equations, and obtain physics-informed surrogate models that are fully differentiable with respect to all input coordinates and free parameters.

研究の動機と目的

• 物理法則をニューラルネットワークに組み込んで偏微分方程式を扱うことで、データ効率の高いモデリングを促進する。
• 解を推定し、微分可能な物理知識を組み込んだ代理モデルを構築するための、連続時間PINNと離散時間PINNのフレームワークを開発する。
• Burgers’、Schrödinger、Allen–Cahn および関連PDEに対するデータ駆動解法の能力を示す。
• 従来の数値法と統合の可能性を含む、利点・制限を強調する。

提案手法

• 潜在PDE解 u(t,x) を深層ニューラルネットワークで表現し、物理知識に基づく残差 f := u_t + N[u] を通じてPDEを課す。
• 学習中にPDE残差に必要な導関数を自動微分を用いて計算する。
• 複合損失 MSE = MSE_u + MSE_f を最小化する（必要に応じて複素数値データや境界データの追加項を含む）。
• 点集合 (N_f) を用いてPDEを散在する場所で課し、限られた観測からデータ効率的に学習する。
• u と f の多出力ネットワークを用いた連続時間PINN、および q ステージのRunge-Kutta法に基づく離散時間PINNを検討し、解を伝搬させる。
• Runge-Kuttaに基づくPINNは高い安定性と精度で大きな時間ステップを取れることを示し、細かな時間離離散化への依存を低減する。

実験結果

リサーチクエスチョン

• RQ1 限られたデータから、支配方程式を守りつつ非線形PDEの解を正確に推定できるか。
• RQ2 連続時間と離散時間のPINN形式は、精度・データ効率・計算効率の点でどう比較されるか。
• RQ3 ネットワークアーキテクチャ、 collocation点密度、Runge-Kuttaパラメータが非線形PDEの予測精度に与える影響は何か。
• RQ4 複素値解、周期境界、複数の非線形性（例: Burgers’、Schrödinger、Allen–Cahn）をPINNは扱えるか。

主な発見

• PINNsはBurgers’方程式の解を、約100データ点と10,000個の collocation点で相対L2誤差6.7e-4程度まで正確に予測できる。
• 複素値PINNは非線形シュレディンガー方程式を、約50の初期データ点と20,000のcollocation点で相対L2誤差1.97e-3で解ける。
• 500段階までの隐Runge–Kuttaを用いた離散時間PINNは Burgers’ 方程式で単一ステップで t=0.9 まで予測可能、相対L2誤差8.2e-4。
• 固定のRK設定ではネットワーク容量を増やすと誤差が減り、連続時間PINNではより大きなN_fが精度を向上させる。
• Allen–Cahn方程式の実験では、鋭い特徴にもかかわらず内部層を用いた単一ステップ予測が正確で、相対L2誤差6.99e-3を達成。
• 本手法はデータ効率が高く物理規制を加えた従来のPDEソルバーの代替となり得るが、従来手法の置換ではなく、適合するものである。