[論文レビュー] Discovering Nonlinear PDEs from Scarce Data with Physics-encoded Learning

Chengping Rao, Pu Ren+2 more|arXiv (Cornell University)|Jan 28, 2022

Model Reduction and Neural Networks被引用数 12

ひとこと要約

本稿では、限られた、ノイズが多く、低解像度（LR）の時空間的測定値から非線形偏微分方程式（PDE）を同定するための、物理学を組み込んだディープラーニングフレームワーク、PeRCNNを提案する。まず、物理に基づいた再帰的畳み込みネットワークを用いて高精度なデータを再構築し、その後再構築されたデータに対してスパース回帰を適用することで、高いノイズとデータ不足の状況下でも正確なPDE同定を達成する。本手法は、10%のノイズと10%のデータサブサンプリングを伴う複数の非線形PDE系において、ベースラインモデルを上回る性能を発揮する。

ABSTRACT

There have been growing interests in leveraging experimental measurements to discover the underlying partial differential equations (PDEs) that govern complex physical phenomena. Although past research attempts have achieved great success in data-driven PDE discovery, the robustness of the existing methods cannot be guaranteed when dealing with low-quality measurement data. To overcome this challenge, we propose a novel physics-encoded discrete learning framework for discovering spatiotemporal PDEs from scarce and noisy data. The general idea is to (1) firstly introduce a novel deep convolutional-recurrent network, which can encode prior physics knowledge (e.g., known PDE terms, assumed PDE structure, initial/boundary conditions, etc.) while remaining flexible on representation capability, to accurately reconstruct high-fidelity data, and (2) perform sparse regression with the reconstructed data to identify the explicit form of the governing PDEs. We validate our method on three nonlinear PDE systems. The effectiveness and superiority of the proposed method over baseline models are demonstrated.

研究の動機と目的

• 従来の手法がデータ品質の悪さにより失敗する低解像度でノイズの多い実験的測定値から支配的PDEを同定する課題に対処すること。
• 高品質なデータに依存する既存のデータ駆動型PDE同定手法がノイズ下で過剰適合や不安定性を示すという限界を克服すること。
• 既知のPDE項、初期・境界条件などの事前物理的知識（例：既知のPDE構造）をディープラーニングアーキテクチャに統合することで、解釈可能で白色ボックスなモデルを構築し、耐性と正確性を向上させること。
• データが希少でノイズで汚染されている現実世界の状況、特に高次元系においても、複雑な非線形PDEを信頼性高く同定できることを実現すること。
• 物理を組み込んだデータ再構築とスパース回帰を組み合わせたハイブリッドフレームワークを提案し、PDE構造と係数を反復的に最適化すること。

提案手法

• 非線形PDE項のモデリングに高速畳み込み層と要素ごとの乗算を用いることで、物理的知識を統合した新しい深層畳み込み・再帰的ネットワークアーキテクチャ、PeRCNNを導入する。
• PeRCNNネットワークを用いて、物理的整合性を保つために埋め込まれた制約を用いて、低解像度（LR）でノイズの多い測定値から高解像度（HR）時空間データを再構築する。
• 再構築されたHRデータに対してスパース回帰（SINDy/STRidge）を適用し、多項式および微分関数のライブラリを用いて支配的候補項を同定する。
• 同定されたPDE項の係数を精緻化するために、完全に物理に基づいたネットワークを用いたファインチューニングステップを実施し、正確性と一般化性能を向上させる。
• データ忠実性と物理的妥当性の両方を活用して、データ再構築とPDE同定を交互に最適化することで、フレームワークを反復的に最適化する。
• 既知のPDE構造、初期・境界条件、反応項の形（例：多項式）といった事前知識をネットワークアーキテクチャに直接組み込むことで、解釈可能性と安定性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 物理的知識を組み込んだディープラーニングモデルは、極めて希少でノイズの多い測定値から物理的に整合性を持つ高精度な時空間的データを再構築できるか？
• RQ2 物理に基づいたディープラーニングとスパース回帰を統合することで、データ不足とノイズ下でのPDE同定の正確性と頑健性はどのように向上するか？
• RQ3 HRデータの10%しか利用できない状況下で、提案フレームワークは真の基礎PDEをどの程度正確に同定できるか？
• RQ4 高ノイズと低解像度下で、PDE構造回復と係数正確性の観点から、PDE-FIND、PDE-Net、FCNN+SRといったベースラインモデルと比較して、本手法の性能はいかがなものか？
• RQ5 粗い測定値から、2次元グレイ＝スチュアートおよびギエラー＝マイヒャルトの反応拡散系のような、複雑な非線形PDEと複雑な時空間的ダイナミクスを扱えるか？

主な発見

• 10%のノイズ下で2次元ギエラー＝マイヒャルト反応拡散系のPDE同定において、相対誤差は $5.44 \times 10^{-2}$ に達し、リCALLは100%、精度は91.6%を達成した。
• 2次元バーガーズ方程式では、正しいPDE構造が回復され、係数は真値に近く、$u_t = 0.096\Delta u + 1.038u - 1.048u^3 + \dots$ と表現され、高い係数正確性を示した。
• 26 × 26のLR測定値を用いた2次元グレイ＝スチュアート系において、本手法は高精度な101 × 101の解を再構築し、最小限の誤差で正しいPDE項を同定した。PDE-FIND、PDE-Net、FCNN+SRを上回る性能を発揮した。
• HRデータの10%しか使用しない状況下でも、本フレームワークは頑健な性能を維持しており、データ不足下での優れた一般化能力を示した。
• ファインチューニングステップにより係数正確性が著しく向上し、2次元GS系の最終PDEでは、係数が真値の1%以内に収束した（例：$\Delta u$ 項の係数は $2.001 \times 10^{-5}$）。
• すべての3つのテストケースにおいて、本手法は優れた再構築品質とPDE同定正確性を示し、不完全なデータを伴う現実世界のシナリオにおける有効性を検証した。