[論文レビュー] Data-driven Discovery of Partial Differential Equations for Multiple-Physics Electromagnetic Problem

Bing Xiong, Haiyang Fu+2 more|arXiv (Cornell University)|Oct 24, 2019

Model Reduction and Neural Networks参考文献 13被引用数 11

ひとこと要約

本稿では、畳み込みニューラルネットワーク（CNN）とスパース回帰、パレート解析を組み合わせた深層学習フレームワークを提案し、スパースな時空間データから、複数物理現象を伴う電磁気的システムを支配する隠れた非線形偏微分方程式（PDE）を同定する。この手法は、マクスウェル方程式とプラズマ電流保存則が結合された系において、均質的および非均質的係数を高精度に同定でき、限られたデータとノイズ下でも有効であり、サンプリングされた領域を超えた一般化を示している。

ABSTRACT

Deriving governing equations in Electromagnetic (EM) environment based on first principles can be quite tough when there are some unknown sources of noise and other uncertainties in the system. For nonlinear multiple-physics electromagnetic systems, deep learning to solve these problems can achieve high efficiency and accuracy. In this paper, we propose a deep learning neutral network in combination with sparse regression to solve the hidden governing equations in multiple-physics EM problem. Pareto analysis is also adopted to preserve inversion as precise and simple as possible. This proposed network architecture can discover a set of governing partial differential equations (PDEs) based on few temporalspatial samples. The data-driven discovery method for partial differential equations (PDEs) in electromagnetic field may also contribute to solve more sophisticated problem which may not be solved by first principles.

研究の動機と目的

• 第一原理的導出が困難な複雑で非線形なマルチフィジックス電磁気的システムにおける支配的PDEの同定を目的としたデータ駆動型手法の開発。
• 限られた時空間サンプルからPDEの均質的および非均質的係数を高精度に同定すること。
• 測定済みデータの範囲を超えて、同定されたPDEモデルの一般化を可能とし、未測定のパrameter空間における予測を可能とすること。
• ニューラルネットワークベースの微分とロバストなスパース回帰およびパレート最適化を組み合わせることで、ノイズの多いデータに対する課題に対処すること。
• 従来のPDE同定フレームワークを、非線形的で時間変化する、非均質的係数を有する結合系（例：EM-プラズマ相互作用）に対応させる拡張。

提案手法

• CNNを用いて空間微分を制約付き畳み込みフィルタで近似する統合型深層ニューラルネットワークアーキテクチャを構築し、従来の差分法に代わる。
• 未知のPDE係数を学習可能な係数回帰モジュールをネットワークに統合し、非均質項は三角関数級数としてモデル化。
• 候補関数辞書から関連する項を選択するため、スパース回帰を適用し、モデルの単純さと解釈可能性を確保。
• パレート解析を用いてモデルの精度とスパarsityのバランスを最適化し、忠実度と複雑さのトレードオフを最適化。
• 解の微分を計算するために、ニューラルネットワーク内での自動微分を用い、PDE同定プロセスのエンドツーエンド学習を可能に。
• 限られた時空間サンプル上でフレームワークを学習させ、ネットワークがデータから背後にあるPDE構造を再構築する能力を学習。

実験結果

リサーチクエスチョン

• RQ1 第一原理的導出が困難な非線形でマルチフィジックスな電磁気的システムにおいて、スパースなデータから深層学習フレームワークが支配的PDEを同定できるか？
• RQ2 マクスウェル方程式とプラズマ電流保存則のような結合PDEにおいて、均質的および非均質的係数をどれほど高精度に同定できるか？
• RQ3 同定されたモデルが、学習データ範囲外の物理的挙動をどの程度一般化して予測できるか？
• RQ4 数値微分が不安定な状況下で、この手法はどの程度のロバストネスを示すか？
• RQ5 最小限の事前知識で、学習済みパラメータテンソルに対するスパース回帰を用いて、非均質的係数の関数形を同定できるか？

主な発見

• 主な項 $ A_1 \sin(kz) $ が $ A_1 = 0.5036 $ として正しく同定され、真値の 0.5 に非常に近い結果を得ており、期待通り他の項は抑制された。
• 同定された非均質的係数 $ \omega_p^2 \sim 0.5036\sin(3.360z) + 0.9951 $ は、真の形 $ 0.5\sin(3.142z) + 1 $ をよく近似しており、空間サンプリング範囲は $ z = 240-260 $ であった。
• 20個の空間的および10個の時間的サンプルのみで、非均質的係数の高精度な予測と、学習領域を超えた一般化が達成された。
• $ 40\,\text{dB} $ SNRのノイズ下でも、同定モデルは $ \omega_p^2 \sim 0.5897\sin(3.360z) + 1.082 $ となり、やや誤差はあったが関数形を捉えていた。
• ノイズが存在する状況下でもPDE係数の同定にロバストであることが示されたが、誤差はニューラルネットワークの学習および微分推定の影響に起因するとされた。
• パrameter空間の未測定領域への一般化が可能であり、測定済みデータを超えた予測モデリングが可能であることを示した。