[論文レビュー] Monte Carlo PINNs: deep learning approach for forward and inverse problems involving high dimensional fractional partial differential equations

Ling Guo, Hao Wu+2 more|arXiv (Cornell University)|Mar 16, 2022

Model Reduction and Neural Networks被引用数 5

ひとこと要約

本稿では、高次元の前向きおよび逆問題に対する分数階偏微分方程式（FPDE）を解くための深層学習手法として、モンテカルロ物理情報ニューラルネットワーク（MC-PINNs）を提案する。損失関数における分数階微分の不偏推定量をモンテカルロサンプリングにより計算することで、従来のfPINNsなどの手法と比較して計算コストを低減し、高次元のFPDEの効率的解法を可能にする。特に、パラメトリック問題やランダム入力問題に対しても10次元ケースで高い精度が確認された。

ABSTRACT

We introduce a sampling based machine learning approach, Monte Carlo physics informed neural networks (MC-PINNs), for solving forward and inverse fractional partial differential equations (FPDEs). As a generalization of physics informed neural networks (PINNs), our method relies on deep neural network surrogates in addition to a stochastic approximation strategy for computing the fractional derivatives of the DNN outputs. A key ingredient in our MC-PINNs is to construct an unbiased estimation of the physical soft constraints in the loss function. Our directly sampling approach can yield less overall computational cost compared to fPINNs proposed in \cite{pang2019fpinns} and thus provide an opportunity for solving high dimensional fractional PDEs. We validate the performance of MC-PINNs method via several examples that include high dimensional integral fractional Laplacian equations, parametric identification of time-space fractional PDEs, and fractional diffusion equation with random inputs. The results show that MC-PINNs is flexible and promising to tackle high-dimensional FPDEs.

研究の動機と目的

• 分数階微分の非局所性および特異性のため、計算が著しく困難となる高次元の分数階PDEを解く課題に対処すること。
• 分数階微分の有限差分離散化に依存する従来のfPINN手法の高い計算コストを克服すること。
• 時空間分数階PDEにおけるパラメトリック同定およびランダム入力を持つFPDEにおける不確実性の定量化を可能にすること。
• 従来手法で用いられる大規模な補助点集合を必要としないスケーラブルでサンプリングに基づくアプローチを開発すること。
• 10次元の積分分數ラプラシアン方程式やランダムパラメータを含む逆問題を含む高次元問題において、本手法の有効性を実証すること。

提案手法

• ニューラルネットワーク出力の分数階微分をモンテカルロサンプリングにより計算し、従来の有限差分法の代わりに使用する。
• 確率的近似を用いて損失関数内の物理的制約の不偏推定量を構築する。
• サンプリングに基づく台形則を用いて、分数階微分の推定をディープニューラルネットワーク学習中に損失関数に直接統合する。
• 積分分數ラプラシアンを含む前向き問題、時空間FPDEのパラメトリック同定、ランダム入力を持つFPDEに本手法を適用する。
• 適応的サンプリングとAdam最適化子を用いたミニバッチ学習を導入し、収束性および一般化性能を向上させる。
• センサデータを用いた逆問題における事後分布推定のため、MC-PINNsを近似的ベイズ計算（ABC）と組み合わせる。

実験結果

リサーチクエスチョン

• RQ1 モンテカルロサンプリングは、PINNsにおける分数階微分の計算に向けた有限差分法の効率的でスケーラブルな代替手段となり得るか？
• RQ2 積分分數ラプラシアンを含む高次元の前向き問題、特に10次元ケースにおいてMC-PINNsはどれほど高い精度で解けるか？
• RQ3 複数の未知パラメータを含む時空間分數広がり拡散方程式（ADE）において、MC-PINNsは効果的にパラメトリック同定を実行できるか？
• RQ4 ランダム入力（例えば、ランダムな分數階順序や拡散係数）を持つFPDEにおいて、MC-PINNsは不確実性の定量化をどれほどうまく処理できるか？
• RQ5 高次元の逆問題において、fPINNsと比較してMC-PINNsのスケーラビリティと性能はいかがなっているか？

主な発見

• 1次元逆問題ADEにおいて、MC-PINNsは相対L2誤差5.04 × 10⁻⁴を達成し、すべての同定されたパラメータが真値に近い値を示した。
• 3次元逆問題ADEでは、相対L2誤差が1.18 × 10⁻³であり、同定されたパラメータはα = 1.50115、γ = 0.50005、c = 0.09981であった。
• 5次元逆問題ADEでは、相対L2誤差が3.26 × 10⁻³であり、全8つの未知パラメータが正確に回復された。
• 本手法は10次元空間分數ラプラシアン問題においても頑健な性能を示し、従来の数値的手法をはるかに超えるスケーラビリティを示した。
• ランダム入力付き分數拡散問題では、次元が増加するに従い相対L2誤差が上昇（2次元：低、5次元：中程度、10次元：高め）したが、固定された残差点数のもとで補間モデルは依然として高精度を維持した。
• MC-PINNsを用いた近似的ベイズ計算により、αおよびµの事後分布が正常に回復され、真値（α = 1、µ = 0）が信用区間内に位置した。