[論文レビュー] nPINNs: nonlocal Physics-Informed Neural Networks for a parametrized nonlocal universal Laplacian operator. Algorithms and Applications

Guofei Pang, Marta D’Elia+2 more|arXiv (Cornell University)|Apr 8, 2020

Model Reduction and Neural Networks被引用数 13

ひとこと要約

本稿では、非局所積分作用素におけるパラメータおよび関数を同定するための非局所物理情報ニューラルネットワーク（nPINNs）を提案する。特に、古典的ラプラシアンと分数ラプラシアンを一般化する統一的非局所ラプラシアンを含む。この手法により、相互作用半径δと次数αの同時同定が可能となり、乱流における普遍的スケーリング行動が明らかになり、数値的収束性および数値積分の妥当性によって検証された高い精度が示された。

ABSTRACT

Physics-informed neural networks (PINNs) are effective in solving inverse problems based on differential and integral equations with sparse, noisy, unstructured, and multi-fidelity data. PINNs incorporate all available information into a loss function, thus recasting the original problem into an optimization problem. In this paper, we extend PINNs to parameter and function inference for integral equations such as nonlocal Poisson and nonlocal turbulence models, and we refer to them as nonlocal PINNs (nPINNs). The contribution of the paper is three-fold. First, we propose a unified nonlocal operator, which converges to the classical Laplacian as one of the operator parameters, the nonlocal interaction radius $δ$ goes to zero, and to the fractional Laplacian as $δ$ goes to infinity. This universal operator forms a super-set of classical Laplacian and fractional Laplacian operators and, thus, has the potential to fit a broad spectrum of data sets. We provide theoretical convergence rates with respect to $δ$ and verify them via numerical experiments. Second, we use nPINNs to estimate the two parameters, $δ$ and $α$. The strong non-convexity of the loss function yielding multiple (good) local minima reveals the occurrence of the operator mimicking phenomenon: different pairs of estimated parameters could produce multiple solutions of comparable accuracy. Third, we propose another nonlocal operator with spatially variable order $α(y)$, which is more suitable for modeling turbulent Couette flow. Our results show that nPINNs can jointly infer this function as well as $δ$. Also, these parameters exhibit a universal behavior with respect to the Reynolds number, a finding that contributes to our understanding of nonlocal interactions in wall-bounded turbulence.

研究の動機と目的

• 非局所積分方程式における未知パラメータを同定するための物理情報付きフレームワークの構築、特に非局所ポisson方程式および乱流モデルを対象とする。
• δ → 0 および δ → ∞ の極限でそれぞれ古典的ラプラシアンおよび分数ラプラシアンに還元される統一的非局所ラプラシアン作用素の提案。
• スパarsity、ノイズ、マルチファシリティデータに起因するデータを用いたニューラルネットワークの訓練を通じて、非局所作用素における相互作用半径δと次数αの同時同定を可能にする。
• 損失関数の強い非凸性に起因する、複数のパラメータペアが同等の解精度を達成する「作用素模倣現象」の調査。
• コアンプトフローなどの複雑な乱流流れをモデル化するため、空間的に変化する次数α(y)を扱うフレームワークの拡張と、レイノルズ数依存の普遍的挙動の同定。

提案手法

• 本稿では、パラメータδ（相互作用半径）およびα（次数）を有するパラメトリック非局所ラプラシアン作用素を導入し、δ → 0 の極限で古典的ラプラシアンに収束し、δ → ∞ の極限で分数ラプラシアンに収束することを示す。
• 物理情報付きニューラルネットワーク（PINNs）を用いて、支配的非局所PDEの残差項、初期・境界条件、観測データを組み合わせた損失関数を最小化する。
• 非局所積分作用素の近似に、適応的サブ統合と高次数のガウス＝レジェンドル則を用いた複合型ガウス＝レジェンドル数値積分スキームを採用し、精度を確保する。
• 物理法則と観測データを統合した単一の損失関数を用いて、δとαの両方、および空間的に変化するα(y)の同時学習が可能である。
• δに関する統一作用素の理論的収束レートを導出し、数値的検証により解析的期待と整合的であることを確認した。
• 非局所ポisson方程式および乱流コアンプトフローを含むベンチマーク問題に対して手法をテストし、Sobol系列によるサンプリングと相対誤差指標を用いて数値積分の精度を評価した。

実験結果

リサーチクエスチョン

• RQ1 δを唯一のパラメータとして用いて、古典的ラプラシアンと分数ラプラシアンを滑らかに補間する統一的非局所ラプラシアン作用素を構築可能か？また、δの変動に伴う収束性はいかなるものか？
• RQ2 nPINNsは、スパarsity、ノイズ、不規則なデータから、非局所作用素の2つの主要パラメータδとαをどの程度正確に同定できるか？
• RQ3 nPINNsの損失関数は、作用素模倣現象に起因して複数の局所的最小値を示すか？これはパラメータ同定可能性にどのような意味を持つのか？
• RQ4 nPINNsは、コアンプトフローなどの複雑な乱流流れにおいて、空間的に変化する作用素次数α(y)を同定可能か？
• RQ5 壁に近い乱流において、同定されたパラメータδとα(y)はレイノルズ数に従って普遍的スケーリングを示すか？

主な発見

• 提案された統一的非局所ラプラシアン作用素は、δ → 0 で古典的ラプラシアンに収束し、δ → ∞ で分数ラプラシアンに収束する。理論的収束レートは数値的に確認され、解析的期待と整合的である。
• nPINNsはスパarsityおよびノイズのあるデータからδとαを効果的に同定し、損失関数の強い非凸性に起因する「作用素模倣現象」を示した。この現象により、複数のパラメータペアが同等の解精度を達成した。
• 1次元、2次元、3次元のテスト関数に対する数値実験を通じて、数値積分の精度が検証され、サブ統合数および数値積分点数の増加に伴い相対誤差が減少することが示された。
• フレームワークは乱流コアンプトフローにおける空間的に変化するα(y)の同定に成功し、δとα(y)がレイノルズ数に依存する普遍的依存関係を明らかにした。
• 異なるレイノルズ数において、同定されたパラメータが一貫したスケーリングを示し、壁に近い乱流における普遍的非局所相互作用メカニズムの存在を示唆した。