[論文レビュー] One-shot learning for solution operators of partial differential equations

Jiao, Anran, Haiyang He+3 more|arXiv (Cornell University)|Apr 6, 2021

Model Reduction and Neural Networks参考文献 13被引用数 4

ひとこと要約

本論文は、1つのPDE解を用いて領域を小さな部分領域に分解することで、局所的解作用素を学習する手法を用いて、PDE解作用素のための最初のワンショット学習手法を提案する。メッシュに基づく固定点反復法またはメッシュフリーな局所的解作用素を組み込んだニューラルネットワーク（LOINN）を用いることで、最小限のデータで線形および非線形PDEに対して優れた一般化性能を達成し、ノイズがある状況でも低い誤差率を示す。

ABSTRACT

Learning and solving governing equations of a physical system, represented by partial differential equations (PDEs), from data is a central challenge in a variety of areas of science and engineering. Traditional numerical methods for solving PDEs can be computationally expensive for complex systems and require the complete PDEs of the physical system. On the other hand, current data-driven machine learning methods require a large amount of data to learn a surrogate model of the PDE solution operator, which could be impractical. Here, we propose the first solution operator learning method that only requires one PDE solution, i.e., one-shot learning. By leveraging the principle of locality of PDEs, we consider small local domains instead of the entire computational domain and define a local solution operator. The local solution operator is then trained using a neural network, and utilized to predict the solution of a new input function via mesh-based fixed-point iteration (FPI), meshfree local-solution-operator informed neural network (LOINN) or local-solution-operator informed neural network with correction (cLOINN). We test our method on diverse PDEs, including linear or nonlinear PDEs, PDEs defined on complex geometries, and PDE systems, demonstrating the effectiveness and generalization capabilities of our method across these varied scenarios.

研究の動機と目的

• 最小限のデータ、特に1つの解しか利用できない状況においてもPDE解作用素を学習する課題に対処すること。
• 従来のPDE用深層学習手法が通常大規模なデータセットを必要とする点を克服し、データ非効率性を解消すること。
• 1つの参照解のみを用いても、初期条件および外力項の異なる条件に対して良好に一般化できる手法を開発すること。
• PDEの局所性を活用して、新しい条件下でもスケーラブルで安定的かつ正確な解の予測を可能にすること。

提案手法

• 計算領域を小さな局所的部分領域に分割し、局所的解作用素を学習する。
• ニューラルネットワークを訓練し、各部分領域内の境界値および外力項を、中心点における解にマッピングする。
• メッシュに基づく固定点反復法（FPI）を用い、グローバルな境界条件および初期条件を繰り返し満たす一方で、局所的なPDE制約を満たす。
• ランダムにサンプリングされた点を用いて、安定性および耐性を向上させる2つのメッシュフリーな変種（LOINNおよびcLOINN）を導入する。
• 参照外力関数とその対応する解を用いて、解作用素の学習をワンショット問題として定式化する。
• 構造的および非構造的グリッド上での線形および非線形PDE（拡散方程式および非線形拡散反応方程式）に本手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 PDEの形についての事前知識がなく、1つの解からのみ、PDEの解作用素を正確に学習できるか？
• RQ2 局所的領域のサイズおよび構造の選択が、解の予測精度および収束性に与える影響は何か？
• RQ3 ノイズがある状況下で、メッシュフリーなLOINNおよびcLOINN手法は、メッシュベースの固定点反復法を上回る安定性および耐性を示せるか？
• RQ4 ノイズレベルが上昇する中で、新しい外力関数に対して、この手法は参照解に近い条件下でもどれほど一般化できるか？
• RQ5 グリッド解像度の変化が、ワンショット局所的解作用素学習の性能に与える影響は何か？

主な発見

• 4ノードの局所的領域を用いた線形拡散方程式では、FPIおよびcLOINNがノイズレベル $\sigma = 0.10$ 時に相対 $L^2$ 誤差1.5%未満を達成し、LOINNを上回る性能を示した。
• 6ノードの局所的領域ではFPIが発散したが、cLOINNは $\sigma = 0.50$ 時に3.5%未満の誤差を維持し、優れた耐性を示した。
• 非線形拡散反応方程式では、粗いグリッド（21×21）上でも相対 $L^2$ 誤差が約10%に留まり、強力な一般化性能を示した。
• ノイズレベル（$\sigma$）が上昇するにつれて誤差は増加したが、すべての手法が安定かつ予測可能であり、cLOINNが最も一貫した性能を示した。
• 複数のテストケースにおいて、$f = 0.9\sin(2\pi x) + \Delta f$ のような新しい外力関数に対しても、効果的に一般化され、実世界の摂動を伴うシナリオへの適用可能性が確認された。
• 非線形および高ノイズ領域では、FPIに比べLOINNおよびcLOINNがより高い安定性を示し、メッシュフリーでニューラルネットワークベースの結合の利点が裏付けられた。