[論文レビュー] Operator Learning with Neural Fields: Tackling PDEs on General Geometries

Louis Serrano, Lise Le Boudec+5 more|arXiv (Cornell University)|Jun 12, 2023

Model Reduction and Neural Networks参考文献 51被引用数 15

ひとこと要約

CORAL は座標ベースのニューラルフィールド演算子を導入し、一般的な幾何学上の関数間の写像をマッピングし、不規則なメッシュ上でのPDE解法を可能にし、IVP、ダイナミクス、幾何学的認識タスク全般で高い汎用性を示します。

ABSTRACT

Machine learning approaches for solving partial differential equations require learning mappings between function spaces. While convolutional or graph neural networks are constrained to discretized functions, neural operators present a promising milestone toward mapping functions directly. Despite impressive results they still face challenges with respect to the domain geometry and typically rely on some form of discretization. In order to alleviate such limitations, we present CORAL, a new method that leverages coordinate-based networks for solving PDEs on general geometries. CORAL is designed to remove constraints on the input mesh, making it applicable to any spatial sampling and geometry. Its ability extends to diverse problem domains, including PDE solving, spatio-temporal forecasting, and inverse problems like geometric design. CORAL demonstrates robust performance across multiple resolutions and performs well in both convex and non-convex domains, surpassing or performing on par with state-of-the-art models.

研究の動機と目的

• 一般的な幾何学上でPDEを解くために、無限次元の関数空間間の写像を学習する動機付け。
• メッシュ制約を回避し、不規則なサンプリングをサポートする柔軟な演算子学習フレームワークの開発。
• CORAL を複数の物理情報付きタスク（初期値問題、ダイナミクス予測、幾何学認識を伴う推定）にまたがって示す。
• 座標ベースの表現を用いることが、未知の格子や幾何に対する頑健性をもたらすことを示す。

提案手法

• 共有基底パラメータと関数ごとのモジュレーションを用いて、入力関数と出力関数をエンコードする2つのモデュレートされたImplicit Neural Representations (INRs) を使用する。
• 空間エンコーダを介して入力を低次元潜在コードにエンコードし、モジュレーションを伴う INR によって自己デコードする。
• 潜在コードを、柔軟な処理系（例：単純な MLP や Neural ODE ソルバー）で処理して、入力潜在を出力潜在へ写像する。
• 出力潜在コードをモジュレーション付き INR を用いて空間関数へデコードし、任意のクエリ位置で予測を得る。
• 2段階の手順で訓練する：初めに INRs を用いて入力/出力を再構成するように適合させ、次に潜在空間処理系を訓練する。
• 表現力と効率のバランスを取るため、SIREN ベースの INRs をシフト変調とともに採用して、表現力と効率のバランスを取る。

実験結果

リサーチクエスチョン

• RQ1 CORAL は不規則または未知の格子上でメッシュ制約なしに関数間の写像を学習できるか。
• RQ2 CORAL は初期値問題、ダイナミクス予測、幾何学認識を伴う推定など多様なタスクでどのように機能するか。
• RQ3 空間的サンプリングと幾何の変化に対して、既存の演算子やメッシュベースのモデルと比較して頑健か。
• RQ4 潜在コードを用いた2段階訓練は複雑な演算子の学習を迅速かつ効果的に可能にするのか。
• RQ5 CORAL の性能は、凸および非凸領域、平面対球面幾何において、いくつかのベースラインと比較して格子変更や不規則サンプリングに対してどの程度頑健か。

主な発見

• CORAL は IVP、ダイナミクス予測、幾何学認識を伴う推定タスク全般で競合的または最先端の性能を達成する。
• モデルは訓練時に見られなかった新しい格子、非常に不規則なサンプリング、非凸領域を含む場合でも一般化する。
• CORAL は空間的スパース性やメッシュ粒度の変化下でも強い性能を維持し、しばしば他のメッシュベースまたは固定グリッド演算子よりも優れる。
• 推論は、空間関数を効率的にデコードできるコンパクトな潜在表現により高速である。
• いくつかのベースラインと比較して、CORAL は格子の変化や不規則なサンプリングに対して頑健であり、一部の手法が訓練格子に過剰適合するのを回避する。