[論文レビュー] Structure-Preserving Learning Improves Geometry Generalization in Neural PDEs

Benjamin Shaffer, Shawn Koohy+3 more|arXiv (Cornell University)|Feb 2, 2026

Model Reduction and Neural Networks被引用数 0

ひとこと要約

Geo-NeWは、ジオメトリ条件付きの構造保存型の隐含ニューラルPDEソルバーで、保存と境界条件を厳密に守られた有限要素の縮約モデルを学習することで、未見ジオメトリに対する一般化を改善します。

ABSTRACT

We aim to develop physics foundation models for science and engineering that provide real-time solutions to Partial Differential Equations (PDEs) which preserve structure and accuracy under adaptation to unseen geometries. To this end, we introduce General-Geometry Neural Whitney Forms (Geo-NeW): a data-driven finite element method. We jointly learn a differential operator and compatible reduced finite element spaces defined on the underlying geometry. The resulting model is solved to generate predictions, while exactly preserving physical conservation laws through Finite Element Exterior Calculus. Geometry enters the model as a discretized mesh both through a transformer-based encoding and as the basis for the learned finite element spaces. This explicitly connects the underlying geometry and imposed boundary conditions to the solution, providing a powerful inductive bias for learning neural PDEs, which we demonstrate improves generalization to unseen domains. We provide a novel parameterization of the constitutive model ensuring the existence and uniqueness of the solution. Our approach demonstrates state-of-the-art performance on several steady-state PDE benchmarks, and provides a significant improvement over conventional baselines on out-of-distribution geometries.

研究の動機と目的

• PDE解法において未見ジオメトリへ一般化する物理に基づく基盤モデルの必要性を動機付ける。
• 保存則を保持するジオメトリ条件付き縮約有限要素フレームワークを開発する。
• General-Geometry Neural Whitney Forms (Geo-NeW) を導入し、縮約FE空間と適合する作用素の両方を学習する。
• FEECベースの離散化においてリプシッツ境界付き非線形フラックスにより可解性と一意性を確保する。
• 定常PDEベンチマークで最先端または競合的な性能を示し、out-of-distribution一般化を改善する。

提案手法

• G_thetaとB_thetaを学習する陰的オペレーター学習問題を定義し、G_theta(u, α)=0 および B_theta(u, α)=u_b を満たす。
• 保存性と安定性を維持するため、Whitney formsの部分空間としてW_g^kを構成し、正確な列の性質を保持する。
• ジオメトリ文脈zに条件付けられたジオメトリ条件付きニューラル場W(x,z)を用いて基底関数を縮約基底へ写像する。
• 存在性・一意性・安定な implicit 微分を保証するため、リプシッツ制御付き非線形フラックスF_theta(u,z)をパラメータ化する。
• ジオメトリエンコーダE_thetaを介して特徴量(HKS, HC, SDF, 境界ラベル)でメッシュジオメトリを符号化し、コンテキストzを出力してFE空間と演算子を条件付けに使用する。
• 学習されたFE系を PDE制約付き最適化で隠微分（アジョイント）を用いて解く。
• 境界条件Dirichletを課すことで剛性演算子のコエルシビリティと可逆性を確保し、ジオメトリ間で安定な解法を可能にする。

Figure 1 : Geo-NeW provides improved generalization capability for strongly out-of-distribution geometries. Here, models trained on square domains with randomly circular obstacles, but evaluated on a domain including a variable angle step $\theta$ ; increasing $\theta$ provides a continuous measure

実験結果

リサーチクエスチョン

• RQ1 ジオメトリ条件付き・構造保存型ニューラ PDEフレームワークは retraining なしで未見ジオメトリへ一般化できるか？
• RQ2 縮約有限要素空間と学習された演算子は保存則と境界条件をニューラルPDE代替でどのように保持するか？
• RQ3 ジオメトリエンコーディングと分割-一様基底学習が定常PDEのout-of-distribution一般化に与える影響は？
• RQ4 学習されたFEECベースPDEモデルにおける解の存在性・一意性・安定性をどのように保証するか？
• RQ5 ジオメトリ情報を組み込んだGeo-NeWモデルは標準ベースラインおよびOODベンチマークで優れた成績を示すか？

主な発見

Model	1e-2	Poly ID	Poly OOD	NS2d-c	NS2d-c++ ID	NS2d-c++ OOD
GNOT ( 2023 )	0.074	5.24	0.93	5.30	83.08
Transolver ( 2024 )	0.064	7.04	0.63	4.04	91.40
Linear Attention ( 2020 )	0.055	4.60	0.66	3.11	91.84
Inducing Point (baseline)	0.054	8.90	1.82	4.47	–
Ours (Geo-NeW)	0.033*	2.14*	1.10	1.93	42.2

• Geo-NeWは複数の定常PDEベンチマークでin-distribution性能が最先端と同等またはそれを上回る。
• Geo-NeWはTransolverやGNOTなどのベースラインと比較して未見ジオメトリへのout-of-distribution一般化を大幅に改善する。
• リプシッツ制御付き非線形フラックスモデルは良定値性を保証し、信頼性のある隠微分と学習を可能にする。
• ジオメトリ条件付き縮約FE空間とFEECベースの構造は、離散レベルで保存と境界条件を正確に維持する。
• HKS、HC、SDF特徴を備えたジオメトリエンコーダはFE空間と学習演算子の条件付けに対し、離散化不変・姿勢不変の手段を提供する。
• Table 1はGeo-NeWが複数の非標準PDEデータセットで競合的または優位な誤差を示し、OOD設定で顕著な改善を示す。

Figure 2 : Geo-NeW pipeline for geometry-generalizable PDE surrogate modeling. A geometry encoder maps mesh-derived features to a latent context $z$ that conditions both reduced finite element spaces and a nonlinear flux model. Geometry enters both through the learned encoding and explicitly as a ba