[논문 리뷰] Structure-Preserving Learning Improves Geometry Generalization in Neural PDEs

Benjamin Shaffer, Shawn Koohy외 3명|arXiv (Cornell University)|2026. 02. 02.

Model Reduction and Neural Networks인용 수 0

한 줄 요약

Geo-NeW는 기하조건화되고 구조를 보존하는 암시적 신경 PDE 해석기로, 보존 법칙과 경계 조건을 정확히 적용한 축소 유한요소 모델을 학습함으로써 보이지 않는 기하에 대한 일반화 성능을 향상시킨다.

ABSTRACT

We aim to develop physics foundation models for science and engineering that provide real-time solutions to Partial Differential Equations (PDEs) which preserve structure and accuracy under adaptation to unseen geometries. To this end, we introduce General-Geometry Neural Whitney Forms (Geo-NeW): a data-driven finite element method. We jointly learn a differential operator and compatible reduced finite element spaces defined on the underlying geometry. The resulting model is solved to generate predictions, while exactly preserving physical conservation laws through Finite Element Exterior Calculus. Geometry enters the model as a discretized mesh both through a transformer-based encoding and as the basis for the learned finite element spaces. This explicitly connects the underlying geometry and imposed boundary conditions to the solution, providing a powerful inductive bias for learning neural PDEs, which we demonstrate improves generalization to unseen domains. We provide a novel parameterization of the constitutive model ensuring the existence and uniqueness of the solution. Our approach demonstrates state-of-the-art performance on several steady-state PDE benchmarks, and provides a significant improvement over conventional baselines on out-of-distribution geometries.

연구 동기 및 목표

• PDE 해석에서 보이지 않는 기하에 일반화하는 물리 기반 기초 모델의 필요성을 제시한다.
• 보존 법칙을 보존하는 기하 조건화된 축소 유한요소 프레임워크를 개발한다.
• 일반 기하학 신경 Whitney 형식(Geo-NeW)을 도입하여 축소된 FE 공간과 호환 연산자를 함께 학습한다.
• FEEC 기반 이산화 내에서 Lipschitz 제한된 비선형 플럭스를 통해 해의 존재성과 고유성을 보장한다.
• 정적 상태 PDE 벤치마크에서 최첨단 또는 경쟁력 있는 성능을 시연하고, OOD 일반화가 향상된다.

제안 방법

• G_theta(u, alpha)=0 및 B_theta(u, alpha)=u_b 를 만족하도록 G_theta와 B_theta를 학습하는 암시적 연산자 학습 문제를 정의한다.
• 보존성과 안정성을 유지하기 위해 정확한 시퀀스 특성을 보존하면서 Whitney 형태의 부분공간으로 축소된 유한요소 공간 W_g^k를 구성한다.
• 지오메트리 컨텍스트 z로 조건화된 기하 조건화된 신경장 W(x,z)를 사용하여 기본 함수들을 축소된 기저로 매핑한다.
• 해의 존재성, 고유성, 안정적인 암시적 미분을 보장하기 위해 Lipschitz 제어를 갖춘 비선형 플럭스 F_theta(u,z)를 매개변수화한다.
• 메시 기하학을 특징(HKS, HC, SDF, 경계 레이블)을 통해 인코딩하고 FE 공간 및 연산자를 조건화하는 데 사용될 컨텍스트 z를 출력하는 기하 인코더 E_theta를 통해 인코딩한다.
• 학습된 FE 시스템을 PDE 구속 최적화를 통해 암시적으로 풀이하고, 학습에는 암시적 미분(자코트)을 사용한다.
• 경계 조건을 Dirichlet으로 강제하여 강성 연산자의 강제성과 가역성을 보장하고 다양한 기하에서의 안정적 해를 가능하게 한다.

Figure 1 : Geo-NeW provides improved generalization capability for strongly out-of-distribution geometries. Here, models trained on square domains with randomly circular obstacles, but evaluated on a domain including a variable angle step $\theta$ ; increasing $\theta$ provides a continuous measure

실험 결과

연구 질문

• RQ1 재학습 없이도 기하 조건화되고 구조를 보존하는 신경 PDE 프레임워크가 보이지 않는 기하에 일반화할 수 있는가?
• RQ2 축소된 유한요소 공간과 학습된 연산자가 신경 PDE 대체물에서 보존 법칙과 경계 조건을 보존할 수 있는가?
• RQ3 정적 상태 PDE의 OOD 일반화에 기하 인코딩과 분할-합_basis 학습이 미치는 영향은 무엇인가?
• RQ4 학습된 FEEC 기반 PDE 모델에서 해의 존재성, 고유성, 안정성을 어떻게 보장할 수 있는가?
• RQ5 기하 정보가 반영된 Geo-NeW 모델이 표준 및 OOD PDE 벤치마크에서 기준보다 우수한가?

주요 결과

• Geo-NeW는 여러 정적 상태 PDE 벤치마크에서 동일 분포 상의 성능으로 최첨단에 부합하거나 이를 능가한다.
• Geo-NeW는 Transolver 및 GNOT과 같은 기준선에 비해 보이지 않는 기하에 대한 OOD 일반화를 크게 향상시킨다.
• Lipschitz 제한 비선형 플럭스 모형은 해의 존재성과 고유성 보장을 통해 안정적인 암시적 미분 및 학습을 가능하게 한다.
• 기하 조건화된 축소된 FE 공간과 FEEC 기반 구조를 사용하여 이산 수준에서 보존 및 경계 조건을 정확히 보존한다.
• HKS, HC, SDF 특징을 갖는 기하 인코더는 FE 공간과 학습된 연산자를 조건화하는 이산화 및 자세 불변의 수단을 제공한다.
• 표 1은 Geo-NeW가 여러 비표준 PDE 데이터셋에서 경쟁력 있거나 우수한 오차를 달성하고, OOD 설정에서 뚜렷한 이득을 보임을 보여준다.

Figure 2 : Geo-NeW pipeline for geometry-generalizable PDE surrogate modeling. A geometry encoder maps mesh-derived features to a latent context $z$ that conditions both reduced finite element spaces and a nonlinear flux model. Geometry enters both through the learned encoding and explicitly as a ba