[论文解读] Unsupervised Physics-Informed Operator Learning through Multi-Stage Curriculum Training

Paolo Marcandelli, Natansh Mathur+3 more|arXiv (Cornell University)|Feb 2, 2026

Model Reduction and Neural Networks被引用 0

一句话总结

提出一个用于无监督物理信息算子学习的多阶段课程，并引入 PhIS-FNO—a spline-enhanced Fourier 神经算子，在没有 interior labels 的情况下实现具竞争力的精度。

ABSTRACT

Solving partial differential equations remains a central challenge in scientific machine learning. Neural operators offer a promising route by learning mappings between function spaces and enabling resolution-independent inference, yet they typically require supervised data. Physics-informed neural networks address this limitation through unsupervised training with physical constraints but often suffer from unstable convergence and limited generalization capability. To overcome these issues, we introduce a multi-stage physics-informed training strategy that achieves convergence by progressively enforcing boundary conditions in the loss landscape and subsequently incorporating interior residuals. At each stage the optimizer is re-initialized, acting as a continuation mechanism that restores stability and prevents gradient stagnation. We further propose the Physics-Informed Spline Fourier Neural Operator (PhIS-FNO), combining Fourier layers with Hermite spline kernels for smooth residual evaluation. Across canonical benchmarks, PhIS-FNO attains a level of accuracy comparable to that of supervised learning, using labeled information only along a narrow boundary region, establishing staged, spline-based optimization as a robust paradigm for physics-informed operator learning.

研究动机与目标

• 以无监督、基于算子的学习解决 PDEs，以提高鲁棒性与泛化能力。
• 开发一种受课程启发的训练策略，通过在阶段转变时重新初始化优化器来稳定训练。
• 引入 PhIS-FNO，一种混合傅里叶-样条算子，使边界条件下的残差评估更加平滑。
• 在具有周期与非周期边界的典型 PDEs 上 Demonstrate 收敛性与具竞争力的精度。

提出的方法

• 提出一个多阶段课程，先强制边界条件，再对内部 PDE 残差进行约束，在每阶段重新初始化优化器。
• 引入 Physics-Informed Spline Fourier Neural Operator (PhIS-FNO)，将 Hermite 样条核与 Fourier 层结合实现连续残差。
• 以算子学习的术语将 PDE 问题形式化，边界和初始条件引导解算子 G†。
• 使用边界到残差的同伦式损失，其中阶段切换在不固定插值的情况下调整损失权重。
• 通过预测样条系数并利用傅里叶更新的样条基函数重构解来实现 PhIS-FNO。
• 证明分阶段的优化器重置在无监督物理信息学习中的收敛性与稳定性得到改善。

实验结果

研究问题

• RQ1 多阶段课程结合优化器重置是否能在无监督物理信息算子学习中实现稳定收敛？
• RQ2 PhIS-FNO 是否在周期性与非周期域上提供稳定、分辨率不变的残差评估？
• RQ3 边界聚焦训练与内部残差训练在引导学习算子方面有何差异？
• RQ4 在基准 PDEs 上，无监督的物理信息算子是否能与监督方法相匹配或接近？
• RQ5 在提出的课程下，哪些架构（PINO、Spline U-Net、FNO 变体）表现最好？

主要发现

• 多阶段课程在所测试的 PDEs 中实现了完全无监督训练的收敛。
• PINO 在周期性问题上达到最佳精度，而 PhIS-FNO 在非周期和大域问题上表现出更优的性能与稳定性。
• 基于样条的连续微分减少了谱泄漏和截断伪影，改善了梯度行为。
• PhIS-FNO 在处理一般边界条件时保持分辨率不变性。
• 在 Burgers、Poisson 与 Navier–Stokes 基准上，相对于基线，残差误差降低，训练稳定性提升。
• 该框架在若干设置中实现了无数据 interior 学习，其精度可与监督方法相媲美。