[论文解读] A Multi-Level Deep Framework for Deep Solvers of Partial Differential Equations

Yu Yang, Qiaolin He|arXiv (Cornell University)|Jan 17, 2026

Model Reduction and Neural Networks被引用 0

一句话总结

简介一个受多网格启发的多层深度框架，用于训练神经偏微分方程求解器，采用自适应采样聚焦高频区域，并在各层之间进行迭代细化。

ABSTRACT

In this paper, inspired by the multigrid method, we propose a multi-level deep framework for deep solvers. Overall, it divides the entire training process into different levels of training. At each level of training, an adaptive sampling method proposed in this paper is first employed to obtain new training points, so that these points become increasingly concentrated in computational regions corresponding to high-frequency components. Then, the generalization ability of deep neural networks are utilized to update the PDEs for the next level of training based on the results from all previous levels. Rigorous mathematical proofs and detailed numerical experiments are employed to demonstrate the effectiveness of the proposed method.

研究动机与目标

• 在深度PDE求解器中动机并解决与经典方法相比的频率学习差距。
• 提出一种多层采样策略，在各层中把训练点集中在高频区域。
• 建立一个多层训练框架，在每一层使用所有前层结果来更新PDE。
• 提供理论误差分析和全面的数值实验以证明有效性。

提出的方法

• 提出一种由残差损失和目标函数梯度驱动的多层采样方法，在高频区域集中采样点。
• 定义一个监控函数，结合残差与解的梯度来引导自适应采样。
• 在一系列层级中训练神经PDE求解器，其中第k层的PDE被学习以近似真实解与前一层解之和之间的残差。
• 使用自动微分在新的采样点获取后续层所需的导数信息。
• 结合优化方法如Adam、LBFGS、SOAP与SSBroyden来跨层更新网络参数。
• 提供理论误差分析与多层采样与训练的算法描述。

实验结果

研究问题

• RQ1 如何在与PDE解的高频分量相关的区域自适应地集中采样点？
• RQ2 一个多层训练过程（每层PDE在前一层结果基础上构建）能否提高深度PDE求解器的精度？
• RQ3 多层框架的理论依据是什么，它与经典多网格思路有何关系？
• RQ4 数值实验是否验证通过所提多层方法实现的性能和收敛性的改进？

主要发现

• 本文提出一种基于残差和梯度的多层采样策略，在各层中将点集中在高频区域。
• 一个多层训练框架在每一层使用前一层解的总和来更新目标PDE，旨在逐步逼近真实解。
• 该方法包含严格的数学证明和详细的数值实验，证明了其有效性。
• 该框架整合多种优化方案（Adam、LBFGS、SOAP、SSBroyden），以提高训练的稳定性和收敛性。
• 提供了形式化的误差分析以支撑多层方法的理论基础。