[论文解读] Fast PDE-constrained optimization via self-supervised operator learning

Sifan Wang, Mohamed Aziz Bhouri+1 more|arXiv (Cornell University)|Oct 25, 2021

Model Reduction and Neural Networks参考文献 55被引用 5

一句话总结

该论文提出了一种自监督物理信息驱动的DeepONet框架，通过在无需成对训练数据的情况下学习参数化PDE的解算子，以加速PDE约束优化。该方法实现了对连续控制与设计变量的快速、可微分且高维的优化——在阻力最小化与传热问题中，相较于伴随求解器实现了高达1000倍的速度提升，且误差低于1%。

ABSTRACT

Design and optimal control problems are among the fundamental, ubiquitous tasks we face in science and engineering. In both cases, we aim to represent and optimize an unknown (black-box) function that associates a performance/outcome to a set of controllable variables through an experiment. In cases where the experimental dynamics can be described by partial differential equations (PDEs), such problems can be mathematically translated into PDE-constrained optimization tasks, which quickly become intractable as the number of control variables and the cost of experiments increases. In this work we leverage physics-informed deep operator networks (DeepONets) -- a self-supervised framework for learning the solution operator of parametric PDEs -- to build fast and differentiable surrogates for rapidly solving PDE-constrained optimization problems, even in the absence of any paired input-output training data. The effectiveness of the proposed framework will be demonstrated across different applications involving continuous functions as control or design variables, including time-dependent optimal control of heat transfer, and drag minimization of obstacles in Stokes flow. In all cases, we observe that DeepONets can minimize high-dimensional cost functionals in a matter of seconds, yielding a significant speed up compared to traditional adjoint PDE solvers that are typically costly and limited to relatively low-dimensional control/design parametrizations.

研究动机与目标

• 解决由于维度灾难和昂贵的PDE求解导致的高维PDE约束优化计算不可行问题。
• 克服传统降模态模型对大规模训练数据集的依赖及其在参数变化下鲁棒性不足的局限性。
• 开发一种可微分、快速的PDE解算子代理模型，实现在无需成对输入输出数据情况下的梯度优化。
• 利用深度算子网络实现对连续、无限维控制函数（如时变或形状参数）的优化。
• 在高精度与高速度下，验证该框架在实时最优控制与形状优化中的有效性。

提出的方法

• 利用物理信息驱动的DeepONet，以自监督方式学习参数化PDE的解算子，无需依赖标注的输入-输出对。
• 通过在损失函数中直接最小化由控制PDE、边界条件和初始条件导出的残差损失来训练DeepONet。
• 使用潜在空间表示来编码输入函数（如控制输入或几何参数），并预测任意时空分辨率下的全场解（如速度、压力、温度）。
• 通过训练好的DeepONet实现反向传播，计算代价泛函对连续控制变量的梯度，从而实现基于梯度的优化。
• 将训练好的DeepONet集成到梯度下降循环中，用于求解PDE约束优化问题，替代昂贵的伴随求解器。
• 使用高保真FEniCS求解器生成参考解，以进行定量比较验证该方法。

实验结果

研究问题

• RQ1 物理信息驱动的DeepONet能否在无需成对训练数据的情况下，作为PDE约束优化的快速、可微分且高精度的代理模型？
• RQ2 DeepONet在最优控制与形状优化问题中，对连续、无限维控制与设计变量的处理能力达到何种程度？
• RQ3 与传统伴随有限元求解器相比，基于DeepONet的优化框架在速度与精度方面表现如何？
• RQ4 该框架在求解复杂PDE（如具有复杂几何形状的时间依赖传热与Stokes流）时能否保持高精度？
• RQ5 该自监督DeepONet在不同参数范围及未见配置下的泛化能力如何？

主要发现

• 所提出的基于DeepONet的框架在每轮优化中，实现传热与阻力最小化的最优控制仅需不到10秒，相较于传统伴随求解器实现了1000倍的速度提升。
• 在Stokes流阻力最小化问题中，预测的最优障碍物几何形状与FEniCS生成的参考解相比，相对L²误差仅为0.51%。
• 在Stokes流情况下，物理信息驱动的DeepONet在速度场上的测试误差为0.97% ± 0.24%，v分量为4.79% ± 0.53%，压力场为1.53% ± 0.67%。
• 该方法成功实现了对连续控制函数（如时变热源与障碍物形状）的优化，而无需将控制空间离散化为有限维向量。
• 该框架在未见参数配置下表现出强鲁棒性与泛化能力，甚至无需微调或重新训练。
• 自监督训练范式消除了对大规模模拟数据集的需求，与传统降模态建模相比，显著降低了数据获取成本。