[论文解读] Physics-informed neural networks with hard constraints for inverse design

Lu Lu, Raphaël Pestourie+4 more|arXiv (Cornell University)|Feb 9, 2021

Topology Optimization in Engineering被引用 48

一句话总结

该论文提出 hPINN，一种物理信息神经网络框架，通过惩罚和增广拉格朗日方法对 PDE 约束的逆设计实施硬约束，在全息成像和斯托克斯流动上进行了演示。

ABSTRACT

Inverse design arises in a variety of areas in engineering such as acoustic, mechanics, thermal/electronic transport, electromagnetism, and optics. Topology optimization is a major form of inverse design, where we optimize a designed geometry to achieve targeted properties and the geometry is parameterized by a density function. This optimization is challenging, because it has a very high dimensionality and is usually constrained by partial differential equations (PDEs) and additional inequalities. Here, we propose a new deep learning method -- physics-informed neural networks with hard constraints (hPINNs) -- for solving topology optimization. hPINN leverages the recent development of PINNs for solving PDEs, and thus does not rely on any numerical PDE solver. However, all the constraints in PINNs are soft constraints, and hence we impose hard constraints by using the penalty method and the augmented Lagrangian method. We demonstrate the effectiveness of hPINN for a holography problem in optics and a fluid problem of Stokes flow. We achieve the same objective as conventional PDE-constrained optimization methods based on adjoint methods and numerical PDE solvers, but find that the design obtained from hPINN is often simpler and smoother for problems whose solution is not unique. Moreover, the implementation of inverse design with hPINN can be easier than that of conventional methods.

研究动机与目标

• 动机并将 PDE 约束的逆设计问题表述为拓扑优化。
• 开发 hPINN 来求解逆设计，而无需依赖传统 PDE 求解器。
• 在 PINN 中强制执行等式与不等式硬约束，以确保可行的设计。
• 将 hPINN 的性能与基于伴随方法的 PDE 约束优化方法进行比较。

提出的方法

• 引入两个神经网络来近似解 u(x) 和设计参数 gamma(x)。
• 通过自动微分对 PDE 和边界条件的残差进行惩罚来构建 PDE 信息化损失。
• 通过修改网络架构来严格施加 Dirichlet 和周期边界条件（硬约束）。
• 给出软约束、惩罚方法和增广拉格朗日法，将 PDEs 和不等式约束作为硬约束来强制。
• 给出训练的算法步骤（算法 1：惩罚方法，算法 2：增广拉格朗日法）。
• 在光学全息成像和斯托克斯流动问题上演示 hPINN，并与传统的基于伴随的 PDE 约束优化进行比较。

实验结果

研究问题

• RQ1 在逆设计问题中，hPINN 能否有效地强制执行 PDE 约束以及硬不等式/边界约束？
• RQ2 与常规的基于伴随的 PDE 求解器相比，hPINN 在拓扑优化设计上的表现如何？
• RQ3 在非唯一解设定中，硬约束形式是否会带来更简单或更平滑的设计？
• RQ4 惩罚法与增广拉格朗日法在收敛性质和实际训练考量方面有何差异？

主要发现

• hPINN 在目标函数性能上达到与传统的 PDE 约束优化方法相同的水平。
• 硬约束实现通常在不额外对长度尺度或光滑性进行正则化的情况下，产生更简单、更加平滑的设计。
• 惩罚方法和增广拉格朗日方法解决了在 PINN 中强制约束时的病态条件和收敛挑战。
• 通过结构修改实现的硬约束可以将 Dirichlet 和周期性边界条件严格执行。
• 在前向测试中，PDE 残差可以接近零，L2 相对误差随着训练进展而改善。