[论文解读] A framework for automated PDE-constrained optimisation

Simon W. Funke, Patrick E. Farrell|arXiv (Cornell University)|Feb 15, 2013

Advanced Numerical Methods in Computational Mathematics参考文献 55被引用 64

一句话总结

本文提出了一种基于 FEniCS 和 dolfin-adjoint 的高级、自动化的偏微分方程约束优化框架，使用户能够以接近数学表达式的语法指定复杂的优化问题。该框架通过自动微分技术自动推导并求解伴随方程，实现了接近最优的效率（比值为 1.55），并能以极少的用户代码快速求解反问题和最优控制问题。

ABSTRACT

A generic framework for the solution of PDE-constrained optimisation problems based on the FEniCS system is presented. Its main features are an intuitive mathematical interface, a high degree of automation, and an efficient implementation of the generated adjoint model. The framework is based upon the extension of a domain-specific language for variational problems to cleanly express complex optimisation problems in a compact, high-level syntax. For example, optimisation problems constrained by the time-dependent Navier-Stokes equations can be written in tens of lines of code. Based on this high-level representation, the framework derives the associated adjoint equations in the same domain-specific language, and uses the FEniCS code generation technology to emit parallel optimised low-level C++ code for the solution of the forward and adjoint systems. The functional and gradient information so computed is then passed to the optimisation algorithm to update the parameter values. This approach works both for steady-state as well as transient, and for linear as well as nonlinear governing PDEs and a wide range of functionals and control parameters. We demonstrate the applicability and efficiency of this approach on classical textbook optimisation problems and advanced examples.

研究动机与目标

• 降低在科学计算中实现偏微分方程约束优化问题的复杂性和人工工作量。
• 自动化推导并求解稳态和时变偏微分方程、线性和非线性问题的伴随方程。
• 在高级数学表达式与高效、并行化的底层 C++ 代码生成之间提供无缝接口。
• 通过自动生成伴随模型实现高效的梯度计算，避免使用有限差分近似。
• 支持广泛的优化问题，包括反问题和最优控制，且用户干预极少。

提出的方法

• 该框架扩展了一种用于变分形式的领域特定语言，以紧凑、高级的语法表达优化问题，其形式接近数学表达式。
• 利用基于磁带的自动微分（通过 dolfin-adjoint）记录前向模型执行过程，并自动推导伴随方程。
• 该框架利用 FEniCS 的代码生成能力，为前向和伴随偏微分方程求解生成优化且可并行的 C++ 代码。
• 通过重放前向磁带和求解推导出的伴随系统，计算函数值和梯度。
• 将优化算法（如 L-BFGS-B）与框架集成，基于梯度信息更新参数。
• 该方法支持一般等式和不等式约束，适用于简化形式和全空间形式。

实验结果

研究问题

• RQ1 是否可以使用一种高级、数学直觉强的接口，以极少的用户代码指定复杂的偏微分方程约束优化问题？
• RQ2 基于磁带的自动微分能否对非线性、时变偏微分方程实现正确且高效的伴随方程推导？
• RQ3 伴随模型的计算成本能多接近理论最小值（例如，对于采用两次迭代的牛顿法，理论最小值为前向求解的 1.5 倍）？
• RQ4 该框架能否高效求解具有高精度的复杂反问题，例如海啸波形重建？
• RQ5 该框架在多大程度上可推广以支持高级优化技术，如单次法（one-shot methods）或降模态建模？

主要发现

• 该框架使用户仅用几十行代码即可指定偏微分方程约束优化问题，其形式与数学表达式极为相似。
• 伴随模型的运行时间与前向模型的比值达到 1.55，非常接近牛顿求解器在两次迭代下的理论最优值 1.5。
• 对北海道-南西冲海啸波形的重建，绝对误差为 3.91×10⁻⁷ cm，相对误差小于 3×10⁻⁵%。
• 优化在 103 次迭代（113 次函数评估）后收敛，函数值下降至低于机器精度。
• 该框架成功处理了稳态和时变偏微分方程，以及线性和非线性系统，在多种应用中表现良好。
• 该方法支持广泛的优化算法和约束条件，并为单次优化、降模态建模等高级方法提供了基础。