[论文解读] A two-phase strategy for control constrained elliptic optimal control problems

Xiaoliang Song, Bo Yu|arXiv (Cornell University)|Oct 2, 2016

Advanced Numerical Methods in Computational Mathematics参考文献 42被引用 4

一句话总结

本文提出一种基于有限元离散化的两阶段策略，用于求解控制约束的椭圆最优控制问题。在第一阶段，采用带有对偶加权子问题的不精确异质交替方向乘子法（ihADMM），以加速收敛至中等精度；在第二阶段，使用原始-对偶活动集（PDAS）方法，实现局部超线性收敛以进一步精炼解。该方法实现了全局收敛性与 o(1/k) 的迭代复杂度，数值结果表明其在精细网格下的高效性与鲁棒性。

ABSTRACT

Elliptic optimal control problems with pointwise box constraints on the control (EOCP) are considered. To solve EOCP, the primal-dual active set (PDAS) method, which is a special semismooth Newton (SSN) method, used to be a priority in consideration of their locally superlinear convergence. However, in general solving the Newton equations is expensive, especially when the discretization is in a fine level. Motivated by the success of applying alternating direction method of multipliers (ADMM) for solving large scale convex minimization problem in finite dimension, it is reasonable to extend the ADMM to solve EOCP. To numerically solve EOCP, the finite element (FE) method is used for discretization. Then, a two-phase strategy is presented to solve discretized problems. In Phase-I, an inexact heterogeneous ADMM (ihADMM) is proposed with the aim of solving discretized problems to moderate accuracy or using it to generate a reasonably good initial point to warm-start Phase-II. Different from the classical ADMM, our ihADMM adopts two different weighted inner product to define the augmented Lagrangian function in two subproblems, respectively. Benefiting from such different weighted techniques, two subproblems of ihADMM can be efficiently implemented. Furthermore, theoretical results on the global convergence as well as the iteration complexity results $o(1/k)$ for ihADMM are given. In Phase-II, in order to obtain more accurate solution, the primal-dual active set (PDAS) method is used as a postprocessor of the ihADMM. Numerical results show that the ihADMM and the two-phase strategy are highly efficient.

研究动机与目标

• 为解决利用传统半光滑牛顿法求解大规模控制约束椭圆最优控制问题（EOCP）时计算成本过高的问题。
• 开发一种可扩展的一阶方法，用于初始解的近似，避免在精细网格上进行昂贵的牛顿求解。
• 结合 ADMM 的全局收敛性与 PDAS 的局部超线性收敛性，以获得高精度解。
• 为一种新型不精确异质 ADMM 变体（ihADMM）建立理论收敛性与迭代复杂度。
• 提供一种实用的两阶段算法，在 EOCP 的数值求解中实现效率与精度的平衡。

提出的方法

• 使用有限元法（FEM）对 EOCP 进行离散化，得到大规模凸优化问题。
• 在第一阶段提出一种不精确异质 ADMM（ihADMM），在增广拉格朗日函数中采用两种不同的加权内积，以解耦并高效求解子问题。
• 引入一种可实现的不精确性准则，以控制子问题精度，同时不损害收敛性。
• 在标准假设下，建立 ihADMM 的全局收敛性与非加速平均意义下的 o(1/k) 迭代复杂度。
• 在第二阶段使用 PDAS 方法作为后处理器，利用其局部超线性收敛特性对 ihADMM 的解进行精炼。
• 将两阶段方法整合为一个两阶段算法：利用 ihADMM 实现快速初始近似，利用 PDAS 实现高精度最终解。

实验结果

研究问题

• RQ1 能否设计一种不精确异质 ADMM，以高效求解具有控制约束的大规模离散化 EOCP？
• RQ2 所提出的 ihADMM 是否在非加速平均意义下实现全局收敛性与 o(1/k) 的迭代复杂度？
• RQ3 ihADMM 与 PDAS 的结合是否能在求解 EOCP 时同时实现计算效率与高精度？
• RQ4 在 ADMM 子问题中采用不同加权内积对算法的效率与收敛性有何影响？
• RQ5 将 ihADMM 用作 PDAS 的热启动，对整体迭代次数减少有何影响？

主要发现

• 所提出的不精确异质 ADMM（ihADMM）在非加速平均意义下实现了全局收敛性与 o(1/k) 的迭代复杂度。
• 在 ADMM 子问题中采用两种不同的加权内积，实现了子问题的高效解耦求解，显著提升了计算效率。
• 两阶段策略——先 ihADMM 后 PDAS——展现出极高的数值效率，PDAS 能够迅速从 ihADMM 的迭代点出发对解进行精炼。
• 该算法在精细离散化下仍保持鲁棒性能，而标准牛顿法在此类情况下变得难以承受。
• 数值实验表明，两阶段方法在解的精度与计算成本方面均优于单独使用任一方法的表现。
• 可实现的不精确性准则确保了子问题精度可控且计算可行，同时不损害收敛性。