[论文解读] Stability of KKT systems and superlinear convergence of the SQP method under parabolic regularity

Ashkan Mohammadi, Boris S. Mordukhovich+1 more|arXiv (Cornell University)|Oct 15, 2019

Optimization and Variational Analysis参考文献 29被引用 5

一句话总结

本文通过抛物正则性，建立了约束优化中KKT系统鲁棒稳定性的二阶表征，使序列二次规划（SQP）方法在一大类非多面体问题上实现超线性收敛。关键贡献在于证明了在抛物正则性下，KKT映射的度量正则性蕴含强度量次正则性，从而在不需多面体约束的条件下，确保了SQP方法的适定性及原-对偶超线性收敛。

ABSTRACT

This paper pursues a two-fold goal. Firstly, we aim to derive novel second-order characterizations of important robust stability properties of perturbed Karush-Kuhn-Tucker systems for a broadclass of constrained optimization problems generated by parabolically regular sets. Secondly, the obtained characterizations are applied to establish well-posedness and superlinear convergence of the basic sequential quadratic programming method to solve parabolically regular constrained optimization problems.

研究动机与目标

• 为约束优化中扰动KKT系统的鲁棒稳定性性质——特别是强度量次正则性与孤立平静性——建立二阶表征。
• 将SQP方法的收敛理论从经典非线性规划推广至一般抛物正则问题。
• 在广义二阶充分条件与抛物正则性下，建立基本SQP方法的适定性与超线性收敛性。
• 统一并推广现有关于非临界乘子与非多面体环境下二阶最优性结果。

提出的方法

• 将约束集的抛物正则性作为基础的二阶正则性条件，推广了已知的度量次正则性与二阶充分条件等概念。
• 应用变分分析中的高级工具，包括度量正则性的共导数准则与法锥映射的导数-共导数包含关系。
• 采用原生可微性与二阶广义微分工具，刻画KKT映射在扰动下的行为。
• 在抛物正则性下，推导出KKT映射的度量正则性与强度量次正则性之间新的等价关系。
• 利用通过Lagrangian Hessian与约束Jacobian定义的KKT映射 $ G $，分析稳定性与收敛性。
• 应用共导数与图形导数工具，将乘子的非临界性与孤立平静性及强度量次正则性联系起来。

实验结果

研究问题

• RQ1 在何种条件下，KKT映射是强度量次正则的，从而确保解在扰动下的鲁棒稳定性？
• RQ2 约束集的抛物正则性如何影响非临界Lagrange乘子的二阶表征？
• RQ3 能否通过广义二阶充分条件，将经典非线性规划中SQP的收敛结果推广至非多面体问题？
• RQ4 在抛物正则性下，KKT映射的度量正则性与强度量次正则性之间存在何种关系？
• RQ5 导数-共导数包含关系如何促进从度量正则性推导强度量次正则性的证明？

主要发现

• 在基本假设（H1）与（H2）下，KKT映射 $ G $ 在 $ ((\bar{x},\bar{\lambda}),(0,0)) $ 处的度量正则性蕴含强度量次正则性，这等价于解映射的孤立平静性。
• 利用度量正则性的共导数准则，证明了 $ (0,0) \in D^*G(\bar{x},\bar{\lambda}),(0,0))(w,u) \Rightarrow w=0, u=0 $，从而确保了KKT系统的稳定性。
• 导数-共导数包含关系 $ DN_\Theta(f(\bar{x}),\bar{\lambda})(\xi) \subset D^*N_\Theta(f(\bar{x}),\bar{\lambda})(\xi) $ 在连接法锥映射的图形导数与共导数方面起着关键作用。
• 在抛物正则性下，SQP子问题具有适定性且可解，因为强度量次正则性确保了迭代解的局部唯一性与稳定性。
• 在广义二阶充分条件下，基本SQP方法在抛物正则问题上实现了超线性收敛，将Bonnans的结果从非线性规划推广至更广范围。
• 即使在经典非线性规划情形下，这些结果也是全新的，因为它们利用抛物正则性与先进的广义微分工具，对非临界乘子与孤立平静性提供了二阶表征。