[论文解读] Second order optimality conditions for strong local minimizers via subgradient graphical derivative

Nguyễn Huy Chiêu, Le Van Hien+2 more|arXiv (Cornell University)|Mar 13, 2019

Optimization and Variational Analysis参考文献 31被引用 4

一句话总结

本文利用次梯度图导数，为非光滑优化中的强局部极小值建立了二阶最优性条件，表明在某些正则性条件下，该导数在近似驻点处的正定性是充分且必要的。该研究将经典结果拓展至$C^2$-锥可约规划问题，以度量次正则性约束规范（MSCQ）替代罗宾逊的约束规范（RCQ），并建立了二次增长与次微分的强度量次正则性之间的联系。

ABSTRACT

This paper is devoted to the study of second order optimality conditions for strong local minimizers in the frameworks of unconstrained and constrained optimization problems in finite dimensions via subgradient graphical derivative. We prove that the positive definiteness of the subgradient graphical derivative of an extended-real-valued lower semicontinuous proper function at a proximal stationary point is sufficient for the quadratic growth condition. It is also a necessary condition for the latter property when the function is either subdifferentially continuous, prox-regular, twice epi-differentiable or variationally convex. By applying our results to the $\mathcal{C}^2$-cone reducible constrained programs, we establish no-gap second order optimality conditions for (strong) local minimizers under the metric subregularity constraint qualification. These results extend the classical second order optimality conditions by surpassing the well-known Robinson's constraint qualification. Our approach also highlights the interconnection between the strong metric subregularity of subdifferential and quadratic growth condition in optimization problems.

研究动机与目标

• 通过次梯度图导数刻画非光滑、无约束优化中的强局部极小值。
• 在弱于罗宾逊约束规范的条件下，为约束$C^2$-锥可约规划建立无间隙的二阶最优性条件。
• 通过原-对偶结构将二次增长条件与次微分的强度量次正则性联系起来。
• 利用图导数技术，将经典二阶条件推广至凸与半代数设定之外的更广泛情形。

提出的方法

• 本文将次梯度图导数用作原-对偶二阶结构，以分析强局部极小值。
• 证明了在近似驻点处次梯度图导数的正定性蕴含二次增长条件。
• 该方法依赖于在特定函数类中，二次增长与次微分的强度量次正则性之间的等价性。
• 对于约束问题，该方法适用于在度量次正则性约束规范（MSCQ）下的$C^2$-锥可约规划。
• 分析借助了变分分析中的工具，包括近端正则性、次微分连续性以及二阶上境可微性。
• 关键结果通过将图导数与极限次微分联系起来，并利用优化中的稳定性性质推导得出。

实验结果

研究问题

• RQ1 次梯度图导数能否作为非凸、非光滑优化中强局部极小值的二阶结构？
• RQ2 在弱于凸性的正则性假设下，次梯度图导数的正定性是否对二次增长条件既充分又必要？
• RQ3 度量次正则性约束规范（MSCQ）是否足以在$C^2$-锥可约规划中建立无间隙的二阶最优性条件？
• RQ4 在非凸设定下，次微分的强度量次正则性与二次增长条件之间有何关系？
• RQ5 在MSCQ下，经典二阶充分条件能否被完全刻画，从而替代罗宾逊的约束规范？

主要发现

• 在无约束、非光滑优化中，次梯度图导数在近似驻点处的正定性足以保证二次增长条件。
• 当函数满足次微分连续性、近端正则性、二阶上境可微性或变分凸性时，该条件对二次增长也变为必要。
• 在$C^2$-锥可约规划中，经典二阶充分条件在度量次正则性约束规范（MSCQ）下可完全刻画强局部极小值。
• MSCQ严格弱于罗宾逊的约束规范（RCQ），使得二阶最优性条件的应用范围更广。
• 在所考虑的两类广义函数下，次微分的强度量次正则性与二次增长条件等价。
• 结果在MSCQ下为约束规划中的强局部极小值提供了无间隙刻画，扩展了以往需更强约束规范的研究成果。