[论文解读] Sequential constant rank constraint qualifications for nonlinear semidefinite programming with applications

Roberto Andreani, Gabriel Haeser+2 more|arXiv (Cornell University)|Jun 1, 2021

Advanced Optimization Algorithms Research参考文献 22被引用 4

一句话总结

本论文为非线性半定规划（NSDP）引入了顺序常秩约束资格条件——seq-CRCQ 与 seq-CPLD，将 NLP 类型的条件扩展至锥优化。这些条件确保增广拉格朗日法、SQP 与内点法全局收敛至稳定点，且无需假设拉格朗日乘子有界或唯一。它们严格弱于非退化性与罗宾逊约束资格条件，同时蕴含局部度量次正则性。

ABSTRACT

We present new constraint qualification conditions for nonlinear semidefinite programming that extend some of the constant rank-type conditions from nonlinear programming. As an application of these conditions, we provide a unified global convergence proof of a class of algorithms to stationary points without assuming neither uniqueness of the Lagrange multiplier nor boundedness of the Lagrange multipliers set. This class of algorithm includes, for instance, general forms of augmented Lagrangian, sequential quadratic programming, and interior point methods. We also compare these new conditions with some of the existing ones, including the nondegeneracy condition, Robinson's constraint qualification, and the metric subregularity constraint qualification.

研究动机与目标

• 将非线性规划（NLP）中的常秩型约束资格条件（CRCQ 与 CPLD）扩展至非线性半定规划（NSDP），同时保持其优良的收敛性质。
• 通过在定义中引入扰动，提出更强、更具算法鲁棒性的变体——顺序-CRCQ 与顺序-CPLD，以拓展其在更广算法类中的适用性。
• 在弱于非退化性或罗宾逊约束资格条件的假设下，建立增广拉格朗日法、序列二次规划（SQP）与内点法向稳定点全局收敛的理论保障。
• 将新条件与现有条件（非退化性、罗宾逊约束资格条件、度量次正则性）进行比较，厘清其相对强度与独立性。
• 提供条件的顺序与非顺序两种刻画形式，以支持理论分析与算法设计。

提出的方法

• 通过利用矩阵约束的特征向量结构，借鉴先前工作中弱非退化性与弱罗宾逊约束资格条件的思想，为 NSDP 提出弱-CRCQ 与弱-CPLD。
• 通过在约束依赖结构中引入扰动，提出顺序变体——seq-CRCQ 与 seq-CPLD，增强对近似乘子的鲁棒性。
• 运用卡拉西奥多里引理与无限鸽巢原理，分析极限状态下梯度方向的线性相关性，证明在条件不成立时产生矛盾。
• 证明 seq-CPLD 蕴含度量次正则性约束资格条件，从而建立其与误差界分析及收敛稳定性之间的联系。
• 证明当通过结构对角半定约束将 NLP 嵌入 NSDP 时，弱-CRCQ 与弱-CPLD 退化为标准 NLP 对应条件。
• 建立约束资格条件的层次结构：非退化性 ⇒ 弱非退化性 ⇒ 弱罗宾逊约束资格条件 ⇒ 弱-CRCQ ⇒ 弱-CPLD ⇒ 罗宾逊约束资格条件 ⇒ seq-CRCQ ⇒ seq-CPLD ⇒ 度量次正则性约束资格条件。

实验结果

研究问题

• RQ1 能否在保持收敛性质的前提下，将 NLP 中的常秩型约束资格条件有意义地推广至非线性半定规划？
• RQ2 所提出的 CRCQ 与 CPLD 的顺序变体在强度上与现有约束资格条件（如非退化性、罗宾逊约束资格条件、度量次正则性）相比如何？
• RQ3 这些新约束资格条件是否可在不假设拉格朗日乘子有界或唯一的情况下，支持主要 NSDP 算法（如增广拉格朗日法、SQP、内点法）的全局收敛？
• RQ4 新顺序约束资格条件与 NSDP 中经典误差界或二阶最优性条件之间存在何种关系？
• RQ5 弱型与顺序型约束资格条件是否具有非顺序刻画形式，从而便于理论分析与算法设计？

主要发现

• 所提出的顺序-CRCQ（seq-CRCQ）严格弱于非退化性条件，且与罗宾逊约束资格条件独立，但仍能确保一大类算法的全局收敛。
• 顺序-CPLD（seq-CPLD）严格弱于罗宾逊约束资格条件，且蕴含度量次正则性约束资格条件，从而支持误差界分析。
• 当通过结构对角半定约束将 NLP 问题嵌入 NSDP 时，弱-CRCQ 与弱-CPLD 条件与标准 NLP 对应条件一致。
• 这些条件对扰动具有鲁棒性，并支持对增广拉格朗日法、SQP 与内点法向稳定点的统一全局收敛性证明。
• 建立了约束资格条件的层次结构：非退化性 ⇒ 弱非退化性 ⇒ 弱罗宾逊约束资格条件 ⇒ 弱-CRCQ ⇒ 弱-CPLD ⇒ 罗宾逊约束资格条件 ⇒ seq-CRCQ ⇒ seq-CPLD ⇒ 度量次正则性约束资格条件。
• 本文同时提供了新约束资格条件的顺序与非顺序刻画形式，显著增强了其理论与算法适用性。