[論文レビュー] Sequential constant rank constraint qualifications for nonlinear semidefinite programming with applications

Roberto Andreani, Gabriel Haeser+2 more|arXiv (Cornell University)|Jun 1, 2021

Advanced Optimization Algorithms Research参考文献 22被引用数 4

ひとこと要約

本稿は、非線形半定値計画（NSDP）における逐次的定数ランク制約規準—seq-CRCQ および seq-CPLD—を導入し、非線形計画（NLP）型の条件を錐最適化へと拡張する。これらの条件は、ラグランジュ乗数の有界性や一意性を仮定せず、増大ラグランジュ法、SQP法、内点法の全域収束を保証する。非退化性やロビンソンのCQ よりも弱く、同時に距離的下有界性を含意する。

ABSTRACT

We present new constraint qualification conditions for nonlinear semidefinite programming that extend some of the constant rank-type conditions from nonlinear programming. As an application of these conditions, we provide a unified global convergence proof of a class of algorithms to stationary points without assuming neither uniqueness of the Lagrange multiplier nor boundedness of the Lagrange multipliers set. This class of algorithm includes, for instance, general forms of augmented Lagrangian, sequential quadratic programming, and interior point methods. We also compare these new conditions with some of the existing ones, including the nondegeneracy condition, Robinson's constraint qualification, and the metric subregularity constraint qualification.

研究の動機と目的

• 非線形計画（NLP）における定数ランク型制約規準（CRCQおよびCPLD）を、非線形半定値計画（NSDP）へと拡張し、収束性の優れた性質を保つこと。
• 摂動を定義に組み込むことで、より強固でアルゴリズムに適した変種—逐次的CRCQおよび逐次的CPLD—を構築すること。
• 非退化性やロビンソンのCQ よりも弱い仮定のもとで、増大ラグランジュ法、逐次二次計画法（SQP）、内点法が停留点へ全域収束することを確立すること。
• 新しい条件と既存の条件（非退化性、ロビンソンのCQ、距離的下有界性）を比較し、それらの相対的強さと独立性を明確にすること。
• 理論的およびアルゴリズム的応用を支援するため、条件の逐次的および非逐次的特徴づけを提供すること。

提案手法

• 行列制約の固有ベクトル構造を活用し、先行研究における弱非退化性および弱ロビンソンのCQ をインspireして、NSDPにおける弱CRCQおよび弱CPLDを提案する。
• 制約依存構造に摂動を組み込むことで、逐次的変種—seq-CRCQおよびseq-CPLD—を導入し、近似乗数に対してより強いロバストネスを実現する。
• カラテオドリの補題と無限の鳩の巣原理を用いて、極限における勾配方向の線形従属を分析し、条件の不成立下で矛盾を導く。
• seq-CPLDが距離的下有界性制約規準を含意することを証明し、誤差境界および収束安定性と結びつける。
• NLPが構造的に対角行列制約を介してNSDPに埋め込まれる場合、弱CRCQおよび弱CPLDが標準NLPの対応する条件に還元されることを示す。
• 非退化性 ⇒ 弱非退化性 ⇒ 弱ロビンソンのCQ ⇒ 弱CRCQ ⇒ 弱CPLD ⇒ ロビンソンのCQ ⇒ seq-CRCQ ⇒ seq-CPLD ⇒ 距離的下有界性CQ という条件の階層を確立する。

実験結果

リサーチクエスチョン

• RQ1 NLPにおける定数ランク型制約規準を、収束性の性質を保ちつつ、非線形半定値計画（NSDP）へ意味的に拡張可能か？
• RQ2 提案されたCRCQおよびCPLDの逐次的変種は、非退化性、ロビンソンのCQ、距離的下有界性といった既存のCQと比較して、どの程度強いのか？
• RQ3 これらの新しいCQは、ラグランジュ乗数の有界性や一意性を仮定せず、増大ラグランジュ法、SQP、内点法といった主要なNSDPアルゴリズムの全域収束を支援できるか？
• RQ4 新しい逐次的CQは、NSDPにおける古典的な誤差境界や2次最適性条件とどのような関係にあるか？
• RQ5 弱CQおよび逐次的CQは、理論的解析やアルゴリズム設計を容易にする非逐次的特徴づけを有するか？

主な発見

• 提案された逐次的CRCQ（seq-CRCQ）は、非退化性よりも厳密に弱く、ロビンソンのCQとは独立であるが、広範なアルゴリズムクラスの全域収束を保証する。
• 逐次的CPLD（seq-CPLD）は、ロビンソンのCQ よりも厳密に弱く、距離的下有界性制約規準を含意する。これにより誤差境界解析が可能になる。
• 弱CRCQおよび弱CPLDは、NLPが構造的に対角行列制約を介してNSDPに埋め込まれる場合、標準NLPの対応する条件に一致することが示された。
• これらの条件は摂動に対してロバストであり、増大ラグランジュ法、SQP、内点法の停留点への統一的全域収束証明を支援する。
• 非退化性 ⇒ 弱非退化性 ⇒ 弱ロビンソンのCQ ⇒ 弱CRCQ ⇒ 弱CPLD ⇒ ロビンソンのCQ ⇒ seq-CRCQ ⇒ seq-CPLD ⇒ 距離的下有界性CQ という制約規準の階層が確立された。
• 本稿では、新しいCQの逐次的および非逐次的特徴づけを提供し、理論的およびアルゴリズム的応用の両方を強化した。