[논문 리뷰] Sequential constant rank constraint qualifications for nonlinear semidefinite programming with applications

Roberto Andreani, Gabriel Haeser외 2명|arXiv (Cornell University)|2021. 06. 01.

Advanced Optimization Algorithms Research참고 문헌 22인용 수 4

한 줄 요약

이 논문은 비선형 준정적계획문제(NSDP)에 대해 순차적 일정계수 제약조건자격(seq-CRCQ 및 seq-CPLD)을 도입하며, 비선형계획문제(NLP) 유형의 조건을 원뿔최적화로 확장한다. 이러한 조건들은 국소수렴을 보장하며, 라그랑주 승수의 유계성이나 유일성 조건을 필요로 하지 않으며, 비퇴화성과 로빈슨의 조건보다 엄밀히 더 약한 조건이지만, 거리하향성 조건을 암시한다.

ABSTRACT

We present new constraint qualification conditions for nonlinear semidefinite programming that extend some of the constant rank-type conditions from nonlinear programming. As an application of these conditions, we provide a unified global convergence proof of a class of algorithms to stationary points without assuming neither uniqueness of the Lagrange multiplier nor boundedness of the Lagrange multipliers set. This class of algorithm includes, for instance, general forms of augmented Lagrangian, sequential quadratic programming, and interior point methods. We also compare these new conditions with some of the existing ones, including the nondegeneracy condition, Robinson's constraint qualification, and the metric subregularity constraint qualification.

연구 동기 및 목표

• 비선형계획문제(NLP)에서의 일정계수유형 제약조건자격(CRCQ 및 CPLD)을 비선형 준정적계획문제(NSDP)로 확장하여, 그 유용한 수렴성 성질을 유지하는 것.
• 왜곡을 정의에 통합하여 보다 강력하고 알고리즘적으로 안정된 변형인 순차적-CRCQ 및 순차적-CPLD를 개발하는 것.
• 비퇴화성 또는 로빈슨의 조건보다 더 약한 가정 하에, 증강라그랑주법, 순차적 quadratic 프로그래밍(SQP), 내부점법의 전역수렴을 정류점으로 보장하는 것.
• 기존 조건들(비퇴화성, 로빈슨의 조건, 거리하향성)과 새로운 조건들을 비교하여 그 상대적 강도와 독립성을 명확히 하는 것.
• 이론적 및 알고리즘적 응용을 지원하기 위해 조건들의 순차적 및 비순차적 특성화를 제공하는 것.

제안 방법

• 기존 연구에서 유도된 약한 비퇴화성 및 약한 로빈슨의 조건을 기반으로, 행렬 제약의 고유벡터 구조를 활용하여 NSDP에 대한 약한-CRCQ 및 약한-CPLD를 제안하는 것.
• 제약 조건의 의존성 구조에 왜곡을 통합하여 순차적 변형인 seq-CRCQ 및 seq-CPLD를 도입함으로써, 근사 승수에 대한 강건성을 향상시키는 것.
• 카라테오도리의 보조정리와 무한개의 비둘기우산 원리(∞-pigeonhole principle)를 사용하여, 극한에서 기울기 방향의 선형의존성을 분석하고, 조건의 실패 시 모순을 도출하는 것.
• seq-CPLD가 거리하향성 제약조건자격을 암시함을 증명하여, 오차 bound 분석 및 수렴 안정성과 연결하는 것.
• NLP가 구조적으로 대각선 준정적 행렬 제약을 통해 통합될 경우, 약한-CRCQ 및 약한-CPLD 조건이 표준 NLP 대응 조건으로 축소됨을 보여주는 것.
• 비퇴화성 ⇒ 약한 비퇴화성 ⇒ 약한 로빈슨의 조건 ⇒ 약한-CRCQ ⇒ 약한-CPLD ⇒ 로빈슨의 조건 ⇒ seq-CRCQ ⇒ seq-CPLD ⇒ 거리하향성 제약조건자격의 계층을 수립하는 것.

실험 결과

연구 질문

• RQ1 NLP에서 유도된 일정계수유형 제약조건자격이 NSDP로 의미 있게 확장될 수 있으며, 그 수렴 성질이 유지될 수 있는가?
• RQ2 제안된 CRCQ 및 CPLD의 순차적 변형은 기존의 제약조건자격(비퇴화성, 로빈슨의 조건, 거리하향성)과 비교해 강도가 어떻게 되는가?
• RQ3 이러한 새로운 제약조건자격은 라그랑주 승수의 유계성 또는 유일성 조건 없이도 주요 NSDP 알고리즘(예: 증강라그랑주법, SQP, 내부점법)의 전역수렴을 보장할 수 있는가?
• RQ4 새로운 순차적 제약조건자격과 NSDP에서의 고전적 오차 bound 또는 이阶 최적성 조건 사이의 관계는 무엇인가?
• RQ5 약한 및 순차적 제약조건자격은 이론적 분석 및 알고리즘 설계를 용이하게 하는 비순차적 특성화를 갖는가?

주요 결과

• 제안된 순차적-CRCQ(seq-CRCQ)는 비퇴화성 조건보다 엄밀히 더 약하며, 로빈슨의 조건과 독립적이지만, 광범위한 알고리즘의 전역수렴을 보장한다.
• 순차적-CPLD(seq-CPLD)는 로빈슨의 조건보다 엄밀히 더 약하며, 거리하향성 제약조건자격을 암시함으로써 오차 bound 분석이 가능하다.
• 약한-CRCQ 및 약한-CPLD 조건은 NLP 문제가 구조적으로 대각선 준정적 행렬 제약을 통해 NSDP에 통합될 경우, 표준 NLP 대응 조건과 일致함을 입증하였다.
• 조건들은 왜곡에 대해 강건하며, 증강라그랑주법, SQP, 내부점법의 정류점으로 향하는 통합된 전역수렴 증명을 지원한다.
• 비퇴화성 ⇒ 약한 비퇴화성 ⇒ 약한 로빈슨의 조건 ⇒ 약한-CRCQ ⇒ 약한-CPLD ⇒ 로빈슨의 조건 ⇒ seq-CRCQ ⇒ seq-CPLD ⇒ 거리하향성 제약조건자격의 계층을 수립하였다.
• 논문은 새로운 제약조건자격에 대해 순차적 및 비순차적 특성화를 제공하여, 이들의 이론적 및 알고리즘적 적용 가능성을 향상시켰다.