[논문 리뷰] Stability of KKT systems and superlinear convergence of the SQP method under parabolic regularity

Ashkan Mohammadi, Boris S. Mordukhovich외 1명|arXiv (Cornell University)|2019. 10. 15.

Optimization and Variational Analysis참고 문헌 29인용 수 5

한 줄 요약

이 논문은 파라볼릭 정규성 조건을 이용하여 제약 최적화 문제에서 KKT 시스템의 강건한 안정성에 대한 두 번째 차수 특성화를 수립함으로써, 일반적인 비다각형 문제에 대해 순차적 정수계획법(SQP) 방법의 초선형 수렴을 가능하게 한다. 주요 기여는 파라볼릭 정규성 하에서 KKT 사상의 메트릭 정규성은 강한 메트릭 부분정규성으로 이어지며, 이는 다각형 제약 조건이 필요 없이 잘 정의된 문제와 원-이중 초선형 수렴을 보장한다는 것이다.

ABSTRACT

This paper pursues a two-fold goal. Firstly, we aim to derive novel second-order characterizations of important robust stability properties of perturbed Karush-Kuhn-Tucker systems for a broadclass of constrained optimization problems generated by parabolically regular sets. Secondly, the obtained characterizations are applied to establish well-posedness and superlinear convergence of the basic sequential quadratic programming method to solve parabolically regular constrained optimization problems.

연구 동기 및 목표

• 제약 최적화 문제에서 편미분된 KKT 시스템에 대해 강한 메트릭 부분정규성과 고립된 미세조정성의 강건한 안정성 성질에 대한 두 번째 차수 특성화를 개발한다.
• 기존 비선형 프로그램에 국한된 SQP 방법의 수렴 이론을 일반적인 파라볼릭 정규성 문제로 확장한다.
• 일반화된 두 번째 차수 충분조건과 파라볼릭 정규성 하에서 기본 SQP 방법의 잘 정의됨과 초선형 수렴을 확립한다.
• 비다각형 환경에서 기존의 비핵심 승수와 두 번째 차수 최적성 결과를 통합하고 일반화한다.

제안 방법

• 기존의 메트릭 부분정규성 및 두 번째 차수 충분조건 등의 개념을 일반화하는 기초적인 두 번째 차수 정규성 조건으로서 제약 집합의 파라볼릭 정규성을 활용한다.
• 코디바티브 기준을 통한 메트릭 정규성과 정규면 맵핑의 도함수-코디바티브 포함관계를 포함한 첨단 변분해석 도구를 적용한다.
• 원시도함수와 두 번째 차수 일반화 도함수를 활용하여 편미분 하에서 KKT 사상의 행동을 특성화한다.
• 파라볼릭 정규성 하에서 KKT 사상의 메트릭 정규성과 강한 메트릭 부분정규성 간의 새로운 동치관계를 유도한다.
• 라그랑주 헤시안과 제약 야코비안을 통해 정의된 KKT 사상 $ G $ 를 이용하여 안정성과 수렴성을 분석한다.
• 코디바티브와 그래픽 도함수 도구를 활용하여 승수의 비핵심성과 고립된 미세조정성, 강한 메트릭 부분정규성 간의 연관성을 규명한다.

실험 결과

연구 질문

• RQ1 KKT 사상이 강하게 메트릭적으로 부분정규적일 조건은 무엇인가? 이는 편미분 하에서 해의 강건한 안정성을 보장한다.
• RQ2 제약 집합의 파라볼릭 정규성이 비핵심 라그랑주 승수의 두 번째 차수 특성화에 어떻게 영향을 미치는가?
• RQ3 기존 비선형 프로그램에 대한 고전적 SQP 수렴 결과는 일반화된 두 번째 차수 충분조건을 통해 비다각형 문제로 확장될 수 있는가?
• RQ4 파라볼릭 정규성 하에서 KKT 사상의 메트릭 정규성과 강한 메트릭 부분정규성 간의 관계는 무엇인가?
• RQ5 도함수-코디바티브 포함관계는 메트릭 정규성에서 강한 메트릭 부분정규성을 증명하는 데 어떻게 기여하는가?

주요 결과

• 기본 가정 (H1)과 (H2) 하에서 KKT 사상 $ G $ 가 $ ((\bar{x},\bar{\lambda}),(0,0)) $ 에서 메트릭 정규성이면, 이는 강한 메트릭 부분정규성으로 이어지며, 이는 해의 사상의 고립된 미세조정성과 동치이다.
• 메트릭 정규성에 대한 코디바티브 기준을 활용하여 $ (0,0) \in D^*G(\bar{x},\bar{\lambda}),(0,0))(w,u) \Rightarrow w=0, u=0 $ 를 보임으로써 KKT 시스템의 안정성을 확보한다.
• 정규면 맵핑의 도함수-코디바티브 포함관계 $ DN_\Theta(f(\bar{x}),\bar{\lambda})(\xi) \subset D^*N_\Theta(f(\bar{x}),\bar{\lambda})(\xi) $ 는 그래픽 도함수와 코디바티브 간의 연결을 위한 핵심 도구이다.
• 파라볼릭 정규성 하에서 SQP 보조문제는 잘 정의되고 해가 존재하며, 강한 메트릭 부분정규성이 국소적 유일성과 반복의 안정성을 보장한다.
• 일반화된 두 번째 차수 충분조건 하에서 파라볼릭 정규 문제에 대해 기본 SQP 방법의 초선형 수렴이 확립되며, 이는 본잔의 결과를 비선형 프로그램을 초월해 일반화한 것이다.
• 기존 비선형 프로그램의 경우에도 본 결과는 새로운 것으로, 파라볼릭 정규성과 첨단 일반화 도함수 도구를 활용하여 비핵심 승수와 고립된 미세조정성에 대한 두 번째 차수 특성화를 제공한다.