[논문 리뷰] Conic optimization and complementarity problems

S. Z. Németh, Guohan Zhang|arXiv (Cornell University)|2016. 07. 18.

Advanced Optimization Algorithms Research참고 문헌 12인용 수 5

한 줄 요약

이 논문은 카르슈-쿠른-타커(Karush-Kuhn-Tucker, KKT) 조건을 통해 원추 최적화 문제와 혼합 보완성 문제(MiCP) 사이의 정확하고 명시적인 이원성(duality)을 확립한다. 볼록 목적함수와 원추 제약 조건을 가진 원추 최적화 문제의 해는 KKT 최적성 조건으로 정의된 혼합 보완성 문제의 해와 동치임을 보여준다. 주요 기여는 일반 원추에 대해 이 동치성을 체계적이고 접근하기 쉬운 방식으로 증명한 것이다. 이는 고전적인 선형 프로그래밍 이원성의 원추 설정으로의 확장이다.

ABSTRACT

Although the Karush-Kuhn-Tucker conditions suggest a connection between a conic optimization problem and a complementarity problem, it is difficult to find an accessible explicit form of this relationship in the literature. This note will present such a relationship.

연구 동기 및 목표

• 원추 최적화와 보완성 문제 사이의 명시적인 수학적 연결 고리를 명확히 하여, 문헌에서 종종 암묵적이거나 전통적인 것으로 여겨지는 바를 해소하는 것.
• 선형 프로그래밍에서의 고전적 보완성 조건을 임의의 닫힌 볼록 원추를 포함하는 일반 원추 최적화 문제로 확장하는 것.
• 표준 볼록성 및 제약 조건 충족 조건 하에서 원추 최적화와 혼합 보완성 문제 사이의 동치성을 엄밀하고 접근하기 쉬운 형태로 제시하는 것.
• 특히 비음수 직교구역이 아닌 원추에 대해 KKT 조건과 보완성 문제 사이의 관계를 체계화하는 것.

제안 방법

• 닫힌 볼록 원추 K에 대해, 함수 f(x)를 최소화하고 Ax = b 및 x ∈ K 를 만족시키는 원추 최적화 문제로 공식화한다.
• 매핑 G(y,x) = b - Ax 와 H(y,x) = ∇f(x) - Aᵀy 를 사용해 혼합 보완성 문제(MiCP)를 정의한다.
• 카르슈-쿠른-타커(KKT) 조건을 사용해 최적성 시스템을 유도한다: A𝐱 = b, 𝐱 ∈ K, ∇f(𝐱) - Aᵀ𝐲 ∈ K*, 그리고 𝐱 ⊥ (∇f(𝐱) - Aᵀ𝐲).
• 슬레이터 조건(Slater’s condition)을 적용해 강한 이원성을 확보하고 필요 및 충분 최적성 조건을 도출한다.
• 볼록 해석을 활용한다: 볼록 함수 f에 대해, x가 최적일 필요충분조건은 모든 타당한 y에 대해 ⟨∇f(x), y - x⟩ ≥ 0 를 만족하는 것이다.
• 이중성 갭과 정규근사집합의 특성에 기반해, 원추 최적화 문제의 해가 MiCP 조건을 만족하고, 그 반대도 성립함을 보여 이중성의 동치성을 증명한다.

실험 결과

연구 질문

• RQ1 원추 최적화와 보완성 문제 사이의 이원성은 고전적인 선형 프로그래밍의 경우를 초월해 어떻게 명시적이고 접근 가능한 방식으로 제시될 수 있는가?
• RQ2 원추 최적화 문제와 혼합 보완성 문제 사이의 정확한 수학적 동치성은 어떻게 공식화할 수 있는가?
• RQ3 원추 최적화의 KKT 조건은 어떤 조건에서 원추와 그 이중원추를 포함하는 보완성 체계로 줄어들 수 있는가?
• RQ4 비음수 직교구역에서의 보완성 조건은 임의의 닫힌 볼록 원추로 어떻게 일반화될 수 있는가?

주요 결과

• 원추 최적화 문제 CO(f, A, b, K)의 해 𝐱가 존재하는 것은, 벡터 𝐲 가 존재하여 (𝐲, 𝐱) 가 혼합 보완성 문제 MiCP(G, H, K) 를 만족하는 것과 동치이다. 여기서 G(𝐲, 𝐱) = b - A𝐱 이고 H(𝐲, 𝐱) = ∇f(𝐱) - Aᵀ𝐲 이다.
• 𝐱의 최적성은 조건 A𝐱 = b, 𝐱 ∈ K, ∇f(𝐱) - Aᵀ𝐲 ∈ K*, 그리고 𝐱 ⊥ (∇f(𝐱) - Aᵀ𝐲) 를 만족하는 것과 동치이다.
• 이 증명은 슬레이터 조건 하에서 KKT 정리를 적용하여, 엄밀한 타당점이 존재함을 보장함으로써 강한 이원성과 보완성 조건의 타당성을 확보한다.
• 이 동치성은 원추 K의 내부가 약식 집합 {x ∈ ℝ^q : Ax = b} 와 교차함을 전제로 하며, 이는 엄밀한 타당점의 존재를 보장한다.
• 결과는 고전적인 선형 프로그래밍 이원성과 보완성 조건을 비음수 직교구역이 아닌 임의의 닫힌 볼록 원추로 일반화한다.