[논문 리뷰] On the Triality Theory in Global Optimization

David Yang Gao, Changzhi Wu|arXiv (Cornell University)|2011. 04. 15.

Advanced Optimization Algorithms Research참고 문헌 23인용 수 20

한 줄 요약

이 논문은 일반적인 비제약 전역 최적화 문제에 대해 캐논리컬 딜레미나리티 이론을 사용하여 삼중성 이론에 대한 엄밀한 수학적 증명을 제공한다. 당초 문제와 이중 문제의 차원이 동일할 경우 삼중성이 강하게 성립하며, 이면 초대칭 형태로 약하게 성립하는 더블민 이중성 이론이 성립함을 규명하여 2003년부터 남아있던 장기적인 열린 문제를 해결하고, 전역 최소값, 국소 최소값, 최대값, 안장점들을 식별할 수 있게 한다.

ABSTRACT

Triality theory is proved for a general unconstrained global optimization problem. The method adopted is simple but mathematically rigorous. Results show that if the primal problem and its canonical dual have the same dimension, the triality theory holds strongly in the tri-duality form as it was originally proposed. Otherwise, both the canonical min-max duality and the double-max duality still hold strongly, but the double-min duality holds weakly in a super-symmetrical form as it was expected. Additionally, a complementary weak saddle min-max duality theorem is discovered. Therefore, an open problem on this statement left in 2003 is solved completely. This theory can be used to identify not only the global minimum, but also the largest local minimum, maximum, and saddle points. Application is illustrated. Some fundamental concepts in optimization and remaining challenging problems in canonical duality theory are discussed.

연구 동기 및 목표

• 2003년 이후 해결되지 않은 더블민 이중성 이론에 대한 열린 문제를 해결하기 위해.
• 일반적인 비제약 전역 최적화 문제에 대한 삼중성 이론에 엄밀한 수학적 기반을 마련하기 위해.
• 기본 문제와 이중 문제의 차원이 동일할 경우 삼중성이 강하게 성립하고, 이면 초대칭 형태로 약하게 성립함을 보여주기 위해.
• 안장 임계점을 식별하기 위한 보완적인 약한 안장 최소-최대 이중성 정리 도입을 위해.
• 전역 최소값뿐만 아니라 가장 큰 국소 최소값, 최대값, 안장점까지 식별할 수 있도록 캐논리컬 딜레미나리티 이론을 확장하기 위해.

제안 방법

• Λ(x)가 기하학적 연산자이고 V가 엄격히 볼록일 때, 두 번 연속으로 미분 가능한 비볼록 함수 W(x) = V(Λ(x))를 사용하여 일반 전역 최적화 문제를 캐논리컬 형태로 수립한다.
• 캐논리컬 딜레미나리티 이론을 적용하여 캐논리컬 이중 문제를 유도하고, 갭 함수 G_ap(x, ζ)를 사용하여 이중성 갭을 분석한다.
• 기본 선형대수학을 활용하여 기본 문제와 이중 문제 간 차원 조건에 따라 삼중성 정리를 엄밀히 증명한다.
• 갭 함수 G_ap(x, ζ)의 부호에 기반한 보완적인 약한 안장 최소-최대 이중성 정리를 도입한다.
• 특히 갭 함수의 헤시안 행렬 G(ζ̄)가 비정재일 경우 임계점의 극성 조건을 분석한다.
• 응용 예제를 통한 이론적 결과의 검증과 함께, NP-하드 문제 및 S⁺_a에서의 캐논리컬 이중 해법에 대한 함의를 논의한다.

실험 결과

연구 질문

• RQ1 기본 문제와 이중 문제의 차원이 동일할 경우 삼중성 이론이 강하게 성립하는가?
• RQ2 기본 문제와 이중 문제의 차원이 다를 경우 더블민 이중성은 어떻게 행동하는가?
• RQ3 안장 임계점을 식별하기 위해 약한 안장 최소-최대 이중성 정리를 수립할 수 있는가?
• RQ4 안장점의 존재를 결정하는 데 갭 함수 G_ap(x, ζ)의 역할은 무엇인가?
• RQ5 헤시안 행렬이 비정재일 경우 임계점의 극성 조건은 갭 함수의 헤시안에 어떻게 의존하는가?

주요 결과

• 기본 문제와 이중 문제의 차원이 동일할 경우 삼중성 이론이 삼중이중형태로 강하게 성립한다.
• 차원이 다를 경우 캐논리컬 최소-최대 이중성과 더블맥스 이중성이 모두 강하게 성립하지만, 더블민 이중성은 초대칭 형태로 약하게 성립한다.
• 보완적인 약한 안장 최소-최대 이중성 정리가 수립되어, G_ap(x, ζ) < 0일 경우 안장 임계해가 존재함을 보여준다.
• 2003년에 제기된 더블민 이중성에 대한 열린 문제는 엄밀한 수학적 증명을 통해 완전히 해결되었다.
• 이 이론은 비볼록 최적화 문제에서 전역 최소값, 가장 큰 국소 최소값, 최대값, 안장점을 모두 식별할 수 있도록 한다.
• 이 방법은 제약 조건이 있는 전역 최적화 문제로 일반화 가능하며, 캐논리컬 딜레미나리티를 통한 NP-하드 문제 분석 프레임워크를 제공한다.