[논문 리뷰] On the Łojasiewicz Exponent of the Quadratic Sphere Constrained Optimization Problem

Bin Gao, Xin Liu외 2명|arXiv (Cornell University)|2016. 11. 27.

Optimization and Variational Analysis참고 문헌 23인용 수 9

한 줄 요약

이 논문은 선형 항이 있는 이차 구면 제약 최적화 문제에 대해 전역 Łojasiewicz 경사하강 부등식을 지수 θ = 3/4로 설정하며, 이 부등식이 선형 항이 있는 문제에도 성립함을 증명한다. 이 결과는 Ting Kei Pong의 예시를 통해 날카로움이 입증되며, 선형 항이 포함된 구면 제약 설정에서 이 지수를 가진 첫 번째 such 부등식이다.

ABSTRACT

In this paper, we prove that the global version of the $Ł$ojasiewicz gradient inequality holds for quadratic sphere constrained optimization problem with exponent $θ=\frac{3}{4}$. An example from Ting Kei Pong shows that $θ=\frac{3}{4}$ is tight. This is the first $Ł$ojasiewicz gradient inequality established for the sphere constrained optimization problem with a linear term.

연구 동기 및 목표

• 단위 구면에 제약을 받는 이차 최적화 문제에 대해 전역 Łojasiewicz 경사하강 부등식을 설정하는 것.
• 이 클래스의 문제들에 대한 Łojasiewicz 지수 θ의 최적 값을 결정하는 것.
• θ = 3/4가 날카로움을 증명하는 것, 즉 더 작은 지수로는 부등식이 성립하지 않음을 의미한다.
• Łojasiewicz 부등식의 적용 가능성을 선형 항을 포함한 더 광범위한 제약 최적화 문제 클래스로 확장하는 것.

제안 방법

• 비판점 근처에서 경사의 행동에 대한 경계를 도출하기 위해 단위 구면 상의 이차 함수의 구조를 활용하는 분석.
• 헤시안 행렬의 스펙트럼 분해와 구면 제약 조건 하에서 고유값의 성질에 기반한 증명.
• 제약 다양체 내의 대칭성과 직교성의 특성을 이용해 하위 문제를 저차원으로 환원하는 방법.
• Ting Kei Pong이 제작한 특정 반례를 사용하여 θ = 3/4의 날카로움을 입증함.

실험 결과

연구 질문

• RQ1 선형 항이 있는 이차 구면 제약 최적화 문제에서 전역 경사하강 부등식에 대한 최적의 Łojasiewicz 지수 θ는 무엇인가요?
• RQ2 이 클래스의 문제에 대해 Łojasiewicz 부등식을 전역적으로 확립할 수 있는가요?
• RQ3 θ = 3/4는 부등식이 성립하는 데 있어 가능한 가장 작은 지수인가요?
• RQ4 선형 항의 존재가 구면 제약 최적화 문제에서 Łojasiewicz 지수의 값에 영향을 미치는가요?

주요 결과

• 이차 구면 제약 최적화 문제에 대해 지수 θ = 3/4로 전역 Łojasiewicz 경사하강 부등식이 성립한다.
• Ting Kei Pong의 반례를 통해 θ = 3/4가 최적임을 입증하였다.
• 이것은 선형 항이 포함된 구면 제약 문제에 대해 이 지수를 가진 Łojasiewicz 부등식을 처음으로 설정한 결과이다.
• 이 결과는 이 클래스의 제약 조건 하에서 최적화 알고리즘의 수렴 속도 행동을 확인한다.