[논문 리뷰] On Landscape of Lagrangian Functions and Stochastic Search for Constrained Nonconvex Optimization

Zhehui Chen, Xingguo Li외 3명|arXiv (Cornell University)|2018. 06. 13.

Sparse and Compressive Sensing Techniques참고 문헌 29인용 수 5

한 줄 요약

이 논문은 제약 조건이 있는 비볼록 최적화 문제에 대해 안정 및 불안정 평형 상태만을 가지는 새로운 유형의 라그랑주 함수를 제안하며, 안정 평형 상태는 전역 최적해에 해당한다. 이는 확률적 원 primal-dual 알고리즘을 제안하여 온라인 일반화 고유값 문제를 해결하며, 확산 근사법을 통해 최초의 표본 복잡도 결과를 확립한다. 이 결과는 渐진 수렴 속도를 포함한다.

ABSTRACT

We study constrained nonconvex optimization problems in machine learning, signal processing, and stochastic control. It is well-known that these problems can be rewritten to a minimax problem in a Lagrangian form. However, due to the lack of convexity, their landscape is not well understood and how to find the stable equilibria of the Lagrangian function is still unknown. To bridge the gap, we study the landscape of the Lagrangian function. Further, we define a special class of Lagrangian functions. They enjoy two properties: 1.Equilibria are either stable or unstable (Formal definition in Section 2); 2.Stable equilibria correspond to the global optima of the original problem. We show that a generalized eigenvalue (GEV) problem, including canonical correlation analysis and other problems, belongs to the class. Specifically, we characterize its stable and unstable equilibria by leveraging an invariant group and symmetric property (more details in Section 3). Motivated by these neat geometric structures, we propose a simple, efficient, and stochastic primal-dual algorithm solving the online GEV problem. Theoretically, we provide sufficient conditions, based on which we establish an asymptotic convergence rate and obtain the first sample complexity result for the online GEV problem by diffusion approximations, which are widely used in applied probability and stochastic control. Numerical results are provided to support our theory.

연구 동기 및 목표

• 비볼록 최적화 문제에서 볼록성이 성립하지 않을 때 라그랑주 함수의 경관을 이해하는 것.
• 모든 평형 상태가 안정 또는 불안정일 뿐만 아니라 안정 평형 상태가 전역 최적해에 해당하는 특수한 라그랑주 함수의 클래스를 정의하는 것.
• 온라인 일반화 고유값 문제를 해결하기 위한 효율적인 확률적 원 primal-dual 알고리즘을 개발하는 것.
• 온라인 일반화 고유값 문제에 대해 확산 근사법을 사용하여 최초의 표본 복잡도 결과를 확립하는 것.

제안 방법

• 평형 상태가 엄격히 안정 또는 불안정일 뿐만 아니라 안정 평형 상태가 원래 제약 조건이 있는 문제의 전역 최적해에 해당하는 라그랑주 함수의 클래스를 정의한다.
• 불변 군과 대칭성 특성을 활용하여 일반화 고유값 문제에서 안정 및 불안정 평형 상태를 특성화한다.
• 잡음 주입을 통해 불안정 평형 상태에서 벗어나기 위해 원 및 이중 업데이트를 번갈아 가며 수행하는 확률적 원 primal-dual 알고리즘을 제안한다.
• 확산 근사법을 사용하여 온라인 알고리즘의 渐진 수렴 속도 및 표본 복잡도 한계를 유도한다.
• 이토 미적분과 이토 등식을 사용하여 알고리즘 상태 변수의 확률적 동역학을 분석한다.
• 마르코프 부등식과 지수 尾 꼬리 추정을 사용하여 전역 최적해 수렴에 대한 확률적 경계를 통해 이론적 보장을 확립한다.

실험 결과

연구 질문

• RQ1 비볼록 제약 최적화 문제에서 라그랑주 함수의 경관을 안장점 행동을 초월하여 특성화할 수 있는가?
• RQ2 안정 평형 상태가 전역 최적해에 보장되는 라그랑주 함수의 클래스가 존재하는가?
• RQ3 확률적 원 primal-dual 업데이트 하에서 온라인 일반화 고유값 문제의 표본 복잡도는 무엇인가?
• RQ4 이 비볼록 설정에서 확산 근사법을 사용하여 수렴 속도 및 표본 복잡도 한계를 도출할 수 있는가?
• RQ5 문제의 기하학적 및 대칭성 특성이 확률적 원 primal-dual 알고리즘의 수렴 행동에 어떻게 영향을 주는가?

주요 결과

• 제안된 라그랑주 함수의 클래스는 모든 안정 평형 상태가 원래 제약 조건이 있는 문제의 전역 최적해에 해당함을 보장한다.
• 일반화 고유값 문제에서는 군 불변성과 대칭적 구조를 사용하여 안정 및 불안정 평형 상태를 완전히 특성화할 수 있다.
• 확률적 원 primal-dual 알고리즘은 표본 복잡도 $ N \asymp \frac{\phi \cdot \mu_{\text{max}}/\mu_{\text{min}}}{\epsilon \cdot \mu_{1} \cdot \mu_{\text{min}} \cdot \text{gap}^2} \log\left(\frac{\phi}{\epsilon \cdot \mu_{\text{min}} \cdot \text{gap}}\right) $ 를 갖는 渐진 수렴을 달성하며, 이는 온라인 GEV에 대해 최초의 결과이다.
• 확률적으로 $ \geq \frac{5}{8} $ 의 확률로, 알고리즘은 $ T \asymp \frac{\mu_{\text{max}}/\mu_{\text{min}}}{\mu_{1} \cdot \text{gap}} \log(\eta^{-1}) $ 반복 이내에 $ \epsilon $-최적해에 수렴한다.
• 이론적 분석은 음의 곡률 덕분에 알고리즘이 불안정 평형 상태에서 효율적으로 벗어나며, 상태 진동에 대한 확률적 경계에 의해 뒷받침됨을 확인한다.
• 수치적 결과는 이론적 수렴 속도 및 표본 복잡도를 검증하며, 온라인 일반화 고유값 문제에서의 강력한 성능을 보여준다.