[논문 리뷰] Convergence to Second-Order Stationarity for Constrained Non-Convex Optimization

Maher Nouiehed, Jason D. Lee외 1명|arXiv (Cornell University)|2018. 10. 04.

Stochastic Gradient Optimization Techniques참고 문헌 41인용 수 17

한 줄 요약

이 논문은 제약 조건이 있는 비볼록 최적화 문제에 대해 동적 제2차 프랭크-울프 알고리즘을 제안하며, $(\epsilon_g, \epsilon_H)$-제2차 정적점으로의 수렴을 $\mathcal{O}(\max\{\epsilon_g^{-2}, \epsilon_H^{-3}\})$ 반복 내에 보장한다. 제약 조건이 선형인 경우조차도 제2차 정적점 확인이 NP-난해함을 입증하지만, 적응형 스텝 사이즈와 하위문제 해법을 활용하여 수렴 보장을 갖는 효율적인 경우를 규명한다.

ABSTRACT

We consider the problem of finding an approximate second-order stationary point of a constrained non-convex optimization problem. We first show that, unlike the gradient descent method for unconstrained optimization, the vanilla projected gradient descent algorithm may converge to a strict saddle point even when there is only a single linear constraint. We then provide a hardness result by showing that checking $(ε_g,ε_H)$-second order stationarity is NP-hard even in the presence of linear constraints. Despite our hardness result, we identify instances of the problem for which checking second order stationarity can be done efficiently. For such instances, we propose a dynamic second order Frank--Wolfe algorithm which converges to ($ε_g, ε_H$)-second order stationary points in ${\mathcal{O}}(\max\{ε_g^{-2}, ε_H^{-3}\})$ iterations. The proposed algorithm can be used in general constrained non-convex optimization as long as the constrained quadratic sub-problem can be solved efficiently.

연구 동기 및 목표

• 제약 조건이 있는 비볼록 최적화 문제에서 제1차 방법이 엄격한 안장점으로 수렴할 수 있는 문제를 해결하기 위해 제2차 정적점 도달을 목표로 한다.
• 선형 제약 조건이 존재하는 상황에서도 $(\epsilon_g, \epsilon_H)$-제2차 정적점 확인이 계산적으로 난이도가 높다는 것을 입증한다.
• 제약 조건이 있는 이차 하위문제를 해결할 수 있는 경우에 효율적으로 제2차 정적점으로 수렴하는 실용적인 알고리즘을 설계한다.
• 비제약 조건 문제에서 최고의 알려진 비율에 맞추어 반복 복잡도 한계를 제공하면서도, 제약 조건 설정으로 확장한다.

제안 방법

• 기울기와 헤시안 정보에 기반해 탐색 방향과 스텝 사이즈를 적응적으로 선택하는 동적 제2차 프랭크-울프 알고리즘을 제안한다.
• 충분한 감소 조건과 곡률 기반 수용 기준을 결합한 선형 탐색 메커니즘을 사용하여 진전을 보장한다.
• 충분한 감소가 달성되지 않을 경우 적응적으로 감소하는 파rameter $\alpha_k$를 통해 트러스트 영역 유사 메커니즘을 구현한다.
• 기울기와 헤시안 곡률을 모두 기반으로 한 수용 조건을 정의하기 위해 $\psi_{k,\alpha_k}$와 $\mathcal{X}_k$를 포함하는 중요한 조건을 도입한다.
• 제2차 내림함수 레미마에서 유도된 목적 함수의 감소 바운드를 각 반복에서 활용하여 수렴성을 입증한다.
• 수렴성을 입증하기 위해 $\mathcal{X}_k$와 $\psi_{k,\alpha_k}$가 극한에서 0이 되는 것을 보여 제2차 정적점으로 수렴함을 보인다.

실험 결과

연구 질문

• RQ1 비볼록 최적화 문제에서 단일 선형 제약 조건이 존재하는 경우에도 프로젝션 기반 기울기 강하법이 엄격한 안장점으로 수렴할 수 있는가?
• RQ2 선형 제약 조건이 존재하는 상황에서 $(\epsilon_g, \epsilon_H)$-제2차 정적점 확인이 계산적으로 실현 가능한가?
• RQ3 프랭크-울프 유형 알고리즘이 제약 조건이 있는 비볼록 문제에서 제2차 정적점 도달을 위해 적응 가능하게 수정될 수 있는가?
• RQ4 제약 조건이 있는 설정에서 $(\epsilon_g, \epsilon_H)$-제2차 정적점 도달의 최악의 경우 반복 복잡도는 얼마인가?
• RQ5 제약 조건이 있는 이차 하위문제가 효율적으로 해결될 수 있는 조건은 무엇인가? 이를 통해 제2차 수렴이 가능해지는가?

주요 결과

• 기본적인 프로젝션 기반 기울기 강하법은 단일 선형 제약 조건이 존재하는 경우조차도 엄격한 안장점으로 수렴할 수 있으며, 이는 근본적인 한계를 보여준다.
• 선형 제약 조건이 존재하는 경우조차도 $(\epsilon_g, \epsilon_H)$-제2차 정적점 확인이 NP-난해함을 입증하여 계산적 장벽을 규명한다.
• 제안된 동적 제2차 프랭크-울프 알고리즘이 $\mathcal{O}(\max\{\epsilon_g^{-2}, \epsilon_H^{-3}\})$ 반복 내에 $(\epsilon_g, \epsilon_H)$-제2차 정적점으로 수렴한다.
• 기울기 노름과 곡률에 대한 병합 조건을 통해 목적 함수의 충분한 감소를 보장하며, 이는 $\psi_{k,\alpha_k}$와 $\mathcal{X}_k$를 통해 수식화된다.
• 반복 수 중에서 $\|\nabla f(x_k)\| > \epsilon_g$ 또는 $\psi_{k,\alpha_k} > \epsilon_H$를 만족하는 경우의 수는 각각 $\mathcal{O}(\epsilon_g^{-2})$와 $\mathcal{O}(\epsilon_H^{-3})$로 유계이다.
• 모든 극한점이 제2차 정적점임을 의미하는 $\lim_{k\to\infty} \mathcal{X}_k = \lim_{k\to\infty} \psi_{k,\alpha_k} = 0$임을 보여 제2차 정적점으로의 수렴을 증명한다.