[논문 리뷰] Convergence Analysis of Proximal Gradient with Momentum for Nonconvex Optimization

Qunwei Li, Yi Zhou외 2명|arXiv (Cornell University)|2017. 05. 14.

Sparse and Compressive Sensing Techniques참고 문헌 11인용 수 37

한 줄 요약

이 논문은 비볼록 최적화에 대한 가속화된 프록시멀 그라디언트 방법(APGnc)에 대해 키르다카-로자에프스키(Kurdyka-Łojasiewicz, KŁ) 성질 하에서 최초로 철저한 수렴 분석을 제공하며, APGnc가 임계점으로 수렴하고 선형 또는 초선형 수렴 속도를 확보함을 증명한다. 또한 적응형 모멘타를 갖춘 APGnc+를 제안하고, 분산 감소 기반의 확률적 변종(SVRG-APGnc)에 대해 선형 수렴을 확립하여 기존의 mAPG와 같은 방법들에 비해 뛰어난 효율성과 강건성을 입증한다.

ABSTRACT

In many modern machine learning applications, structures of underlying mathematical models often yield nonconvex optimization problems. Due to the intractability of nonconvexity, there is a rising need to develop efficient methods for solving general nonconvex problems with certain performance guarantee. In this work, we investigate the accelerated proximal gradient method for nonconvex programming (APGnc). The method compares between a usual proximal gradient step and a linear extrapolation step, and accepts the one that has a lower function value to achieve a monotonic decrease. In specific, under a general nonsmooth and nonconvex setting, we provide a rigorous argument to show that the limit points of the sequence generated by APGnc are critical points of the objective function. Then, by exploiting the Kurdyka-Łojasiewicz (\KL) property for a broad class of functions, we establish the linear and sub-linear convergence rates of the function value sequence generated by APGnc. We further propose a stochastic variance reduced APGnc (SVRG-APGnc), and establish its linear convergence under a special case of the \KL property. We also extend the analysis to the inexact version of these methods and develop an adaptive momentum strategy that improves the numerical performance.

연구 동기 및 목표

• 이전 분석에서 수렴 속도 결과가 부족했던 비볼록 환경에서 APGnc 알고리즘의 이론적 수렴 보장을 확립하기 위해.
• 수렴 속도와 계산 효율성 측면에서 APGnc와 mAPG를 비교하여, APGnc의 실용적 우수성을 정당화하기 위해.
• 근사 및 확률적 분산 감소 변종의 APGnc에 대한 분석을 확장하여, 수치 오차와 샘플링 노이즈 하에서도 강건성을 확보하기 위해.
• 이론적 수렴을 유지하면서 수치 성능을 향상시키기 위해 적응형 모멘타 전략을 도입한 APGnc+를 제안하기 위해.
• 근사성과 확률적 요건 하에서 KŁ 성질을 활용하기 위한 새로운 기술 도구를 개발하기 위해.

제안 방법

• APGnc 알고리즘은 함수 값 감소 기준으로 표준 프록시멀 그라디언트 단계와 선형 외삽 단계 사이에서 단조적 선택을 사용하여 내림내림을 보장한다.
• 수렴 분석은 KŁ 성질을 활용하여 함수 값 수열의 초선형 및 선형 수렴 속도를 확립한다.
• 근사된 버전의 APGnc를 제안하며, 프록시멀 단계가 유계 오차로 계산될 경우 KŁ 가정 하에서 수렴을 증명한다.
• 작은 배치 기반 그라디언트를 사용하여 분산을 감소시키고 대규모 환경에서 수렴을 향상시키기 위해, SVRG-APGnc라는 분산 감소 기반의 확률적 변종을 도입한다.
• APGnc+는 외삽 파라미터를 동적으로 조정하는 적응형 모멘타 전략을 도입하여 수치 성능을 향상시킨다.
• 가속화, 비볼록성, 근사성의 복합 영향을 KŁ 프레임워크 내에서 다루기 위한 새로운 기술적 접근을 개발한다.

실험 결과

연구 질문

• RQ1 일반적인 비미분가능하고 비볼록 문제에 대해 APGnc 알고리즘이 임계점으로 수렴하는가?
• RQ2 Kurdyka-Łojasiewicz(KŁ) 성질 하에서 APGnc의 수렴 속도는 어떻게 설정할 수 있는가?
• RQ3 수렴 속도와 계산 비용 측면에서 APGnc는 mAPG에 비해 어떻게 성능을 발휘하는가?
• RQ4 근사 및 확률적 변종의 가속화된 프록시멀 그라디언트 방법에서 KŁ 성질을 효과적으로 활용할 수 있는가?
• RQ5 APGnc+의 적응형 모멘타 전략은 이론적 수렴 보장을 훼손하지 않으면서 수치 성능을 향상시키는가?

주요 결과

• 일반적인 비미분가능하고 비볼록 설정 하에서 APGnc는 이전 수렴 보장이 없었음에도 불구하고 목적 함수의 임계점으로 수렴한다.
• KŁ 성질 하에서 일반적인 경우에 대해 APGnc는 초선형 수렴 속도를 확보하고, KŁ 성질의 특수한 경우에서는 선형 수렴 속도를 달성한다.
• 적응형 모멘타를 갖춘 제안된 APGnc+는 근사성 및 확률적 환경에서의 수치 실험에서 APGnc 및 mAPG를 모두 능가한다.
• SVRG-APGnc는 KŁ 성질 하에서 선형 수렴을 달성하여, 비볼록 가속화 방법에서 분산 감소의 효과성을 입증한다.
• 근사된 APGnc 및 SVRG-APGnc 변종은 프록시멀 오차에 대해 강건하여 정확한 대응 변종과 유사한 해로 수렴한다.
• 확률적 알고리즘은 결정적 알고리즘보다 오차에 더 민감하지만, 중간 정도의 근사성 조건 하에서도 APGnc+는 여전히 뛰어난 성능을 유지한다.