[논문 리뷰] A Stronger Convergence Result on the Proximal Incremental Aggregated Gradient Method

N. Denizcan Vanli, Mert Gürbüzbalaban외 1명|arXiv (Cornell University)|2016. 11. 23.

Stochastic Gradient Optimization Techniques참고 문헌 4인용 수 8

한 줄 요약

이 논문은 부드럽고 비부드러운 성분을 포함하는 복합 볼록 최적화 문제를 해결하기 위해 Proximal Incremental Aggregated Gradient (PIAG) 방법의 더 강력한 전역 선형 수렴 속도를 제안한다. 새로운 리아푸노프 함수 분석과 정교한 수축 추론을 활용하여, 이전의 K에 대한 제곱 의존성 대신 조건 수 Q와 지연 매개변수 K에 대해 선형인 𝒪(QK log(1/ε))의 개선된 반복 복잡도를 확립한다.

ABSTRACT

We study the convergence rate of the proximal incremental aggregated gradient (PIAG) method for minimizing the sum of a large number of smooth component functions (where the sum is strongly convex) and a non-smooth convex function. At each iteration, the PIAG method moves along an aggregated gradient formed by incrementally updating gradients of component functions at least once in the last $K$ iterations and takes a proximal step with respect to the non-smooth function. We show that the PIAG algorithm attains an iteration complexity that grows linear in the condition number of the problem and the delay parameter $K$. This improves upon the previously best known global linear convergence rate of the PIAG algorithm in the literature which has a quadratic dependence on $K$.

연구 동기 및 목표

• 복합 볼록 최적화 문제에 대해 Proximal Incremental Aggregated Gradient (PIAG) 방법의 전역 수렴 속도를 향상시키는 것.
• 이전 PIAG 수렴 결과에서 지연 매개변수 K에 대한 최적화되지 않은 제곱 의존성을 해결하는 것.
• 조건 수 Q와 지연 매개변수 K에 대해 선형적으로 스케일링되는 더 날카운 복잡도 상한을 확립하는 것.
• [1]과 [4]의 기존 수렴 분석을 새로운 정교한 리아푸노프 함수 접근법을 통해 통합하고 강화하는 것.
• 문제의 조건 수와 지연에 최적의 의존성을 보장하는 스텝 사이즈 규칙을 제공하는 것.

제안 방법

• 이 방법은 각 반복에서 유한한 지연 K를 가진 성분 함수의 기울기를 갱신하고 집계하는 프록시멀 인크리멘탈 집계 기울기 업데이트를 사용한다.
• 알고리즘은 비부드러운 볼록 정규화 함수 r(x)에 대한 프록시멀 스텝을 사용하며, 프록시멀 연산자로 정의된다: prox_r^η(y) = argmin_x { ||x−y||²/2 + ηr(x) }.
• 지연된 기울기에서 발생하는 교란을 고려하여 하위최적성 F_k − F*의 변화를 캡처하기 위해 새로운 리아푸노프 함수를 구성한다.
• 수렴 증명은 두 가지 핵심 레마를 결합한다: [4]에서의 프록시멀 연산자 성질에 관한 레마와 [1]에서의 작은 교란 하에서 리아푸노프 함수의 선형 수렴에 관한 레마.
• 하위최적성 F_k에 대한 수축 부등식을 유도하여, 레마 3.3의 조건을 만족하는 재귀 관계를 이끌어낸다.
• 스텝 사이즈는 η = (16/μ)[(1 + 1/(48Q))^{1/(K+1)} − 1]로 선택되어 수축 인자가 K에 대해 선형적으로 의존하도록 보장한다.

실험 결과

연구 질문

• RQ1 PIAG 방법의 수렴 속도는 이전에 알려진 𝒪(QK²) 반복 복잡도를 초월해 향상시킬 수 있는가?
• RQ2 PIAG의 수렴 속도에서 지연 매개변수 K에 대한 의존성이 제곱이 아니라 선형 스케일링을 갖는가?
• RQ3 지연된 기울기 정보를 고려하는 리아푸노프 함수를 사용하여 더 날카운 수축 분석을 달성할 수 있는가?
• RQ4 조건 수 Q와 지연 매개변수 K에 대해 선형 의존성을 갖는 함수 하위최적성에서의 전역 선형 수렴 속도를 확립할 수 있는가?
• RQ5 K와 Q에 대해 최소한의 의존성을 보장하면서 최적의 수렴을 보장하는 스텝 사이즈 규칙은 무엇인가?

주요 결과

• PIAG 방법은 함수 하위최적성 F(x_k) − F(x*)에서 1 − 𝒪(Q⁻¹K⁻¹)의 전역 선형 수렴 속도를 달성한다.
• 이는 ε-최적 해에 도달하기 위한 개선된 반복 복잡도 𝒪(QK log(1/ε))를 의미하며, 이는 이전의 𝒪(QK² log(1/ε)) 상한을 대체한다.
• 지연된 기울기 갱신에 대한 유한한 지연 K를 고려한 정교한 리아푸노프 함수 분석을 통해 수렴 속도가 확립된다.
• 스텝 사이즈 η = (16/μ)[(1 + 1/(48Q))^{1/(K+1)} − 1]는 수축 인자가 (1 − 1/(49Q(K+1)))^k로 선형 수렴을 보장한다.
• 이 결과는 결정론적 인크리멘탈 집계 기울기 방법에서 조건 수 Q와 지연 매개변수 K에 대해 가장 좋은 알려진 의존성을 제공한다.
• 분석은 [1]과 [4]의 이전 결과를 통합하고 강화하여, 수축률에 로그 인자 없이 전역적으로 유효한 더 날카운 상한을 제공한다.