[논문 리뷰] Incremental Gradient, Subgradient, and Proximal Methods for Convex Optimization: A Survey

Dimitri P. Bertsekas|arXiv (Cornell University)|2015. 07. 03.

Stochastic Gradient Optimization Techniques인용 수 11

한 줄 요약

이 논문은 볼록 최적화를 위한 증분 그래디언트, 서브그래디언트, 프록시멀 방법을 조사하며, 순환적 구성 요소 선택과 감소하는 스텝 사이즈 조건 하에서 수렴성을 분석한다. 수렴성은 lim inf F(x_k) = F*를 통해 전역 수렴성을 확보하며, 표준 스텝 사이즈 조건 하에서 해 집합이 비어 있지 않은 경우 최적 값으로 수렴함을 증명한다.

ABSTRACT

We survey incremental methods for minimizing a sum $\sum_{i=1}^mf_i(x)$ consisting of a large number of convex component functions $f_i$. Our methods consist of iterations applied to single components, and have proved very effective in practice. We introduce a unified algorithmic framework for a variety of such methods, some involving gradient and subgradient iterations, which are known, and some involving combinations of subgradient and proximal methods, which are new and offer greater flexibility in exploiting the special structure of $f_i$. We provide an analysis of the convergence and rate of convergence properties of these methods, including the advantages offered by randomization in the selection of components. We also survey applications in inference/machine learning, signal processing, and large-scale and distributed optimization.

연구 동기 및 목표

• 증분 1차 방법의 포괄적인 서베이를 제공함: 그래디언트, 서브그래디언트, 프록시멀 변형 포함.
• 순환적 구성 요소 선택과 감소하는 스텝 사이즈 조건 하에서 이러한 방법의 수렴 행동을 분석함.
• 표준 가정 하에서 최적 해 값으로의 수렴에 대한 이론적 보장을 수립함.
• 최적 해 집합이 비어 있지 않은 경우에 대해 수렴 결과를 확장함.

제안 방법

• 목적 함수의 구성 요소를 순환 순서로 선택하여 증분 업데이트를 적용하는 알고리즘 (2.12)–(2.14)를 분석함.
• 지속적인 탐색을 보장하기 위해 lim_k→∞ α_k = 0 이고 ∑_k=0^∞ α_k = ∞ 를 만족하는 감소하는 스텝 사이즈 시퀀스 α_k 를 사용함.
• 각 구성 함수를 순환 방식으로 처리하는 증분 서브그래디언트 방법의 프레임워크를 활용함.
• 반복 점들 沿해 목적 함수 값의 하한이 최적 값에 수렴함을 보여주는 수렴 분석 기법을 적용함.
• 볼록 해석학의 표준 가정에 기반함: 구성 요소의 볼록성과 서브그래디언트의 유계성.
• lim inf_k→∞ F(x_k) = F* 를 통해 수렴을 확립함으로써, 함수 값의 수열이 최적 값에 집중됨을 나타냄.

실험 결과

연구 질문

• RQ1 증분 그래디언트, 서브그래디언트, 프록시멀 방법이 최적 해 값으로 수렴하는 조건은 무엇인가?
• RQ2 순환적 구성 요소 선택은 증분 1차 방법의 수렴 행동에 어떻게 영향을 미치는가?
• RQ3 목적 함수 값 수열이 최적 값에 수렴하도록 보장하는 스텝 사이즈 조건은 무엇인가?
• RQ4 최적 해 집합이 비어 있지 않은 경우 감소하는 스텝 사이즈 조건 하에서도 수렴을 보장할 수 있는가?
• RQ5 스텝 사이즈 수열에 대한 합계 조건과 소멸 조건이 수렴을 보장하는 데 수행하는 역할은 무엇인가?

주요 결과

• 순환적 구성 요소 선택을 사용하는 증분 방법 (2.12)–(2.14)에 의해 생성된 수열 {x_k} 는 lim inf_k→∞ F(x_k) = F* 를 만족함으로써 최적 값으로 수렴함을 나타냄.
• 스텝 사이즈 조건 lim_k→∞ α_k = 0 과 ∑_k=0^∞ α_k = ∞ 를 만족할 경우 최적 값으로의 수렴이 보장됨.
• 최적 해 집합 X* 가 비어 있지 않은 경우에도 스텝 사이즈 조건을 만족하면 결과가 성립함.
• 분석 결과, 순환 선택과 감소하는 스텝 사이즈를 갖는 증분 방법은 목적 함수 값 측면에서 전역 수렴을 달성함을 확인함.