[논문 리뷰] Fast Stochastic Bregman Gradient Methods: Sharp Analysis and Variance Reduction

Radu-Alexandru Dragomir, Mathieu Even외 1명|arXiv (Cornell University)|2021. 04. 20.

Stochastic Gradient Optimization Techniques참고 문헌 40인용 수 4

한 줄 요약

이 논문은 날카러운 수렴 분석과 분산 감소를 갖춘 빠른 스토하스틱 브레그만 경사하강법을 소개하며, Bregman 확률적 경사하강법(BSGD)가 상호작용 설정에서 정확한 최소화자로 수렴하고 유한합 문제에서 분산 감소를 통해 빠른 수렴을 달성함을 보여준다. 제안된 BSAGA 알고리즘은 단층 촬영 재구성과 분산 최적화에서 최첨단 성능을 달성하며, 기준 함수의 정규성에 대한 이론적 가정에도 불구하고 실용적 효율성을 입증한다.

ABSTRACT

We study the problem of minimizing a relatively-smooth convex function using stochastic Bregman gradient methods. We first prove the convergence of Bregman Stochastic Gradient Descent (BSGD) to a region that depends on the noise (magnitude of the gradients) at the optimum. In particular, BSGD with a constant step-size converges to the exact minimizer when this noise is zero (\\emph{interpolation} setting, in which the data is fit perfectly). Otherwise, when the objective has a finite sum structure, we show that variance reduction can be used to counter the effect of noise. In particular, fast convergence to the exact minimizer can be obtained under additional regularity assumptions on the Bregman reference function. We illustrate the effectiveness of our approach on two key applications of relative smoothness: tomographic reconstruction with Poisson noise and statistical preconditioning for distributed optimization.

연구 동기 및 목표

• 상대적 평탄함과 강한 볼록성의 맥락에서 Bregman 확률적 경사하강법(BSGD)의 날카운 수렴 보장을 제공하기 위해.
• 최적점에서 노이즈가 0인 상호작용 설정에서 BSGD의 행동을 분석하기 위해.
• 유한합 문제를 위한 분산 감소 기법을 적용한 Bregman SAGA 알고리즘(BSAGA)의 개발 및 분석을 위해.
• Poisson 역문제 및 분산 최적화와 같은 핵심 응용 분야에서 분산 감소 Bregman 방법의 실용적 효능을 입증하기 위해.
• 기준 함수 h의 고차 정규성 특성이 Bregman 방법에서 수렴 속도에 미치는 영향을 조사하기 위해.

제안 방법

• 논문은 엄격히 볼록하고 두 번 연속 미분 가능한 기준 함수 h에 의해 정의된 Bregman 산란을 사용하여 표준 경사하강법을 일반화한다.
• 최적점에서의 노이즈 크기에 따라 수렴 영역의 크기가 결정되는 BSGD의 수렴을 입증하며, 상호작용 설정에서는 정확한 수렴을 달성한다.
• 유한합 문제의 경우, 분산 감소를 위한 Bregman SAGA의 유사체인 BSAGA를 도입하여 기울기 추정치를 유지하고 갱신한다.
• 이론적 분석을 통해 기준 함수 h에 대한 추가 정규성 가정(예: 이차형 또는 리프시츠 Hessian)이 있으면 정확한 최소화자로의 빠른 수렴이 가능함을 보여준다.
• 이중 변수 갱신을 통한 미러 경량화 업데이트를 활용한다: ∇h(x_{t+1}) = ∇h(x_t) - η_t g_t.
• 기울기 노이즈 G_t가 클 수 있는 일시적 영역을 분석하며, 이론적 경계가 보수적인데도 불구하고 실용적 성능은 높음을 보여준다.

실험 결과

연구 질문

• RQ1 BSGD가 이웃 영역이 아닌 정확한 최소화자로 수렴하는 조건은 무엇인가?
• RQ2 분산 감소 기법은 Bregman 경사하강법에 효과적으로 적용되어 유한합 문제에서 빠른 수렴을 달성할 수 있는가?
• RQ3 기준 함수 h의 고차 정규성 특성이 Bregman 방법에서 수렴 속도에 미치는 영향은 무엇인가?
• RQ4 실세계 응용 분야인 단층 촬영 재구성과 분산 최적화에서 분산 감소 Bregman 방법의 실용적 성능은 어떠한가?
• RQ5 비유클리드 설정에서 기준 함수 h의 선택이 수렴 속도와 안정성에 미치는 영향은 어느 정도인가?

주요 결과

• 최적점에서 노이즈가 0이면 BSGD는 정확한 최소화자로 수렴한다. 이는 상호작용 설정에 해당한다.
• 유한합의 경우, BSAGA를 통한 분산 감소로 기준 함수 h에 대한 추가 정규성 가정 하에 정확한 최소화자로의 빠른 수렴이 가능하다.
• 단층 촬영 재구성에서 BSAGA 알고리즘은 Poisson 노이즈가 있는 경우 최첨단 MU 알고리즘과 동등한 성능을 달성한다.
• 분산 최적화에서는 BGD와 BSGD보다 BSAGA가 뛰어난 성능을 보이며, 특히 BSGD가 분산으로 인해 포화 상태에 도달하는 초기 단계 이후에 두드러진다.
• 이론적 보수성에도 불구하고 실생활에서는 일정한 스텝 사이즈만으로도 수렴이 가능함을 확인하여, 기울기 노이즈 G_t가 이론이 암시하는 것만큼 진전을 저해하지는 않는 것으로 나타났다.
• 고 G_t를 가진 일시적 영역이 테스트된 응용 분야에서 성능에 크게 영향을 주지 않아, 실세계 환경에서의 강건성을 시사한다.