[논문 리뷰] The Min-Max Complexity of Distributed Stochastic Convex Optimization with Intermittent Communication

Blake Woodworth, Brian Bullins외 2명|arXiv (Cornell University)|2021. 02. 02.

Stochastic Gradient Optimization Techniques참고 문헌 49인용 수 11

한 줄 요약

이 논문은 간헐적 통신 환경 하에서 분산 스토하스틱 볼록 최적화의 최소-최대 복잡도를 해결하며, 매번 모든 머신을 사용하는 미니배치 가속 경사하강법(Minibatch Accelerated SGD) 또는 단일 머신만 사용하는 단일 머신 가속 경사하강법(Single-Machine Accelerated SGD)이 로그 인자까지 최적임을 증명한다. 핵심 결과는 병렬 처리와 국소 계산을 동시에 활용하는 보다 정교한 방법이 부드럽고 볼록한 목표 함수에 대해 수렴 속도를 향상시킬 수 없다는 것이다.

ABSTRACT

We resolve the min-max complexity of distributed stochastic convex optimization (up to a log factor) in the intermittent communication setting, where $M$ machines work in parallel over the course of $R$ rounds of communication to optimize the objective, and during each round of communication, each machine may sequentially compute $K$ stochastic gradient estimates. We present a novel lower bound with a matching upper bound that establishes an optimal algorithm.

연구 동기 및 목표

• M대의 머신이 총 R번만 통신하는 간헐적 통신 모델에서 분산 스토하스틱 볼록 최적화의 기본 최소-최대 복잡도를 규명하는 것.
• 이전의 하한선이 KR의 곱에만 의존함에도 불구하고, 통신 빈도(R)와 라운드당 국소 계산량(K)이 수렴에 미치는 영향을 이해하는 데 격차를 메우는 것.
• 간단한 미니배치 또는 단일 머신 접근 방식을 초월하는 더 정교한 알고리즘들이 더 나은 수렴 속도를 달성할 수 있는지 확인하는 것.
• 하한선이 상한선과 정확히 일치함으로써, 로그 인자까지 최적의 알고리즘 영역을 규명하는 것.
• 자기일관성과 준자기일관성의 역할을 분석하여, 특히 고차 미분 가능성과 관련된 복잡도에 미치는 영향을 규명하는 것.

제안 방법

• 자기일관성 또는 준자기일관성 목표 함수를 사용하여 곡률과 기울기 노이즈를 제어하는 하드 인스턴스를 구성하는 새로운 하한선 기법을 개발한다.
• 분산 간헐적 통신의 제약 조건을 수식화하기 위해 0-저항 오ракูล 모델을 사용하며, 각 머신이 라운드당 K개의 스토하스틱 기울기를 계산하고 모든 머신이 R라운드마다 동기적으로 통신한다.
• 기본 알고리즘 원형으로 AC-SA(Accelerated Stochastic Approximation) 방법을 사용하며, 매번 모든 M대의 머신을 사용하는 미니배치 AC-SA와 단일 머신만 사용하는 단일 머신 AC-SA를 분석한다.
• H(부드러움), B(최적점까지의 초기 거리), σ(기울기 노이즈), K(라운드당 기울기 수), R(통신 횟수), M(머신 수)에 의존하는 하위최적성 하한선을 유도하며, Q-self-concordant 및 Q-quasi-self-concordant 목표 함수에 대해 별도의 하한선을 제시한다.
• 하한선을 부드러움 매개변수 H' ≤ H에 대해 최적화하여 결과를 강화하며, 악조건에서의 수렴 속도가 KR, R, M, K에 관여하는 여러 항의 최소값에 의해 결정됨을 보여준다.
• 두 간단한 방법 중 더 나은 것이 로그 인자까지 하한선을 달성함으로써 상한선과 일치함을 보여, 하한선이 정확함을 입증한다.

실험 결과

연구 질문

• RQ1 분산 스토하스틱 볼록 최적화의 최적 수렴 속도는 통신 횟수 R과 라운드당 기울기 수 K를 별도로 고려해야 하는가, 아니면 그 곱 KR만으로 결정되는가?
• RQ2 병렬 처리와 국소 계산을 동시에 활용하는 더 정교한 알고리즘이 간헐적 통신 모델에서 간단한 방법(예: 미니배치 또는 단일 머신 SGD)을 능가할 수 있는가?
• RQ3 간헐적 통신 환경에서 부드럽고 볼록한 스토하스틱 최적화의 기본 최소-최대 복잡도는 로그 인자까지 어떻게 되는가?
• RQ4 목표 함수의 자기일관성과 준자기일관성 특성이 분산 환경에서 수렴 속도에 어떤 영향을 미치는가?
• RQ5 일반적인 부드러운 볼록 목표 함수에 대해 단일 통신 라운드(R=1)로 최적 속도를 달성할 수 있는가?

주요 결과

• 간헐적 통신 환경 하에서 분산 스토하스틱 볼록 최적화의 최소-최대 복잡도는 로그 인자까지 정확히 특징지어지며, 하한선이 최고의 달성 가능한 수렴 속도와 일치한다.
• 하한선은 문제 파라미터에 따라 세 항의 최소값에 의해 결정되며, $\frac{HB^2}{K^2R^2}$, $\min\left\{\frac{\sigma B}{\sqrt{MKR}}, HB^2\right\}$, $\min\left\{\frac{HB^2}{R^2\log^2 M}, \frac{Q^4\sigma^4 B^2}{H^7 K^2 R^2}, \frac{\sigma B}{\sqrt{KR}}\right\}$이다.
• Q-self-concordant 목표 함수의 경우 최적 수렴 속도는 $\Omega\left(\frac{HB^2}{K^2R^2} + \min\left\{\frac{\sigma B}{\sqrt{MKR}}, HB^2\right\} + \min\left\{\frac{HB^2}{R^2\log^2 M}, \frac{Q^2\sigma^2 B^2}{K R^2 \log M}, \frac{\sigma B}{\sqrt{KR}}\right\}\right)$이다.
• Q-quasi-self-concordant 목표 함수의 경우 최적 수렴 속도는 $\Omega\left(\frac{HB^2}{K^2R^2} + \min\left\{\frac{\sigma B}{\sqrt{MKR}}, HB^2\right\} + \min\left\{\frac{HB^2}{R^2\log^2 M}, \frac{Q\sigma B^2}{\sqrt{K} R^2 \log^{3/2} M}, \frac{\sigma B}{\sqrt{KR}}\right\}\right)$이다.
• 분석을 통해 미니배치 가속 경사하강법 또는 단일 머신 가속 경사하강법의 수렴 속도를 더 이상 향상시킬 수 없으며, 두 방법 중 더 나은 것이 로그 인자까지 최적임을 입증한다.
• 이 결과는 일반적인 부드러운 볼록 목표 함수에 대해 병렬 처리와 국소 계산을 동시에 활용하는 보다 복잡한 알고리즘도 이러한 두 단순한 전략보다 악조건에서의 보장을 향상시킬 수 없다는 것을 시사한다.