[논문 리뷰] From Local SGD to Local Fixed-Point Methods for Federated Learning

Grigory Malinovsky, Dmitry Kovalev외 3명|arXiv (Cornell University)|2020. 04. 03.

Stochastic Gradient Optimization Techniques참고 문헌 18인용 수 10

한 줄 요약

이 논문은 국소 SGD를 더 넓은 고정점 문제로 일반화하여 피에프리게이션 학습을 위한 두 가지 통신 효율적인 고정점 알고리즘을 제안한다. 국소 단계와 무작위 통신 전략을 도입하여 미리 약한 조건 하에서 선형 수렴성을 증명하며, 이론적 경계를 통해 표준 국소 SGD보다 통신 효율성이 향상됨을 보여준다.

ABSTRACT

Most algorithms for solving optimization problems or finding saddle points of convex-concave functions are fixed-point algorithms. In this work we consider the generic problem of finding a fixed point of an average of operators, or an approximation thereof, in a distributed setting. Our work is motivated by the needs of federated learning. In this context, each local operator models the computations done locally on a mobile device. We investigate two strategies to achieve such a consensus: one based on a fixed number of local steps, and the other based on randomized computations. In both cases, the goal is to limit communication of the locally-computed variables, which is often the bottleneck in distributed frameworks. We perform convergence analysis of both methods and conduct a number of experiments highlighting the benefits of our approach.

연구 동기 및 목표

• 피에프리게이션 학습의 통신 병목 현상을 해결하기 위해 국소 SGD를 고정점 최적화로 일반화한다.
• M대의 장치에서 평균 연산자에 대한 고정점을 찾는 방식으로 분산 계산을 모델링한다.
• 통신을 줄이기 위해 두 가지 전략을 개발한다: 국소 단계(결정적)와 무작위 통신(스토캐스틱).
• 리프시츠 연속성과 평균 연산자 성질을 포함한 표준 가정 하에서 두 방법의 수렴 분석을 제공한다.
• 통신 빈도와 문제의 조건 수치에 명시적인 의존성을 포함한 선형 수렴 속도를 확립한다.

제안 방법

• 각 장치 i에서의 국소 계산을 모델링하는 연산자 T_i(x)를 고려하여 T(x) = (1/M)ΣT_i(x)의 고정점을 찾는 문제로 문제를 수립한다.
• 국소 단계 방법을 제안한다: 서버와의 동기화 전에 각 장치가 자신의 연산자 T_i에 대해 k번의 국소 반복을 수행한다.
• 무작위 통신 방법을 도입한다: 장치들은 확률 p ∈ (0,1)로 통신하며, 그렇지 않으면 국소 업데이트를 수행한다.
• 수렴 분석을 위해 Lyapunov 함수 Ψ^k = ||x^k - x*||² + (5λ/p)V_k를 사용한다. 여기서 V_k는 국소 기울기의 분산을 추적한다.
• 기대값에서의 압축을 확립한다: E[Ψ^{k+1}] ≤ (1 - μ)Ψ^k + Cλ³σ²/p², 여기서 μ = min(λρ/(1+ρ), p/5).
• ε, σ, ρ, p, λ에 명시적인 의존성을 포함한 수렴 속도 T = O(log(1/ε))를 유도하며, 통신 효율성 향상을 보여준다.

실험 결과

연구 질문

• RQ1 국소 SGD는 경사 하강법을 초월하여 피에프리게이션 학습에서 더 넓은 고정점 문제로 일반화될 수 있는가?
• RQ2 국소 고정점 방법의 수렴은 국소 단계 수와 통신 확률에 어떻게 의존하는가?
• RQ3 고정점 최적화에서 무작위 통신 전략의 이론적 수렴 속도는 무엇인가?
• RQ4 오차와 분산 항을 모두 포함한 Lyapunov 함수는 표준 목표 함수보다 더 날카로운 수렴 경계를 도출할 수 있는가?
• RQ5 통신 빈도는 분산 고정점 방법에서 계산과 수렴 사이의 트레이드오프에 어떻게 영향을 주는가?

주요 결과

• 제안된 국소 단계 방법은 조건 수 ρ와 단계 크기 λ에 따라 의존하는 선형 수렴 속도를 달성한다.
• 무작위 통신 방법은 확률 p로 수렴을 보장하며, 기대 오차는 T에 대해 선형적으로 감소한다.
• ε, σ, ρ, p, λ에 명시적인 의존성을 포함한 수렴 속도는 O(log(1/ε))이며, 통신 효율성 향상을 보여준다.
• T ≥ max{15(1+ρ)/(ρp), 18σ(1+ρ)^{1/3}/(pρ^{3/2}ε^{1/2}), 40σ^{2/3}(1+ρ)/(pρε^{1/3})} log(2Ψ₀/ε)의 경계는 정확도와 통신 사이의 트레이드오프를 정량화한다.
• 분석 결과, 적절한 매개변수 설정 하에 수렴 속도를 유지하면서 통신 빈도를 O(1/p)만큼 줄일 수 있다.
• ε-정확도를 달성하기 위해 필요한 반복 수 T는 1/ε에 대해 로그적으로 증가하며, 이는 선형 수렴을 확인한다.