[논문 리뷰] Federated Learning of a Mixture of Global and Local Models

Filip Hanzely, Peter Richtárik|arXiv (Cornell University)|2020. 02. 10.

Privacy-Preserving Technologies in Data참고 문헌 47인용 수 242

한 줄 요약

논문은 전역 모델과 완전히 로컬 모델을 페널티를 통해 혼합하는 새로운 연합학습 formulation을 도입하고, 수렴 보장을 갖춘 Loopless Local Gradient Descent 변형을 개발하여 이질적 데이터 설정에서 로컬 스텝이 통신을 감소시킬 수 있으며 개인화를 가능하게 한다고 제시한다.

ABSTRACT

We propose a new optimization formulation for training federated learning models. The standard formulation has the form of an empirical risk minimization problem constructed to find a single global model trained from the private data stored across all participating devices. In contrast, our formulation seeks an explicit trade-off between this traditional global model and the local models, which can be learned by each device from its own private data without any communication. Further, we develop several efficient variants of SGD (with and without partial participation and with and without variance reduction) for solving the new formulation and prove communication complexity guarantees. Notably, our methods are similar but not identical to federated averaging / local SGD, thus shedding some light on the role of local steps in federated learning. In particular, we are the first to i) show that local steps can improve communication for problems with heterogeneous data, and ii) point out that personalization yields reduced communication complexity.

연구 동기 및 목표

• 이질적인 엣지 데이터에서 원시 데이터를 수집하지 않고도 프라이버시를 보호하는 학습을 동기화한다.
• 개인화된 로컬 모델을 학습하는 한편 글로벌 컨센서스와의 근접성을 유지하는 혼합 FL 목표를 제안한다.
• 최적 해의 이론적 속성 및 개인화가 통신에 미치는 영향을 분석한다.
• 수렴 보장 및 통신 복잡도 경계가 있는 효율적인 SGD 기반 알고리즘(L2GD, L2SGD+)을 개발한다.

제안 방법

• 로컬 모델 x1,...,xn에 대한 페널티 항 ψ(x)로 평균에서의 편차를 측정하는 새로운 FL 목표를 도입하여 F(x)=f(x)+λψ(x)를 형성한다.
• f(x)가 로컬 손실 fi(xi)의 평균이며 ψ(x)가 로컬 모델의 분산을 부호화함을 보이고, 그래디언트 및 매끄러움/강한 볼록성 특성을 도출한다.
• λ와 로컬-글로벌 해의 근접성 사이의 관계(λ에 따라 ψ(x(λ))가 비증가하고 f(x(λ))가 비감소한다는 것 포함)에 대한 이론적 결과를 도출한다.
• Loopless Local Gradient Descent(L2GD)을 제시하여 지역 GD 단계와 평균화 단계를 확률적 메커니즘으로 교대하며 통신 라운드를 제어한다.
• 부분 참여 및 로컬 SGD, 분산 감소를 포함한 일반화와 함께 선형 수렴 및 더 나은 통신 성능을 달성하기 위해 분산 감소(L2SGD+)로 확장한다.

실험 결과

연구 질문

• RQ1 혼합 글로벌/로컬 모델 목표가 이질적 데이터에서 통신을 제어하면서 FL의 개인화를 개선할 수 있는가?
• RQ2 페널티 파라미터 λ가 글로벌 해와 로컬 해로의 수렴 및 관련 통신 복잡도에 어떤 영향을 미치는가?
• RQ3 Loopless Local GD(L2GD)와 그 분산 감소 변형의 수렴 보장과 최적 통신 라운드는 무엇인가?
• RQ4 부분 참여, 로컬 SGD 및 분산 감소가 이질성 하에서 FL 성능을 개선하는가?
• RQ5 로컬 스텝이 FL에서 MAML과 같은 개인화 모델 구조와 어떤 관계가 있는가?

주요 결과

• 새로운 혼합 FL 형식은 λ를 통해 pure local 모델(λ→0)에서 글로벌 모델(λ→∞)로의 전이를 가지는 고유한 해 x(λ)를 산출한다.
• 최적 로컬 모델은 x_i(λ)=x̄(λ)−(1/λ)∇f_i(x_i(λ))이고 ∑i ∇f_i(x_i(λ))=0으로, MAML-유사 업데이트와 연결된다.
• L2GD는 p*라는 조정된 샘플링 확률로 x(λ)에 대한 기대 거리에 대한 상한을 달성하여 SGD와 GD 사이를 보간하는 유한한 기대 통신 라운드를 산출한다.
• 보조정: p*=λ/(L+λ)일 때 기대 통신은 (2λ/(λ+L))*(L/μ) log(1/ε)로 스케일되며, λ→0일 때 0에 수렴하고 λ→∞일 때 GD의 속도와 일치한다.
• L2SGD+ (분산 감소)는 선형 수렴과 향상된 통신 복잡도를 달성하며, 문제 매개변수에 의존하는 명시적인 반복 및 통신 경계를 가진다.
• 이질적/로컬 데이터 분할을 가진 로지스틱 회귀에 대한 실험 결과가 이론적 주장들을 뒷받침하고 FL에서 분산 감소 및 개인화의 이점을 보여준다.