[논문 리뷰] Asynchronous Federated Learning with Reduced Number of Rounds and with Differential Privacy from Less Aggregated Gaussian Noise

Marten van Dijk, Nhuong V. Nguyen외 4명|arXiv (Cornell University)|2020. 07. 17.

Privacy-Preserving Technologies in Data참고 문헌 34인용 수 17

한 줄 요약

이 논문은 통신 라운드 수를 줄이고 집계된 가우시안 노이즈를 최소화함으로써 통신 라운드 수를 줄이고 차별적 프라이버시를 향상시키는 异步 분산 학습 알고리즘을 제안한다. 감소하는 스텝 사이즈와 증가하는 로컬 샘플 크기를 사용함으로써, 볼록 및 비볼록 문제에서 높은 모델 정확도를 유지하면서도 수렴 속도를 높이고 프라이버시 비용을 낮춘다.

ABSTRACT

The feasibility of federated learning is highly constrained by the server-clients infrastructure in terms of network communication. Most newly launched smartphones and IoT devices are equipped with GPUs or sufficient computing hardware to run powerful AI models. However, in case of the original synchronous federated learning, client devices suffer waiting times and regular communication between clients and server is required. This implies more sensitivity to local model training times and irregular or missed updates, hence, less or limited scalability to large numbers of clients and convergence rates measured in real time will suffer. We propose a new algorithm for asynchronous federated learning which eliminates waiting times and reduces overall network communication - we provide rigorous theoretical analysis for strongly convex objective functions and provide simulation results. By adding Gaussian noise we show how our algorithm can be made differentially private -- new theorems show how the aggregated added Gaussian noise is significantly reduced.

연구 동기 및 목표

• 동기화된 클라이언트-서버 동기화로 인한 확장성 및 통신 병목 현상을 해결하기 위해.
• 모델 정확도를 희생시키지 않고도 분산 학습에서 통신 획수를 줄이기 위해.
• 강한 볼록 목표 함수 하에서 비동기 분산 학습의 이론적 수렴 보장을 제공하기 위해.
• 모델 유틸리티를 유지하면서도 차별적 프라이버시 메커니즘에서 집계된 가우시안 노이즈를 최소화하기 위해.
• 이질적인 기기와 데이터를 가진 실세계 환경에서 효율적이고 확장 가능하며 프라이버시 보장된 분산 학습을 가능하게 하기 위해.

제안 방법

• 클라이언트가 각 라운드마다 증가하는 변수적 크기의 로컬 샘플을 사용하여 로컬로 학습할 수 있는 비동기 분산 학습 프레임워크를 도입한다.
• 수렴을 보장하기 위해 감소하는 스텝 사이즈 기법(강한 볼록인 경우 η₀/(1+βt), 일반 볼록인 경우 η₀/(1+β√t))을 적용한다.
• 지역 기울기의 가우시안 노이즈 추가를 통해 차별적 프라이버시를 적용하며, 이론적 분석을 통해 이전 방법보다 집계된 노이즈가 감소함을 보여준다.
• Hogwild!에 영감을 받은 비동기 SGD 프레임워크를 사용하여 순서가 어긋난 업데이트와 다양한 클라이언트 학습 시간을 수용한다.
• 클라이언트가 각 라운드에 더 많은 SGD 반복을 수행하도록 하는 유연한 로컬 학습 스케줄링을 설계하여 전역 동기화의 빈도를 줄인다.
• 이론적 분석은 허용 가능한 지연이 허용되는 일반적인 SGD 재귀 모델에 기반하며, 강한 볼록 함수에 대한 수렴 증명을 가능하게 한다.

실험 결과

연구 질문

• RQ1 증가하는 로컬 샘플 크기를 가진 비동기 분산 학습이 수렴을 유지하면서도 통신 획수를 줄일 수 있는가?
• RQ2 감소하는 스텝 사이즈의 선택이 비동기 FL에서 수렴 속도와 모델 정확도에 어떤 영향을 미치는가?
• RQ3 비동기 FL에서 집계된 가우시안 노이즈를 크게 줄이면서도 차별적 프라이버시를 효과적으로 적용할 수 있는가?
• RQ4 실세계 분산 환경에서 흔한 편향된 데이터 분포 하에서 이 프레임워크는 어떻게 성능을 발휘하는가?
• RQ5 비동기 FL에서 DP를 적용할 경우, 통신 효율성, 프라이버시 예산, 모델 정확도 사이의 상충 관계는 어떻게 되는가?

주요 결과

• 감소하는 스텝 사이즈와 증가하는 샘플 크기를 사용하는 제안된 비동기 FL은 일정 스텝 사이즈 기반 대비 더 빠른 수렴과 더 적은 통신 획수를 달성한다.
• 강한 볼록 및 비볼록 문제 모두에서 동일한 프라이버시 예산 하에서 일정 스텝 사이즈 설정(예: η=0.01, η=0.001)보다 높은 정확도를 달성한다.
• 편향된 데이터 세트(예: 한 클라이언트는 오직 숫자 0만, 다른 클라이언트는 오직 숫자 1만을 가짐)에서도 프레임워크는 뛰어난 성능을 유지하며, 데이터 불균형에 대한 강건성을 입증한다.
• (ε,δ) = (1.0, 5.5×10⁻⁸) 및 σ=8.0 조건 하에서 차별적 프라이버시를 적용했을 때, 집계된 가우시안 노이즈를 줄이면서도 높은 정확도를 유지하며, 일정 파rameter 설정보다 뛰어난 성능을 보인다.
• 이론적 분석을 통해 허용 가능한 지연이 있는 비동기 업데이트 하에서 강한 볼록 목표 함수에 대한 수렴이 확인되었으며, 실용적 구현 기반을 제공한다.
• 시뮬레이션 결과는 증가하는 샘플 크기 시퀀스 s_i,c = 1.322·i + 16 (p=1.0)가 더 적은 획수로 효과적인 학습을 가능하게 하고, 더 나은 프라이버시-정확도 트레이드오프를 제공함을 보여준다.