[논문 리뷰] FedVARP: Tackling the Variance Due to Partial Client Participation in Federated Learning

Divyansh Jhunjhunwala, Pranay Sharma외 2명|arXiv (Cornell University)|2022. 07. 28.

Privacy-Preserving Technologies in Data인용 수 7

한 줄 요약

FedVARP는 부분적 클라이언트 참여로 인한 분산을 줄이기 위해 서버 측에서 각 클라이언트의 최신 모델 업데이트를 유지하고 재사용하여 비참여 클라이언트의 대체 업데이트로 활용하는 새로운 서버 측 집계 전략이다. 클라이언트 측 계산이나 통신을 추가로 요구하지 않으면서도 최신 기술 수준의 성능을 달성하며, 클러스터링을 통해 클라이언트를 그룹화함으로써 메모리 사용을 크게 줄인 ClusterFedVARP는 유사한 성능을 제공한다.

ABSTRACT

Data-heterogeneous federated learning (FL) systems suffer from two significant sources of convergence error: 1) client drift error caused by performing multiple local optimization steps at clients, and 2) partial client participation error caused by the fact that only a small subset of the edge clients participate in every training round. We find that among these, only the former has received significant attention in the literature. To remedy this, we propose FedVARP, a novel variance reduction algorithm applied at the server that eliminates error due to partial client participation. To do so, the server simply maintains in memory the most recent update for each client and uses these as surrogate updates for the non-participating clients in every round. Further, to alleviate the memory requirement at the server, we propose a novel clustering-based variance reduction algorithm ClusterFedVARP. Unlike previously proposed methods, both FedVARP and ClusterFedVARP do not require additional computation at clients or communication of additional optimization parameters. Through extensive experiments, we show that FedVARP outperforms state-of-the-art methods, and ClusterFedVARP achieves performance comparable to FedVARP with much less memory requirements.

연구 동기 및 목표

• 부분적 클라이언트 참여로 인한 주요 수렴 오차를 해결하고자 하며, 이는 클라이언트 드리프트에 비해 다소 간과된 문제이다.
• 클라이언트 측 학습이나 통신 증가 없이도 비참여 클라이언트로 인한 오차를 제거하는 서버 측 분산 감소 메커니즘을 설계하고자 한다.
• 클러스터링을 통한 메모리 효율적인 변종을 제공하여 성능를 유지하면서 저장 요구량을 줄이고자 한다.
• 부분적 클라이언트 참여가 FedAvg에서 오차의 주요 원인임을 실증적으로 검증하고자 한다. 이는 클라이언트 드리프트의 영향을 초월한다.

제안 방법

• FedVARP는 서버 메모리에 각 클라이언트의 최신 모델 업데이트를 유지하고, 전역 집계 시 비참여 클라이언트의 대체 업데이트로 이를 활용한다.
• 이 방법은 서버에서 수정된 평균화 규칙을 적용하여 대체 업데이트를 포함함으로써, 비활성 클라이언트의 기여도를 효과적으로 반영한다.
• ClusterFedVARP는 클라이언트를 클러스터로 분할하고, 각 클러스터당 하나의 대체 업데이트만 유지함으로써 메모리 사용량을 줄이며 분산 감소 효과를 유지한다.
• 이 접근법은 클라이언트 측 로컬 SGD나 통신 프로토콜에 대한 수정이 필요 없어, 기존의 피드포워드 학습 시스템과 후행 호환성을 가진다.
• 이론적 분석을 통해 FedVARP는 오차의 하한에서 부분적 참여로 인한 분산 항목을 제거함으로써 수렴 성능을 향상시킴을 보였다.
• 핵심 구성 요소로는 수렴 증명에서 제이슨의 부등식과 영의 부등식을 사용하여 기울기 차이의 기대 제곱 노름을 유한하게 제한하는 것이다.

실험 결과

연구 질문

• RQ1 FedAvg에서 수렴 오차에 기여하는 부분적 클라이언트 참여와 클라이언트 드리프트의 상대적 기여는 각각 얼마인가?
• RQ2 서버 측 집계 전략을 통해 부분적 클라이언트 참여로 인한 분산을 완전히 제거할 수 있는가?
• RQ3 대규모 피드포워드 학습 시스템에서 최소한의 메모리 오버헤드로 분산 감소를 달성할 수 있는 방법은 무엇인가?
• RQ4 비활성 클라이언트의 대체 업데이트를 유지할 경우 실질적으로 수렴 속도가 빨라지고 오차 하한이 낮아지는가?

주요 결과

• 부분적 클라이언트 참여는 부드러운 비볼록 함수에서 FedAvg의 주요 수렴 오차 원인으로, 클라이언트 드리프트의 영향을 초월한다.
• FedVARP는 오차 하한에서 부분적 참여로 인한 분산 항목을 제거하여 기존 최신 기술 수준의 방법보다 더 빠른 수렴 속도를 달성한다.
• 다양한 벤치마크 데이터셋에서 테스트 정확도와 수렴 속도 측면에서 FedVARP는 기존 기준선을 모두 초월한다.
• ClusterFedVARP는 메모리 사용량을 클러스터 수에 비례하여 감소시키면서도 FedVARP와 유사한 성능을 달성한다.
• 이론적 분석은 기대 제곱 노름이 확률적 노이즈와 클라이언트 드리프트를 포함한 항목들로 제한되며, 이 중 부분적 참여 항목이 주요 기여를 한다고 확인했다.
• 실증 결과는 특히 클라이언트 참여도의 분산이 높은 환경에서 FedVARP를 사용할 경우 오차 하한이 크게 감소함을 보였다.