[논문 리뷰] Gradient Masked Averaging for Federated Learning

Irene Tenison, Sai Aravind Sreeramadas외 4명|arXiv (Cornell University)|2022. 01. 28.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

이 논문은 비독립 동일 분포(non-i.i.d.) 환경에서 일반화 성능을 향상시키기 위해 클라이언트 간에 일致하는 방향을 가진 기울기 성분을 강조하고 일致하지 않는 성분은 감소시키는 방식으로, 새로운 집합 방법인 기울기 마스킹 평균화(Gradient Masked Averaging, GMA)를 제안한다. GMA는 데이터 이질성과 클라이언트 참여 불균형이 심한 상황에서도 표준 평균화보다 뛰어난 성능을 보이며, 다양한 데이터셋과 알고리즘에서 일관된 성능 향상을 보인다.

ABSTRACT

Federated learning (FL) is an emerging paradigm that permits a large number of clients with heterogeneous data to coordinate learning of a unified global model without the need to share data amongst each other. A major challenge in federated learning is the heterogeneity of data across client, which can degrade the performance of standard FL algorithms. Standard FL algorithms involve averaging of model parameters or gradient updates to approximate the global model at the server. However, we argue that in heterogeneous settings, averaging can result in information loss and lead to poor generalization due to the bias induced by dominant client gradients. We hypothesize that to generalize better across non-i.i.d datasets, the algorithms should focus on learning the invariant mechanism that is constant while ignoring spurious mechanisms that differ across clients. Inspired from recent works in Out-of-Distribution generalization, we propose a gradient masked averaging approach for FL as an alternative to the standard averaging of client updates. This aggregation technique for client updates can be adapted as a drop-in replacement in most existing federated algorithms. We perform extensive experiments on multiple FL algorithms with in-distribution, real-world, feature-skewed out-of-distribution, and quantity imbalanced datasets and show that it provides consistent improvements, particularly in the case of heterogeneous clients.

연구 동기 및 목표

• 클라이언트 간 데이터 이질성으로 인한 모델 성능 저하 문제를 해결하기 위해.
• 비독립 동일 분포 설정에서 클라이언트 모델 업데이트를 표준 평균화할 경우 발생하는 편향과 정보 손실 문제를 해결하기 위해.
• 클라이언트 간 공통되는 메커니즘에 집중하면서 비정상적이고 클라이언트별로 특화된 패턴을 억제함으로써 일반화 성능을 향상시키기 위해.
• 이미 존재하는 분산 학습 알고리즘과 호환되는 플러그인 방식의 집합 방법을 개발하여 아키텍처 변경 없이도 안정성을 향상시키기 위해.
• 다양한 데이터셋, 특히 분포 내, 분포 외, 양적 불균형 설정에서 일관된 성능 향상을 입증하기 위해.

제안 방법

• 모든 클라이언트의 각 기울기 성분에 대해 부호를 계산하여 업데이트 방향에 대한 성분별 일致도를 판단한다.
• 일치도 점수를 기반으로 소프트 마스킹 행렬을 구성하며, 높은 일치도일수록 최종 업데이트에서 높은 가중치를 부여한다.
• 클라이언트 기울기에 마스크를 적용한 후 평균을 내어, 클라이언트들이 일致하는 방향은 강조하고 갈등이 있는 업데이트는 감쇠시킨다.
• 마스킹된 기울기 평균을 전역 모델 업데이트로 사용하여, 표준 FedAvg 방식의 평균화를 대체한다.
• FedAvg와 같은 기존 분산 학습 알고리즘에 GMA를 즉각 통합할 수 있으며, 클라이언트 학습 절차에 변화가 필요 없다.
• 마스킹 메커니즘은 미분 가능하고 안정적이며, 보조 자료에서 이론적 수렴성 및 안정성 분석을 제공한다.

실험 결과

연구 질문

• RQ1 비독립 동일 분포 데이터 분포에서 표준 평균화에 비해 기울기 마스킹이 일반화 성능 향상에 기여하는가?
• RQ2 실제 분산 학습 환경에서 흔한 특성 편향 및 양적 불균형 분포에서 GMA는 어떤 성능을 보이는가?
• RQ3 부분적인 클라이언트 참여 라운드에서 GMA는 참여하지 않은 클라이언트의 성능 향상에 더 큰 기여를 하는가?
• RQ4 클라이언트 수와 로컬 학습 에포크 수가 증가함에 따라 GMA의 성능는 어떻게 변화하는가?
• RQ5 로지스틱 회귀를 사용한 MNIST에서 볼록 최적화 설정에서 GMA는 수렴성과 안정성을 향상시키는가?

주요 결과

• 10개 클라이언트와 비독립 동일 분포 데이터를 가진 FMNIST에서, GMA는 참여 클라이언트의 테스트 정확도를 표준 평균화 대비 2.4% 향상시켰고, 비참여 클라이언트의 경우 4.6% 향상되었다.
• 100개 클라이언트와 딜레트 기반 양적 편향(β=0.5)을 가진 CIFAR-10에서, GMA는 극심한 데이터 불균형 조건에서도 표준 평균화를 능가하는 성능을 보이며 강건성을 입증했다.
• MNIST와 로지스틱 회귀를 사용한 볼록 설정에서, GMA는 비독립 동일 분포 데이터 조건에서 88.5%의 테스트 정확도를 달성했고, 표준 평균화의 87.0%에 비해 뛰어난 성능을 보였다.
• GMA는 다양한 알고리즘과 데이터셋에서 일관된 성능 향상을 보였으며, 특히 이질성과 불균형이 심한 환경에서 더 큰 성능 향상을 보였다.
• 제거 실험을 통해 GMA의 이점은 클라이언트 수가 많아지고 로컬 에포크 수가 많아질수록 증가하는 것으로 확인되었으며, 이는 클라이언트 드리프트와 데이터 이질성에 대한 강력한 저항성을 시사한다.
• 이론적 분석을 통해 메서드의 안정성과 수렴 성능이 향상되었음을 입증하였으며, 이는 GMA의 강건성과 수렴 특성을 뒷받침한다.