[논문 리뷰] Revisiting Weighted Aggregation in Federated Learning with Neural Networks

Zexi Li, Tao Lin외 2명|arXiv (Cornell University)|2023. 02. 14.

Privacy-Preserving Technologies in Data인용 수 19

한 줄 요약

이 논문은 연합학습에서 가중치 집계를 재조사하고, 일반화 성능을 향상시킬 수 있는 글로벌 가중치 축소 효과를 밝혀내며, 클라이언트 일관성을 분석하고, 글로벌 모델 일반화를 향상시키기 위한 FedLAW(Federated Learning with Learnable Aggregation Weights)를 제안합니다.

ABSTRACT

In federated learning (FL), weighted aggregation of local models is conducted to generate a global model, and the aggregation weights are normalized (the sum of weights is 1) and proportional to the local data sizes. In this paper, we revisit the weighted aggregation process and gain new insights into the training dynamics of FL. First, we find that the sum of weights can be smaller than 1, causing global weight shrinking effect (analogous to weight decay) and improving generalization. We explore how the optimal shrinking factor is affected by clients' data heterogeneity and local epochs. Second, we dive into the relative aggregation weights among clients to depict the clients' importance. We develop client coherence to study the learning dynamics and find a critical point that exists. Before entering the critical point, more coherent clients play more essential roles in generalization. Based on the above insights, we propose an effective method for Federated Learning with Learnable Aggregation Weights, named as FedLAW. Extensive experiments verify that our method can improve the generalization of the global model by a large margin on different datasets and models.

연구 동기 및 목표

• 비표준(1이 아님) l1 집계 규범(감마, gamma)이 FL 학습 역학과 일반화에 어떤 영향을 미치는지 조사합니다.
• 클라이언트 간 상대적 집계 가중치(lambda)들을 연구하고 클라이언트 일관성을 정의합니다.
• 글로벌 목표를 최적화하기 위해 프록시 데이터셋에서 가중치 학습 방법을 개발합니다.
• 다양한 데이터셋/모델에서 일반화를 향상시키기 위해 FedLAW(Federated Learning with Learnable Aggregation Weights)를 제안하고 평가합니다.

제안 방법

• 집계 가중치를 gamma(l1 규범의 합)와 lambda(상대 가중치)로 분해하여 글로벌 축소와 클라이언트 중요도를 연구합니다.
• 프록시 데이터셋에서 그라디언트 강하로 gamma를 학습시켜 정규화 요인(글로벌 가중치 축소)으로서의 효과를 관찰합니다.
• 프록시 데이터셋에서 lambda를 학습시켜 클라이언트 일관성을 포착하고 임계점 이전에 어떤 클라이언트가 더 기여하는지 결정합니다.
• 로컬 그라디언트 일관성과 이질성 일관성을 정의하고 측정하여 학습 역학을 이해합니다.
• 프록시 데이터셋에서 최적의 lambda를 학습하도록 주의 깊은 LAW를 도입하고(또는 gamma를 고정/조정), 클라이언트 참여 가중치를 유도합니다.
• 로컬 클라이언트를 업데이트한 후 프록시 데이터셋에서 집계 가중치를 최적화하고 학습된 가중치를 집계에 적용하는 FedLAW 알고리즘을 제안합니다.

실험 결과

연구 질문

• RQ1 gamma < 1을 사용하는 것이 FL 일반화 및 학습 역학에 미치는 영향은 무엇인가?
• RQ2 상대적 클라이언트 가중치 lambda가 클라이언트 일관성을 통해 학습 역학과 일반화에 어떤 영향을 미치는가?
• RQ3 프록시 데이터셋에서 학습 가능한 집계 가중치가 IID와 Non-IID 설정 모두에서 글로벌 모델 성능을 향상시킬 수 있는가?
• RQ4 전역 가중치 축소와 클라이언트 일관성이 로컬 에폭 및 데이터 이질성과 어떻게 상호작용하는가?
• RQ5 FedLAW가 작은 프록시 데이터셋이나 이동된 프록시 데이터셋, 손상된 클라이언트에 대해 강건한가?

주요 결과

• 글로벌 가중치 축소(gamma < 1)는 일반화를 개선할 수 있으며, 규제와 최적화를 균형 있게 하는 최적의 gamma가 존재합니다.
• 글로벌 그래디언트의 노름이 최적의 축소 인자를 결정합니다; 더 큰 글로벌 그래디언트일수록 더 강한 규제가 필요합니다.
• 로컬 그래디언트 일관성에 임계점이 존재하며, 이 시점 이전에는 더 일관된 클라이언트가 일반화에 더 많이 기여하고, 특히 데이터가 균형 잡힌 클라이언트가 그렇습니다.
• Attentive LAW는 초기 라운드에서 더 일관되거나 균형 잡힌 클라이언트를 선호하는 가중치를 학습하여 초기 일반화 및 이질성 일관성을 향상시킵니다.
• 적응적 글로벌 가중치 축소(adaptive GWS)는 임계점 이후에도 양의 로컬 그래디언트 일관성을 유지하여 FedAvg보다 추가 이득을 제공합니다.
• FedLAW는 CIFAR-10/100 및 FashionMNIST에서 다양한 모델로 일반화를 크게 향상시키며, 프록시 데이터셋의 이동 및 손상된 클라이언트에 대한 강건성도 보여줍니다.