[논문 리뷰] Entropy-driven Fair and Effective Federated Learning

Lin Wang, Zhichao Wang외 3명|arXiv (Cornell University)|2023. 01. 29.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 손실 기반 주의를 사용하여 클라이언트 참여와 기울기 집계를 동적으로 조정함으로써 공정성과 모델 효과성을 향상시키는 엔트로피 기반 페더레이티드 러닝 프레임워크를 제안한다. 국소 손실과 온도 스케일링을 바탕으로 지수 가중치를 적용함으로써 높은 손실을 가진 클라이언트가 글로벌 업데이트에 더 많이 기여하도록 보장함으로써 수렴 속도 향상과 이질적 클라이언트 간의 성능 격차 감소를 달성한다.

ABSTRACT

Federated Learning (FL) enables collaborative model training across distributed devices while preserving data privacy. Nonetheless, the heterogeneity of edge devices often leads to inconsistent performance of the globally trained models, resulting in unfair outcomes among users. Existing federated fairness algorithms strive to enhance fairness but often fall short in maintaining the overall performance of the global model, typically measured by the average accuracy across all clients. To address this issue, we propose a novel algorithm that leverages entropy-based aggregation combined with model and gradient alignments to simultaneously optimize fairness and global model performance. Our method employs a bi-level optimization framework, where we derive an analytic solution to the aggregation probability in the inner loop, making the optimization process computationally efficient. Additionally, we introduce an innovative alignment update and an adaptive strategy in the outer loop to further balance global model's performance and fairness. Theoretical analysis indicates that our approach guarantees convergence even in non-convex FL settings and demonstrates significant fairness improvements in generalized regression and strongly convex models. Empirically, our approach surpasses state-of-the-art federated fairness algorithms, ensuring consistent performance among clients while improving the overall performance of the global model.

연구 동기 및 목표

• 비독립 동일 분포(Non-IID) 데이터와 다양한 클라이언트 능력으로 인한 페더레이티드 러닝의 성능 격차를 해결한다.
• 이질적 클라이언트 환경에서 수렴성과 모델 효과성을 향상시킨다.
• 특히 높은 국소 손실을 가진 클라이언트들로부터 공정한 기여를 확보한다.
• 실시간으로 클라이언트 손실 분포에 적응하는 동적 집계 메커니즘을 개발한다.

제안 방법

• 국소 손실 값에 기반해 클라이언트 중요도를 계산하기 위해 온도 스케일링이 적용된 지수 가중치 기반의 방법을 도입한다.
• 클라이언트 손실 벡터와 균일 지침 벡터 간의余弦 유사도를 사용하여 공정성 보정이 필요한지 여부를 판단한다.
• 손실 기반 주의에서 유도된 가중치를 사용해 모든 클라이언트의 기울기 평균에 가중치를 적용한 혼합 기울기 업데이트를 통해 공정한 기울기 업데이트를 적용한다.
• 국소 기울기와 공정한 글로벌 기울기의 조합을 통해 최적화 안정성을 높이는 하이브리드 업데이트 규칙을 국소 학습에 적용한다.
• 학습 후 최종 국소 손실에서 계산된 가중치를 사용해 손실 인식 가중 평균을 통해 클라이언트 업데이트를 집계한다.
• 손실 임계값 기반으로 클라이언트를 동적으로 선택하고, 손실 불균형이 심각할 경우에만 공정성 인식 집계를 적용한다.

실험 결과

연구 질문

• RQ1 비독립 동일 분포(Non-IID) 데이터와 이질적 클라이언트 성능 조건 하에서 페더레이티드 러닝에서 클라이언트 기여를 어떻게 공정하게 균형 잡을 수 있는가?
• RQ2 손실 기반 주의가 이질적 페더레이티드 환경에서 수렴 속도와 모델 정확도에 어떤 영향을 미치는가?
• RQ3 동적 기울기 가중치 부여가 학습 효율성이나 모델 효과성 희생 없이 공정성을 향상시킬 수 있는가?
• RQ4 클라이언트 데이터 이질성에 대한 내성적 특성 면에서 제안된 방법이 표준 FedAvg와 비교해 어떻게 성능을 발휘하는가?
• RQ5 엔트로피 기반 클라이언트 선택은 균형 잡힌 클라이언트 참여와 성능 유지에 어떤 역할을 하는가?

주요 결과

• 비독립 동일 분포(Non-IID) 데이터 환경에서 표준 FedAvg에 비해 더 빠른 수렴 속도와 높은 최종 모델 정확도를 달성한다.
• 높은 국소 손실을 가진 클라이언트들이 일관되게 더 높은 업데이트 가중치를 할당받아 클라이언트 간 성능 격차가 균형 잡힌다.
• 온도 스케일링이 적용된 지수 가중치 방법이 클라이언트 드리프트와 데이터 불균형에 대해 더 높은 내성적 특성을 보인다.
• 余弦 유사도 기반 동적 임계값 메커니즘이 공정성 보정이 필요한지 효과적으로 식별한다.
• 하이브리드 국소 업데이트 규칙이 최적화 불안정성을 감소시키고 수렴 안정성을 향상시킨다.
• 실증 결과는 특히 고이질성 시나리오에서 비독립 동일 분포 벤치마크 데이터셋에서 테스트 정확도가 뚜렷이 향상됨을 보여준다.