[논문 리뷰] Fair Resource Allocation in Federated Learning

Li Tian, Maziar Sanjabi외 2명|arXiv (Cornell University)|2019. 05. 25.

Privacy-Preserving Technologies in Data참고 문헌 45인용 수 352

한 줄 요약

이 논문은 q-Fair Federated Learning (q-FFL)과 FedAvg 스타일 해결책(q-FedAvg)을 도입하여 연합학습에서 디바이스 수준의 성능 분포를 더 균일하게 만들고, 공정성과 전체 성능의 균형을 맞추며, 효율성 향상을 입증합니다.

ABSTRACT

Federated learning involves training statistical models in massive, heterogeneous networks. Naively minimizing an aggregate loss function in such a network may disproportionately advantage or disadvantage some of the devices. In this work, we propose q-Fair Federated Learning (q-FFL), a novel optimization objective inspired by fair resource allocation in wireless networks that encourages a more fair (specifically, a more uniform) accuracy distribution across devices in federated networks. To solve q-FFL, we devise a communication-efficient method, q-FedAvg, that is suited to federated networks. We validate both the effectiveness of q-FFL and the efficiency of q-FedAvg on a suite of federated datasets with both convex and non-convex models, and show that q-FFL (along with q-FedAvg) outperforms existing baselines in terms of the resulting fairness, flexibility, and efficiency.

연구 동기 및 목표

• 데이터 이질성과 시스템 가변성으로 인한 연합학습에서 디바이스 간 공정성 확보를 촉진한다.
• 디바이스 간 성능의 균일성과 평균 정확도 간의 균형을 고려하는 유연한 공정성 인식 목표를 정의한다.
• 통신을 최소화하고 다양한 디바이스 참여를 처리하는 연합학습에 특화된 확장 가능한 최적화 방법을 개발한다.
• 알파-공정성(alpha-fairness)과의 이론적 연결을 확립하고, 기존의 연합학습 공정성 접근법과 비교한다.
• q-FFL이 전체 정확도를 유지하면서 디바이스 간 더 균일한 성능을 달성함을 실험적으로 검증한다.

제안 방법

• q-FFL을 제안하며 목적함수 f_q(w)=sum_k (p_k/(q+1)) F_k(w)^{q+1}로 구성되고, 공정성 제어를 위해 q로 매개변수화된다.
• q-FFL을 alpha-fairness와 연관시켜 tunable한 공정성-정확도 트레이드오프를 가능하게 한다.
• 로컬 Lipschitz 상한을 활용해 모델을 업데이트하는 동적 학습률의 연합 SGD(q-FedSGD)를 도입한다.
• Lipschitz 상한에 기반한 로컬 업데이트의 동적 가중치를 사용하는 통신효율적인 FedAvg 유사 방법인 q-FedAvg로 확장한다.
• q=0에서 Lipschitz 상수를 추정하고 이를 q>0에 재사용하는 실용적 스킴을 제공하여 q별 하이퍼파라미터 튜닝을 피한다.
• q-FedAvg가 q-FedSGD 및 표준 FedSGD보다 더 빠른 통신 라운드 수에서 수렴하면서 q-FFL을 해결한다는 것을 입증한다.

실험 결과

연구 질문

• RQ1 연합학습에서 디바이스 간 모델 성능 분포의 공정성을 어떻게 정의할 수 있는가?
• RQ2 조절 가능한 목적함수(q-FFL)가 이질적 데이터 분포에서 평균 정확도와 디바이스 수준 성능의 균일성을 균형 있게 달성할 수 있는가?
• RQ3 확장 가능한 최적화 방법(q-FedAvg, q-FedSGD)이 연합 설정에서 q-FFL 목표를 효율적으로 해결하는가?
• RQ4 AFL, 균일 디바이스 가중치와 같은 기존 공정성 접근법과 비교했을 때 정확도 및 공정성 지표 측면에서 q-FFL은 어떠한가?
• RQ5 q-FFL을 메타러닝과 같은 다른 도메인으로 확장하여 과제 간 공정한 초기화를 달성할 수 있는가?

주요 결과

Dataset	Objective	Average	Worst 10%	Best 10%	Variance
Synthetic	q=0	80.8 ± 0.9	18.8 ± 5.0	100.0 ± 0.0	724 ± 72
Synthetic	q=1	79.0 ± 1.2	31.1 ± 1.8	100.0 ± 0.0	472 ± 14
Vehicle	q=0	87.3 ± 0.5	43.0 ± 1.0	95.7 ± 1.0	291 ± 18
Vehicle	q=5	87.7 ± 0.7	69.9 ± 0.6	94.0 ± 0.9	48 ± 5
Sent140	q=0	65.1 ± 4.8	15.9 ± 4.9	100.0 ± 0.0	697 ± 132
Sent140	q=1	66.5 ± 0.2	23.0 ± 1.4	100.0 ± 0.0	509 ± 30
Shakespeare	q=0	51.1 ± 0.3	39.7 ± 2.8	72.9 ± 6.7	82 ± 41
Shakespeare	q=.001	52.1 ± 0.3	42.1 ± 2.1	69.0 ± 4.4	54 ± 27

• q-FFL은 전체 평균 정확도를 유지하면서 디바이스 간 정확도 분산을 평균적으로 45% 감소시킨다.
• q-FedAvg는 기준선보다 수 차원 빠르게 q-FFL 목표를 해결하여 커뮤니케이션 효율이 향상되었음을 보여준다.
• AFL 및 균일 샘플링과 비교했을 때 q-FFL은 평균 성능을 희생하지 않으면서 테스트 정확도 분포를 더 공정하게 달성한다.
• 볼록/비볼록 모델이 있는 여러 연합 데이터셋에서 q를 증가하면 평균은 비슷하게 유지되면서 디바이스 간 성능이 더 균일해진다(예: 분산 감소).
• q-FFL은 유연하여 더 큰 q가 더 엄격한 공정성 제어를 가능하게 하고 특정 데이터셋에서 최악의 디바이스 지표에서 최소-최대 공정성 기준을 능가할 수 있다.
• 이 접근법은 메타러닝에도 확장되어 과제 간 분산을 줄이는 공정한 초기화를 생성한다.