[논문 리뷰] Proportional Fairness in Federated Learning

Guojun Zhang, Saber Malekmohammadi외 2명|arXiv (Cornell University)|2022. 02. 03.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 연합 학습에서 비례적 공정성(PF)을 새로운 공정성 기준으로 도입하며, 클라이언트 성능 향상은 절대적 손실이 아닌 기준 성능 대비 평가된다. 저자들은 상대적 유틸리티 수익 기반의 서브티튜트 손실을 최적화하여 PF 해를 근사하는 효율적인 알고리즘인 PropFair를 제안하며, 시각 및 언어 벤치마크에서 평균 성능와 최악의 10퍼센트 클라이언트 성능 간의 유리한 트레이드오프를 달성한다.

ABSTRACT

With the increasingly broad deployment of federated learning (FL) systems in the real world, it is critical but challenging to ensure fairness in FL, i.e. reasonably satisfactory performances for each of the numerous diverse clients. In this work, we introduce and study a new fairness notion in FL, called proportional fairness (PF), which is based on the relative change of each client's performance. From its connection with the bargaining games, we propose PropFair, a novel and easy-to-implement algorithm for finding proportionally fair solutions in FL and study its convergence properties. Through extensive experiments on vision and language datasets, we demonstrate that PropFair can approximately find PF solutions, and it achieves a good balance between the average performances of all clients and of the worst 10% clients. Our code is available at \url{https://github.com/huawei-noah/Federated-Learning/tree/main/FairFL}.

연구 동기 및 목표

• 절대 손실이 아닌 상대적 성능 향상 기반으로 클라이언트 성능를 평가하는 비례적 공정성(PF)을 도입하여 연합 학습에서의 공정성 문제를 해결하는 것.
• 이론적 수렴 보장을 갖춘 실용적인 새로운 알고리즘인 PropFair를 제안하여 비례적 공정한 해를 연합 학습에서 근사하는 것.
• 기존의 공정한 FL 방법들과 비교해 볼 때, PropFair가 평균 클라이언트 성능와 최악의 10퍼센트 클라이언트 성능 간의 균형을 더 잘 달성하는지 실증적으로 검증하는 것.
• 체계적인 초모수 튜닝을 통한 공정한 FL 알고리즘의 포괄적 벤치마크 제공을 통해 향후 연구를 지원하는 것.

제안 방법

• PropFair는 비례적 공정성을 나시 협상 솔루션으로 공식화하여, 클라이언트 간 상대적 유틸리티 수익의 곱을 최대화하는 것을 목표로 한다.
• 상대적 향상이 유도되도록 클라이언트 기여도를 그들의 상대적 성능 향상에 따라 가중치를 두는 서브티튜트 손실 함수를 도입한다.
• 비볼록 신경망 학습의 특성을 유지하면서도 공정성 목표를 확보하기 위해 라그랑주 리스크를 사용한 이중 최적화 프레임워크를 사용한다.
• 유연한 가정 하에 정적점 수렴이 이론적으로 증명되었으며, 제안된 통합 프레임워크는 다른 FL 알고리즘으로 일반화 가능하다.
• 클라이언트 손실의 소프트맥스 기반 변환을 통한 수정된 클라이언트 가중치 적용을 통해 표준 FL 학습 루프로 구현된다.
• 이전의 FL 프레임워크와의 후행 호환성을 고려해 설계되어 FedAvg 스타일의 학습 파이프라인에 쉽게 통합할 수 있다.

실험 결과

연구 질문

• RQ1 상대적 성능 변화 기반의 비례적 공정성은 이윤주의나 평등주의 접근 방식과 비교해 더 직관적이고 균형 잡힌 연합 학습의 공정성 기준이 될 수 있는가?
• RQ2 비볼록 FL 환경에서 이질적인 클라이언트를 고려할 때 비례적 공정한 해를 근사하는 실용적이고 수렴 가능한 알고리즘을 어떻게 설계할 수 있는가?
• RQ3 FedAvg, AFL, q-FFL와 같은 기존의 공정한 FL 방법들과 비교해 PropFair는 평균 성능와 최악의 성능 간의 트레이드오프를 어떻게 달성하는가?
• RQ4 현대적인 신경망 아키텍처를 사용한 다양한 시각 및 언어 벤치마크에서 PropFair는 현실적인 클라이언트 이질성 조건에서 어떻게 성능를 발휘하는가?
• RQ5 초모수 튜닝을 통한 체계적 벤치마크는 공정한 FL에서 PF 기반 방법의 일관된 이점을 드러내는가?

주요 결과

• PropFair는 클라이언트 간 상대적 유틸리티 수익이 균형 잡히고 악화되지 않는 것으로 나타나, 연합 학습에서 비례적 공정한 해를 성공적으로 근사한다.
• 시각 및 언어 데이터셋에서 PropFair는 FedAvg, AFL, q-FFL와 비교해 평균 클라이언트 성능와 최악의 10퍼센트 클라이언트 성능 간의 우월한 트레이드오프를 달성한다.
• 유연한 가정 하에 정적점 수렴이 보장되어 이론적으로도 성능의 안정성을 뒷받침한다.
• 실증 결과는 PropFair가 높은 평균 성능를 유지하면서도 최악의 클라이언트 성능를 크게 향상시켜 이질적인 클라이언트 간 성능 격차를 줄임을 보여준다.
• 체계적인 초모수 튜닝을 통한 포괄적 벤치마크 결과, PropFair는 다양한 설정에서 기존의 공정한 FL 기반 모델을 일관되게 능가하거나 동등하게 유지한다.
• https://github.com/huawei-noah/Federated-Learning/tree/main/FairFL 에서 코드를 오픈소스로 배포하여 재현 가능성과 향후 공정한 FL 연구를 지원한다.