[논문 리뷰] Fairness in Federated Learning via Core-Stability

Bhaskar Ray Chaudhury, Linyi Li외 3명|arXiv (Cornell University)|2022. 11. 03.

Privacy-Preserving Technologies in Data인용 수 11

한 줄 요약

이 논문은 협력 게임 이론을 활용해 연합 학습에서 핵심 안정성 공정성(core-stable fairness)을 도입하여, 어떤 에이전트 연합도 글로벌 모델에서 이탈하여 이득을 볼 수 없도록 보장한다. 제안된 프로토콜인 CoreFed는 핵심 안정성 예측기를 달성하여 저품질 데이터에 강건하며, 비례성과 파레토 최적성을 만족하고, CIFAR-10 및 Adult와 같은 실세계 데이터셋에서 FedAvg에 비해 공정성 면에서 뛰어나면서도 유사한 정확도를 유지한다.

ABSTRACT

Federated learning provides an effective paradigm to jointly optimize a model benefited from rich distributed data while protecting data privacy. Nonetheless, the heterogeneity nature of distributed data makes it challenging to define and ensure fairness among local agents. For instance, it is intuitively "unfair" for agents with data of high quality to sacrifice their performance due to other agents with low quality data. Currently popular egalitarian and weighted equity-based fairness measures suffer from the aforementioned pitfall. In this work, we aim to formally represent this problem and address these fairness issues using concepts from co-operative game theory and social choice theory. We model the task of learning a shared predictor in the federated setting as a fair public decision making problem, and then define the notion of core-stable fairness: Given $N$ agents, there is no subset of agents $S$ that can benefit significantly by forming a coalition among themselves based on their utilities $U_N$ and $U_S$ (i.e., $\frac{|S|}{N} U_S \geq U_N$). Core-stable predictors are robust to low quality local data from some agents, and additionally they satisfy Proportionality and Pareto-optimality, two well sought-after fairness and efficiency notions within social choice. We then propose an efficient federated learning protocol CoreFed to optimize a core stable predictor. CoreFed determines a core-stable predictor when the loss functions of the agents are convex. CoreFed also determines approximate core-stable predictors when the loss functions are not convex, like smooth neural networks. We further show the existence of core-stable predictors in more general settings using Kakutani's fixed point theorem. Finally, we empirically validate our analysis on two real-world datasets, and we show that CoreFed achieves higher core-stability fairness than FedAvg while having similar accuracy.

연구 동기 및 목표

• 로컬 데이터 분포가 비균일(IID 아님)하고 일부 에이전트가 저품질 데이터를 가질 때 연합 학습의 공정성 문제를 해결하기 위해.
• 글로벌 모델의 손해를 입히는 방식으로 자신의 이득을 높이기 위해 연합을 형성하는 것을 방지하는 공정성 개념을 정식화하기 위해.
• 핵심 안정성 공정성, 비례성, 파레토 최적성을 보장하는 연합 학습 프로토콜을 설계하기 위해.
• CoreFed가 FedAvg에 비해 더 높은 공정성을 달성하면서도 모델 정확도를 유지하는지를 경험적으로 검증하기 위해.

제안 방법

• 에이전트들이 공유하는 글로벌 모델에서 유익을 얻는다는 점을 전제로, 연합 학습을 공공 의사결정 문제로 모델링한다.
• 블로킹 연합(blocking coalitions)의 부재를 통해 핵심 안정성 공정성을 정의: 전체 에이전트 수 N에 대해 부분집합 S가 글로벌 모델 대비 |S|/N 비례 유익 증가를 달성할 수 없음.
• 핵심 안정성 예측기를 최적화하기 위해 볼록 손실 함수를 사용하고, 신경망과 같은 비볼록 케이스에 대해서는 근사해를 적용하는 CoreFed라는 연합 훈련 프로토콜을 제안.
• 일반적인 설정에서 핵심 안정성 예측기의 존재를 보장하기 위해 카쿠타니의 고정점 정리를 사용.
• 손실을 유익으로 변환하기 위해 U = M - ℓ를 사용하며, M은 데이터셋에 따라 정해지는 상수로 유익 척도를 정규화.
• CoreFed에서 블로킹 연합 형성 가능성을 최소화하는 방향으로 유도하는 기반 기반 평균화 규칙을 적용.

실험 결과

연구 질문

• RQ1 연합 학습에서 블로킹 연합을 형성하는 것을 방지할 수 있는 공정성 개념을 정의할 수 있는가?
• RQ2 이질적이고 비균일한 데이터를 가진 연합 학습에서 핵심 안정성 공정성을 어떻게 정의하고 달성할 수 있는가?
• RQ3 CoreFed는 FedAvg에 비해 공정성 면에서 뛰어나면서도 유사한 모델 정확도를 유지하는가?
• RQ4 저품질 데이터 또는 노이즈가 많은 데이터 분포 하에서 핵심 안정성 공정성은 어떻게 성능을 보이는가?
• RQ5 딥 신경망과 같은 비볼록 설정에서도 핵심 안정성 공정성을 보장할 수 있는가?

주요 결과

• CoreFed는 ∑ᵢ uᵢ(θ′)/uᵢ(θ*) < n 를 만족함으로써 핵심 안정성 공정성을 확보하였으며, 여기서 θ′는 FedAvg, θ*는 CoreFed임을 의미하며, 이는 어떤 연합도 이탈하여 이득을 볼 수 없음을 시사함.
• Adult 데이터셋에서, CoreFed는 평균 유익을 FedAvg의 1.61에서 1.68으로 향상시키고, 곱셈 유익을 2.91에서 3.61로 증가시킴.
• VGG-11를 사용한 CIFAR-10에서, CoreFed는 곱셈 유익을 FedAvg의 2.89에서 17.15로 증가시켜 유익 분포의 공정성 향상을 뚜렷이 보여줌.
• 노이즈가 추가된 데이터 설정(Gaussian 노이즈)에서, CoreFed는 모든 에이전트의 유익을 유지하며, 특히 가장 노이즈가 많은 에이전트의 경우 FedAvg 대비 1.95 vs 1.42로 더 높은 성능 기록.
• CIFAR-10에서 10개의 에이전트를 사용할 경우, CoreFed는 곱셈 유익을 FedAvg의 7,084에서 9,173으로 증가시켜 스케일링 시 공정성 향상 확인.
• CoreFed는 FedAvg와 유사한 정확도를 유지하면서도 공정성 면에서 뚜렷한 향상을 보이며, 공정성과 성능가 서로 배타적이지 않음을 입증함.