[논문 리뷰] Collaborative Fairness in Federated Learning

Lingjuan Lyu, Xinyi Xu외 1명|arXiv (Cornell University)|2020. 08. 27.

Privacy-Preserving Technologies in Data참고 문헌 13인용 수 10

한 줄 요약

이 논문은 기여도에 따라 다른 모델 업데이트를 참가자들에게 할당하는 동적 명성 메커니즘을 사용하는 혁신적인 프레임워크인 협업형 공정한 분산 학습(CFFL)을 제안한다. 이는 정확도를 희생시키지 않은 채 공정성을 보장한다. CFFL은 독립형 및 표준 분산 학습보다 더 높은 공정성을 달성하면서도 중앙집중식 학습과 비교할 만한 정확도를 유지한다.

ABSTRACT

In current deep learning paradigms, local training or the Standalone framework tends to result in overfitting and thus poor generalizability. This problem can be addressed by Distributed or Federated Learning (FL) that leverages a parameter server to aggregate model updates from individual participants. However, most existing Distributed or FL frameworks have overlooked an important aspect of participation: collaborative fairness. In particular, all participants can receive the same or similar models, regardless of their contributions. To address this issue, we investigate the collaborative fairness in FL, and propose a novel Collaborative Fair Federated Learning (CFFL) framework which utilizes reputation to enforce participants to converge to different models, thus achieving fairness without compromising the predictive performance. Extensive experiments on benchmark datasets demonstrate that CFFL achieves high fairness, delivers comparable accuracy to the Distributed framework, and outperforms the Standalone framework.

연구 동기 및 목표

• 모든 참가자가 동일한 모델을 받는 분산 학습에서의 협업 공정성 부족 문제를 해결하기 위해.
• 모델 성능에 기여한 실제 기여도에 따라 참가자를 보상하는 프레임워크를 설계하기 위해.
• 명성 기반의 모델 할당을 통해 공정성을 강화하면서도 높은 예측 정확도를 유지하기 위해.
• 금융 및 헬스케어와 같이 공정성과 신뢰가 핵심적인 실세계 환경에서의 실용적 구현을 가능하게 하기 위해.
• 낮은 기여도를 보이는 참가자를 자동으로 탐지하고 격리시켜 무료 이용을 제거하기 위해.

제안 방법

• 참가자 각자의 기여도를 현장 검증 세트에서의 실증적 모델 성능을 기반으로 평가하고 반복적으로 업데이트하는 명성 메커니즘이 도입된다.
• 서버는 참가자의 현재 명성 점수에 따라 스케일링된 개인 맞춤형 모델 업데이트를 제공한다.
• 명성 기준값 $ c_{th} $ 는 기여도가 낮아 성능이 떨어지는 무료 이용자들을 탐지하고 격리하는 데 사용된다.
• 각 참가자의 모델 업데이트가 기여하는 마진널 기여도를 반영하는 유틸리티 기반 보상 함수를 사용한다.
• 수렴 안정성과 공정성을 향상시키기 위해 사전학습(pretraining)이 적용되며, 특히 데이터가 불균형한 상황에서 유용하다.
• 실시간 기여도를 반영하여 통신 라운드 동안 모델 할당을 동적으로 조정한다.

실험 결과

연구 질문

• RQ1 분산 학습을 어떻게 수정하여 참가자들이 자신의 기여도에 비례한 모델을 받을 수 있도록 할 수 있는가?
• RQ2 외부 인centives 없이도 명성 메커니즘이 기여도가 높은 참가자와 낮은 기여도의 참가자를 효과적으로 구분할 수 있는가?
• RQ3 명성 기반의 모델 할당 방식이 표준 분산 학습과 비교해도 높은 예측 정확도를 유지하는가?
• RQ4 임의의 또는 노이즈가 많은 업데이트를 업로드하는 무료 이용자는 시스템에서 어떻게 처리되는가?
• RQ5 명성 기준값 선택이 공정성과 수렴에 어떤 영향을 미치는가?

주요 결과

• CFFL은 독립형 및 표준 분산 학습보다 유의미하게 높은 공정성을 달성하며, 기여도에 따라 참가자들이 서로 다른 모델로 수렴한다.
• CFFL에서 가장 기여도가 높은 참가자는 중앙집중식(Distributed) 프레임워크와 비교해 비슷한 정확도를 달성하며, 독립형 기준보다 뛰어난 성능을 보인다.
• 모든 벤치마크 데이터셋과 데이터 불균형 상황에서 CFFL은 독립형 모델보다 일관되게 높은 개별 모델 정확도를 제공한다.
• 임의의 기울기 업데이트를 업로드하는 무료 이용자들은 학습 초반에 자동으로 탐지되고 격리되며, 전체 수렴 또는 정확도에 부정적인 영향을 미치지 않는다.
• 사전학습은 특히 참가자가 많거나 데이터 분포가 불균형한 시스템에서 공정성과 수렴 안정성을 향상시킨다.
• 명성 메커니즘은 기여도를 효과적으로 구분하며, 성능이 낮은 참가자들은 낮은 품질의 모델을 받게 되어 공정성을 강화한다.