[논문 리뷰] A Reputation Mechanism Is All You Need: Collaborative Fairness and Adversarial Robustness in Federated Learning

Xinyi Xu, Lingjuan Lyu|arXiv (Cornell University)|2020. 11. 20.

Privacy-Preserving Technologies in Data참고 문헌 44인용 수 39

한 줄 요약

본 논문은 기여도에 따라 참가자에게 보상을 제공하고 적대자를 거부하는 평판 기반 프레임워크인 Robust and Fair Federated Learning (RFFL)을 제시하며, 추가 검증 데이터 없이도 공동의 공정성과 강건성을 달성합니다.

ABSTRACT

Federated learning (FL) is an emerging practical framework for effective and scalable machine learning among multiple participants, such as end users, organizations and companies. However, most existing FL or distributed learning frameworks have not well addressed two important issues together: collaborative fairness and adversarial robustness (e.g. free-riders and malicious participants). In conventional FL, all participants receive the global model (equal rewards), which might be unfair to the high-contributing participants. Furthermore, due to the lack of a safeguard mechanism, free-riders or malicious adversaries could game the system to access the global model for free or to sabotage it. In this paper, we propose a novel Robust and Fair Federated Learning (RFFL) framework to achieve collaborative fairness and adversarial robustness simultaneously via a reputation mechanism. RFFL maintains a reputation for each participant by examining their contributions via their uploaded gradients (using vector similarity) and thus identifies non-contributing or malicious participants to be removed. Our approach differentiates itself by not requiring any auxiliary/validation dataset. Extensive experiments on benchmark datasets show that RFFL can achieve high fairness and is very robust to different types of adversaries while achieving competitive predictive accuracy.

연구 동기 및 목표

• 연합학습에서 참가자 간 기여도가 다를 때 공동의 공정성 필요성에 대한 동기를 부여한다.
• 저평가된 참가자를 제거하고 기여를 정량화하며 보상을 제공하는 평판 기반 메커니즘을 제안한다.
• 보조 데이터 세트 없이 자유라이더와 악의적 참가자를 다루기 위한 적대적 강건성을 다룬다.
• RFFL이 벤치마크 데이터세트에서 경쟁력 있는 예측 정확도와 함께 높은 공정성과 강건성을 달성함을 입증한다.

제안 방법

• 독립 로컬 테스트 정확도로 v의 기여를 정의한다.
• 최종 테스트 정확도로 보상 φ를 정의하고 Pearson 상관계수 ρp(v, φ)로 공정성을 측정한다.
• 각 참가자에 대해 평판 r_i(t)를 도입하고 업로드된 그래디언트와 집계된 그래디언트 간의 코사인 유사도로 업데이트한다.
• 신뢰할 수 있는 참가자들 간의 평판 가중 그래디언트 집계를 수행하고 폭주를 방지하기 위해 그래디언트를 정규화한다(γ).
• quota_i에 비례하는 r_i(t)로 그래디언트 다운로드를 제어하여 선택적 정보 교환을 구현한다.
• 강건성과 공정성을 보장하기 위해 임계값 β보다 낮은 평판을 가진 참가자를 반복적으로 제거한다.

실험 결과

연구 질문

• RQ1 평판 메커니즘이 연합학습에서 보상을 실제 기여와 일치시켜 공동의 공정성을 달성할 수 있는가?
• RQ2 평판 가중 집계가 추가 검증 데이터 없이도 표적/비표적 포이즈닝 및 자유라이더에 대한 강건성을 개선하는가?
• RQ3 이질적 데이터 설정에서 기여도 역학 및 임계값의 영향이 예측 정확도와 공정성에 어떤 영향을 미치는가?
• RQ4 다양한 공격 시나리오에서 RFFL이 기존의 공정성과 강건성 기준선과 어떻게 비교되는가?

주요 결과

• RFFL은 여러 데이터셋과 분할에서 독립 수행과의 Pearson 상관계수로 측정한 더 높은 공정성을 달성한다.
• 평판 가중 집계는 특히 이질적 데이터 분할(예: POW 및 CLA)에서 예측 성능을 향상시킨다.
• RFFL은 비표적 포이즈닝 및 자유라이더에 대해 강건하며 표적 포이즈닝의 영향을 줄일 수 있지만, 일부 구성에서 표적 공격자를 완전히 제거하는 것은 어려울 수 있다.
• 적대자와 자유라이더의 평판이 β 아래로 떨어져 이후 라운드에서 제거되는 경우가 많아 장기적인 강건성이 향상된다.
• CFFL은 일부 설정에서 RFFL보다 더 나은 공정성을 보일 수 있지만 보조 검증 데이터가 필요하다; RFFL은 추가 데이터 없이도 경쟁력 있는 공정성을 달성한다.