[논문 리뷰] FedVal: Different good or different bad in federated learning

Viktor Valadi, Xinchi Qiu외 3명|arXiv (Cornell University)|2023. 06. 06.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

FedVal은 추가적인 클라이언트 데이터가 필요 없이 오염 공격에 대한 강건성과 다양한 인구 집단 간의 공정성을 향상시키는 새로운 피어드 학습 집합 방법이다. 서버 측 검증 세트를 사용하여 성능을 다중 차원에서 동적으로 클라이언트 업데이트의 가중치를 조정함으로써, 80%의 악성 클라이언트 상황에서도 최신 기술 수준의 성능을 달성하였으며, 소수 집단의 리콜을 19%에서 50%로 향상시켰다.

ABSTRACT

Federated learning (FL) systems are susceptible to attacks from malicious actors who might attempt to corrupt the training model through various poisoning attacks. FL also poses new challenges in addressing group bias, such as ensuring fair performance for different demographic groups. Traditional methods used to address such biases require centralized access to the data, which FL systems do not have. In this paper, we present a novel approach FedVal for both robustness and fairness that does not require any additional information from clients that could raise privacy concerns and consequently compromise the integrity of the FL system. To this end, we propose an innovative score function based on a server-side validation method that assesses client updates and determines the optimal aggregation balance between locally-trained models. Our research shows that this approach not only provides solid protection against poisoning attacks but can also be used to reduce group bias and subsequently promote fairness while maintaining the system's capability for differential privacy. Extensive experiments on the CIFAR-10, FEMNIST, and PUMS ACSIncome datasets in different configurations demonstrate the effectiveness of our method, resulting in state-of-the-art performances. We have proven robustness in situations where 80% of participating clients are malicious. Additionally, we have shown a significant increase in accuracy for underrepresented labels from 32% to 53%, and increase in recall rate for underrepresented features from 19% to 50%.

연구 동기 및 목표

• 모델 및 데이터 오염 공격에 대한 강건성과 피어드 학습에서의 공정성을 동시에 해결하면서도 기밀성을 유지하는 것.
• 중앙 집중식 데이터 접근이 필요하거나 클라이언트 수준의 악성 행동 비율이 높을 경우 실패하는 기존 방법의 한계를 극복하는 것.
• 노름 클리핑과 노이즈 주입과 같은 차별적 프라이버시 기법과 호환되는 기밀성 보장 집합 메커니즘을 설계하는 것.
• 비독립 동일 분포(NIID) 및 편향된 데이터 분포 상황에서 소수 집단의 모델 성능을 향상시키는 것, 특히 공정성에 민감한 응용 분야에서의 성능 향상.
• 클라이언트 기여도를 동적으로 평가하기 위해 최소한의 서버 측 검증 데이터를 활용하는 확장성 있고 적응적인 집합 전략을 개발하는 것.

제안 방법

• 서버 측 검증 기반의 점수 함수를 도입하여 정확도 및 리콜과 같은 다중 성능 차원에서 클라이언트 업데이트의 성능을 평가한다.
• 각 클라이언트의 검증 세트 성능을 전체 클라이언트 평균 성능와 비교하여 클라이언트별 가중치를 계산한다.
• 다양한 성능 차원에서 균형 잡힌 성능을 보이는 클라이언트를 우선시하는 동적 집합 규칙을 사용하여 악성 또는 편향된 클라이언트의 영향을 줄인다.
• 가중치 평균으로서의 집합을 수식화하며, 이 가중치는 정규화된 성능 점수에서 유도되며, 이로써 이방성 및 오염된 업데이트의 영향을 최소화한다.
• 성능 점수 함수를 소수 집단에 대한 리콜과 같은 공정성 지표를 포함하도록 확장하여 집합 과정에서 편향 완화를 가능하게 한다.
• 모델 업데이트 집합 전에 노름 클리핑과 노이즈 주입을 적용하여 차별적 프라이버시와의 호환성을 확보한다.

Figure 1 : Illustration of FL in centralized setting: model parameters are sent back and forth between a server and clients.

실험 결과

연구 질문

• RQ1 원시 클라이언트 데이터에 접근하지 않고도 서버 측 검증 메커니즘이 대규모 오염 공격에 대한 강건성을 향상시킬 수 있는가?
• RQ2 동적 집합 전략은 비독립 동일 분포 피어드 학습 환경에서 집단 편향을 얼마나 줄이고 소수 집단의 공정성을 향상시킬 수 있는가?
• RQ3 80%의 클라이언트가 악성일 경우와 같은 극단적인 클라이언트 해킹 상황에서 FedVal의 성능은 어떠한가?
• RQ4 노이즈 주입과 노름 클리핑과 같은 차별적 프라이버시 기법과 결합했을 때 제안된 방법은 높은 성능을 유지할 수 있는가?
• RQ5 다양한 데이터셋에서 정확도, 강건성, 공정성 측면에서 FedVal은 FedAvg, FedProx, LFR, 다중-Krum 등의 최신 기술 수준 집합 방법과 비교해 어떻게 성능을 냈는가?

주요 결과

• FedVal은 80%의 클라이언트가 악성일 경우에도 수렴을 달성하였으며, 40% 이상의 악성 클라이언트에서 실패하는 다중-Krum 및 LFR보다 뚜렷이 뛰어난 성능을 보였다.
• 20%의 악성 클라이언트가 포함된 뒷통로 오염 공격 상황에서 FedVal은 안정적인 성능을 유지하였고, 다중-Krum의 성능는 FedAvg 이하로 떨어졌다.
• CIFAR-10 데이터셋에서 FedVal은 데이터 분포 편향으로 인한 성능 저하를 효과적으로 완화하였으며, 비독립 동일 분포 환경에서 다른 방법보다 뛰어난 성능을 보였다.
• PUMS ACSIncome 데이터셋에서 FedVal은 소수 집단의 리콜을 FedAvg의 19%에서 50%로 높였으며, 강력한 공정성 향상을 입증하였다.
• FEMNIST 데이터셋에서 FedVal은 소수 클래스의 정확도를 32%에서 53%로 향상시켜 소수 클래스에 대한 일반화 능력 향상을 보였다.
• FedVal은 차별적 프라이버시와 호환성을 유지하면서도 강건성과 공정성을 동시에 향상시켰다.

Figure 2 : Toy example of a federated learning situation with four clients being aggregated, two majority clients with skewed data, one client with information that is missing in the majority of clients, and one malicious client.