[논문 리뷰] Robust Federated Learning against both Data Heterogeneity and Poisoning Attack via Aggregation Optimization

Yueqi Xie, Weizhong Zhang외 5명|arXiv (Cornell University)|2022. 11. 10.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

SmartFL은 소량의 프록시 데이터를 사용하여 하위공간 학습을 통해 글로벌 모델 앙상블을 최적화함으로써 강력한 플러그 앤 플레이(federated learning)를 위한 통합 프레임워크를 제안한다. 클라이언트 모델의 단체 내에서 가중치를 조정함으로써, 데이터 이질성과 오염 공격에 대해 최신 기술 수준의 강건성을 달성하며, 프록시 데이터가 적고 계산 비용도 낮다.

ABSTRACT

Non-IID data distribution across clients and poisoning attacks are two main challenges in real-world federated learning (FL) systems. While both of them have attracted great research interest with specific strategies developed, no known solution manages to address them in a unified framework. To universally overcome both challenges, we propose SmartFL, a generic approach that optimizes the server-side aggregation process with a small amount of proxy data collected by the service provider itself via a subspace training technique. Specifically, the aggregation weight of each participating client at each round is optimized using the server-collected proxy data, which is essentially the optimization of the global model in the convex hull spanned by client models. Since at each round, the number of tunable parameters optimized on the server side equals the number of participating clients (thus independent of the model size), we are able to train a global model with massive parameters using only a small amount of proxy data (e.g., around one hundred samples). With optimized aggregation, SmartFL ensures robustness against both heterogeneous and malicious clients, which is desirable in real-world FL where either or both problems may occur. We provide theoretical analyses of the convergence and generalization capacity for SmartFL. Empirically, SmartFL achieves state-of-the-art performance on both FL with non-IID data distribution and FL with malicious clients. The source code will be released.

연구 동기 및 목표

• 실세계 페더레이티드 러닝 시스템에서 데이터 이질성과 오염 공격이라는 이중적 과제를 해결한다.
• 히우리스틱이나 작업 특화 설계에 의존하지 않고, 동시에 두 문제를 완화할 수 있는 통합 프레임워크를 개발한다.
• 클라이언트 모델이 생성하는 저차원 하위공간에서의 최적화를 통해 대규모 프록시 데이터 세트에 대한 의존도를 줄인다.
• 악성 클라이언트와 비I.I.D. 데이터 분포가 존재하는 환경에서도 안정적인 수렴과 일반화를 보장한다.
• 클라이언트 모델 가중치에 한정된 최적화를 통해 최소한의 계산 오버헤드로 효율적이고 확장 가능한 앙상블을 구현한다.

제안 방법

• 서버가 수집한 프록시 데이터를 활용하여 클라이언트 모델의 최적의 볼록 조합을 찾아 글로벌 모델 앙상블을 최적화한다.
• 클라이언트 모델 파라미터의 볼록 hull 내에서 글로벌 모델을 훈련함으로써, 모델 크기와 무관하게 조정 가능한 파라미터 수를 클라이언트 수로 제한한다.
• 클라이언트 모델의 스트레칭에 제약을 두면서 프록시 데이터에 맞게 글로벌 모델을 훈련시키는 하위공간 학습 기법을 사용한다.
• 각 커뮤니케이션 라운드에서 프록시 데이터를 활용해 클라이언트 기여도를 동적으로 재가중함으로써, 이질성과 이상치에 대한 강건성을 향상시킨다.
• 모드 연결성의 통찰을 활용하여 하위공간이 고품질의 글로벌 모델를 포함하고 있음을 정당화한다.
• 앙상블 로짓과 지식 증착을 통합하여 이질적인 모델 아키텍처로의 적용 가능성을 넓힌다.

실험 결과

연구 질문

• RQ1 단일 앙상블 전략이 페더레이티드 러닝에서 데이터 이질성과 오염 공격을 동시에 강건하게 다룰 수 있는가?
• RQ2 클라이언트 모델의 저차원 하위공간에서 최적화함으로써 소량의 프록시 데이터로도 강건성을 확보할 수 있는가?
• RQ3 하위공간 기반 앙상블이 전체 공간의 피니터닝보다 일반화 및 수렴 안정성 측면에서 뛰어나게 성능을 내는가?
• RQ4 극도로 비I.I.D. 데이터 분포와 높은 공격 비율 하에서 이 방법의 성능은 어떠한가?
• RQ5 클라이언트 모델의 아키텍처가 서로 다를 경우에도 이 방법은 안정성과 효과성을 유지할 수 있는가?

주요 결과

• SmartFL은 비I.I.D. 데이터 및 오염 공격 벤치마크에서 FedAVG, Sageflow, FLTrust, FedDF를 모두 능가하는 최신 기술 수준의 성능을 달성한다.
• 약 100개의 프록시 샘플만으로도 SmartFL은 과적합을 피하고 높은 일반화 성능를 유지한다. 이는 전체 공간의 피니터닝 방법과는 대조된다.
• 높은 공격 비율(최대 70%)과 극도로 이질적인 데이터 분포(α=0.01) 조건에서도 안정적인 수렴과 강건성을 보여준다.
• MNIST 및 CIFAR-10 실험에서 SmartFL은 오마니악 및 레이블 플립 공격을 포함한 모든 유형의 공격에서 기준 모델들을 일관되게 능가한다.
• ResNet-8, MobileNet, ShuffleNet 등의 이질적 아키텍처에서도 SmartFL은 FedDF보다 높은 앙상블 정확도를 달성하여 하위공간 최적화를 통한 효과적인 지식 전이를 입증한다.
• 하위공간 기반 접근은 수렴성과 일반화를 보장하며, 이론적 보장이 실험적 검증을 통해 뒷받침된다.