[논문 리뷰] Federated Noisy Client Learning

Tam, Kahou, Li Li외 3명|arXiv (Cornell University)|2021. 06. 24.

Privacy-Preserving Technologies in Data참고 문헌 39인용 수 8

한 줄 요약

이 논문은 데이터 품질과 모델 발산 추정을 통해 노이지 클라이언트를 식별하고, 페널티를 부과하며 레이어별 집합을 적용함으로써 그 부정적 영향을 완화하는 강건한 피어드 학습 프레임워크인 Fed-NCL을 제안한다. 실험 결과, 노이지 클라이언트 조건 하에서 글로벌 모델 정확도가 최대 26.58% 향상됨을 확인하였으며, 비독립 동일 분포(IID) 및 고노이즈 설정에서 특히 두드러진 성능 향상을 보였다.

ABSTRACT

Federated learning (FL) collaboratively trains a shared global model depending on multiple local clients, while keeping the training data decentralized in order to preserve data privacy. However, standard FL methods ignore the noisy client issue, which may harm the overall performance of the shared model. We first investigate critical issue caused by noisy clients in FL and quantify the negative impact of the noisy clients in terms of the representations learned by different layers. We have the following two key observations: (1) the noisy clients can severely impact the convergence and performance of the global model in FL, and (2) the noisy clients can induce greater bias in the deeper layers than the former layers of the global model. Based on the above observations, we propose Fed-NCL, a framework that conducts robust federated learning with noisy clients. Specifically, Fed-NCL first identifies the noisy clients through well estimating the data quality and model divergence. Then robust layer-wise aggregation is proposed to adaptively aggregate the local models of each client to deal with the data heterogeneity caused by the noisy clients. We further perform the label correction on the noisy clients to improve the generalization of the global model. Experimental results on various datasets demonstrate that our algorithm boosts the performances of different state-of-the-art systems with noisy clients. Our code is available on https://github.com/TKH666/Fed-NCL

연구 동기 및 목표

• 노이지 클라이언트가 피어드 학습 수렴과 모델 레이어의 표현 학습에 미치는 부정적 영향을 조사한다.
• 기존 집합 방법이 실패하는 바탕이 되는 노이지 클라이언트로 악화되는 데이터 이질성 문제를 해결한다.
• 로컬 데이터에 접근할 필요 없이 노이지 클라이언트를 탐지하고 영향을 완화하는 프레임워크를 개발한다.
• 노이지 클라이언트에서의 적응형 집합과 레이블 보정을 통해 글로벌 모델 일반화를 향상시킨다.
• 독립 동일 분포(IID) 및 비독립 동일 분포(Non-IID) 데이터 분할 조건 하에서 다양한 데이터셋과 노이즈 분포에서 Fed-NCL의 효과성을 검증한다.

제안 방법

• Fed-NCL는 로컬 학습 동역학에서 유도된 신뢰도 점수를 사용하여 데이터 품질과 모델 발산을 추정함으로써 노이지 클라이언트를 탐지한다.
• 글로벌 모델 업데이트 중 노이지 클라이언트의 로컬 모델에 대한 페널티를 적용하는 강건한 레이어별 집합 전략을 적용한다.
• 식별된 노이지 클라이언트에서 레이블 보정 메커니즘을 통합하여 일반화를 향상시킨다.
• 신뢰도 점수는 모델 수렴 안정성과 학습 라운드 간 경사 일관성이라는 두 가지 기준을 사용하여 계산된다.
• 특히 깊은 네트워크 레이어에서 노이지 클라이언트의 모델 영향을 감소시키기 위해 집합 과정에 페널티 항을 사용한다.
• 자원 제약이 있는 클라이언트와도 호환되며, 무거운 보조 네트워크나 재학습을 피한다.

실험 결과

연구 질문

• RQ1 노이지 클라이언트의 존재가 피어드 학습 모델의 수렴과 성능에 어떤 영향을 미치는가?
• RQ2 왜 글로벌 모델의 깊은 레이어가 浅은 레이어보다 노이지 클라이언트에 더 편향되는가?
• RQ3 로컬 데이터에 접근하지 않고도 모델 및 학습 통계만을 사용해 신뢰할 수 있는 클라이언트 탐지를 달성할 수 있는가?
• RQ4 클라이언트별 페널티를 부과한 레이어별 집합은 노이지 클라이언트의 영향을 얼마나 효과적으로 완화하는가?
• RQ5 식별된 노이지 클라이언트에서의 레이블 보정은 글로벌 모델 일반화를 어느 정도 향상시키는가?

주요 결과

• 노이지 클라이언트가 존재하는 비독립 동일 분포(Non-IID) 설정에서 Fed-NCL은 표준 FedAvg 대비 글로벌 모델 정확도를 최대 26.58% 향상시킨다.
• 제거 실험 결과, 노이지 클라이언트에 대한 페널티를 제거하면 성능이 최대 26.58% 감소함을 확인하였으며, 이는 강건한 집합에서 페널티의 핵심적 역할을 증명한다.
• 레이어 보정은 고노이즈 상황(30%의 클라이언트가 노이지 레이블을 가짐)에서 최대 13%의 성능 향상을 기여한다.
• 신뢰도 점수 기준 중 하나(식별식 7 또는 8)를 제거하면 평균 6%의 글로벌 모델 성능 저하가 발생함을 확인하였으며, 이는 두 기준 모두 탐지 정확도에 기여한다는 것을 보여준다.
• S1 노이즈(p=0.7)가 적용된 CIFAR-10에서, 비독립 동일 분포 파artition 조건 하에서 Fed-NCL은 77.19%의 정확도를 기록하였으며, FedAvg(53.50%)와 Trimm(60.87%)를 뛰어넘었다.
• 비독립 동일 분포 MNIST 및 F-MNIST에서, S1 노이즈 조건 하에서 Fed-NCL은 각각 98.79% 및 88.19%의 정확도를 기록하였으며, FedAvg(94.28% 및 75.48%)를 크게 능가했다.