[논문 리뷰] FedCorr: Multi-Stage Federated Learning for Label Noise Correction

Jingyi Xu, Zihan Chen외 2명|arXiv (Cornell University)|2022. 04. 10.

Machine Learning and Data Classification인용 수 9

한 줄 요약

FedCorr는 사전 노이즈 모델 가정 없이 이질적인 플러딩 학습 환경에서 레이블 노이즈를 보존하는 다단계 프라이버시 보장 플러딩 학습 프레임워크이다. 이는 예측 부분공간의 국소 내재 차원성(LID)을 통해 노이즈가 있는 클라이언트를 식별하고, 샘플별 손실을 이용해 레이블을 보정하며, 적응형 프록시 정규화를 적용한다. 다양한 노이즈 수준과 데이터 이질성 하에서 CIFAR-10/100 및 Clothing1M에서 최신 기술 수준의 정확도를 달성한다.

ABSTRACT

Federated learning (FL) is a privacy-preserving distributed learning paradigm that enables clients to jointly train a global model. In real-world FL implementations, client data could have label noise, and different clients could have vastly different label noise levels. Although there exist methods in centralized learning for tackling label noise, such methods do not perform well on heterogeneous label noise in FL settings, due to the typically smaller sizes of client datasets and data privacy requirements in FL. In this paper, we propose $ exttt{FedCorr}$, a general multi-stage framework to tackle heterogeneous label noise in FL, without making any assumptions on the noise models of local clients, while still maintaining client data privacy. In particular, (1) $ exttt{FedCorr}$ dynamically identifies noisy clients by exploiting the dimensionalities of the model prediction subspaces independently measured on all clients, and then identifies incorrect labels on noisy clients based on per-sample losses. To deal with data heterogeneity and to increase training stability, we propose an adaptive local proximal regularization term that is based on estimated local noise levels. (2) We further finetune the global model on identified clean clients and correct the noisy labels for the remaining noisy clients after finetuning. (3) Finally, we apply the usual training on all clients to make full use of all local data. Experiments conducted on CIFAR-10/100 with federated synthetic label noise, and on a real-world noisy dataset, Clothing1M, demonstrate that $ exttt{FedCorr}$ is robust to label noise and substantially outperforms the state-of-the-art methods at multiple noise levels.

연구 동기 및 목표

• 클라이언트가 다양한 수준의 노이즈가 있는 레이블을 가지며 데이터가 제한적인 플러딩 학습 환경에서 이질적인 레이블 노이즈 문제를 해결한다.
• 데이터 프라이버시 및 국소 데이터셋 크기가 작아서 중심화된 레이블 노이즈 보정 방법을 플러딩 학습에 적용할 때 발생하는 한계를 극복한다.
• 원시 데이터나 모델 가중치를 공유하지 않고도 클라이언트가 스스로 자신의 노이즈가 있는 레이블을 식별하고 보정할 수 있는 프라이버시 보장 방법을 개발한다.
• 동적 클라이언트 필터링과 적응형 정규화를 통합하여 플러딩 학습에서 데이터 이질성과 레이블 품질의 불일치를 동시에 다룬다.
• 클라이언트 수준의 보정과 글로벌 모델 미세조정을 조합한 세 단계 프레임워크를 통해 학습 안정성과 모델 일반화 능력을 향상시킨다.

제안 방법

• 글로벌 모델에 대한 액세스나 데이터 공유 없이도 예측 부분공간의 국소 내재 차원성(LID)을 활용해 노이즈가 있는 클라이언트를 동적으로 식별한다.
• 노이즈가 있는 클라이언트로 식별된 각 클라이언트에 대해 샘플별 학습 손실을 계산하고, 고손실 샘플을 글로벌 모델의 예측을 사용해 재레이블링하여 잘못 레이블링된 데이터를 보정한다.
• 추정된 국소 노이즈 수준에 따라 가중치가 조정되는 적응형 국소 프록시 정규화 항을 도입하여 학습 안정성을 높이고 노이즈가 있는 클라이언트의 영향을 줄인다.
• 세 단계 학습 프로세스를 적용한다: (1) 노이즈 클라이언트 탐지용 분수 스케줄링을 통한 사전 처리, (2) 깨끗한 클라이언트에서의 미세조정 및 노이즈가 있는 클라이언트에서의 레이블 보정, (3) 모든 클라이언트에서 표준 플러딩 학습 수행.
• 원시 레이블이나 특징 표현을 교환하지 않고도 클라이언트 데이터 프라이버시를 유지하기 위해 스칼라 LID 점수와 모델 업데이트만 전송한다.
• 레이블 보정 이전에 FedAvg를 사용한 웜업 단계를 도입하여 글로벌 모델을 안정화하고 초기 보정 단계에서 노이즈가 포함되지 않도록 방지한다.

실험 결과

연구 질문

• RQ1 노이즈 모델에 대한 사전 가정 없이도 이질적인 노이즈 수준을 가진 클라이언트에서 플러딩 학습 프레임워크가 효과적으로 레이블 노이즈를 식별하고 보정할 수 있는가?
• RQ2 플러딩 학습 환경에서 클라이언트가 민감한 데이터나 모델 파ram을 공개하지 않으면서도 프라이버시를 보장하는 방식으로 레이블 보정을 수행할 수 있는가?
• RQ3 추정된 국소 노이즈 수준에 기반한 적응형 프록시 정규화가 이질적인 플러딩 학습 환경에서 학습 안정성과 수렴성에 얼마나 기여하는가?
• RQ4 FedCorr의 다단계 설계는 고노이즈 및 데이터 불균형에 대해 종단간 플러딩 학습 방법과 비교해 어떤가?
• RQ5 FedCorr는 실생활 노이즈 데이터셋인 Clothing1M에서와 같이 IID 및 비-IID 데이터 분포 모두에서 높은 성능을 유지할 수 있는가?

주요 결과

• FedCorr는 합성 레이블 노이즈가 있는 CIFAR-10 및 CIFAR-100에서 모든 기준 방법, 특히 고노이즈 수준(예: ρ=0.8)에서 DivideMix 및 JointOpt와 같은 중심화된 방법보다 최신 기술 수준의 테스트 정확도를 달성한다.
• ρ=0.8 및 τ=0.5 조건에서 CIFAR-10에서 FedCorr는 87.86% ± 0.53의 정확도를 기록했으며, 이는 DivideMix의 중심화된 성능(91.34% ± 0.39)과 4% 이내에 머물러 있어 강력한 내성적 특성을 보여준다.
• CIFAR-10의 비-IID 설정에서 FedCorr는 모든 (p, α_Dir) 구성에서 모든 기준 방법보다 최소 7% 이상 높은 성능을 보이며 데이터 이질성 하에서도 강력한 일반화 능력을 입증한다.
• 실생활 노이즈 데이터셋인 Clothing1M에서 FedCorr는 플러딩 학습 환경에서 가장 높은 테스트 정확도를 기록했으며, JointOpt의 보고된 중심화된 정확도를 초월했다.
• 절단 실험 결과, 분수 스케줄링이 성능에 가장 큰 긍정적 영향을 미치며, 보정 유도 노이즈로 인해 최적의 정확도는 0 노이즈가 아니라 중간 수준의 노이즈(예: ρ=0.4)에서 달성됨을 확인했다.
• FedCorr를 다른 플러딩 학습 방법(FedAvg, FedProx 등)과 조합할 경우, CIFAR-10/100에서 다양한 노이즈 비율에서 일관되고 뚜렷한 정확도 향상이 이루어졌다.