[논문 리뷰] FedIL: Federated Incremental Learning from Decentralized Unlabeled Data with Convergence Analysis

Nan Yang, Dong Yuan외 3명|arXiv (Cornell University)|2023. 02. 23.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

FedIL은 탈중앙화된 비라벨 데이터를 가진 클라이언트와 소규모 라벨 데이터를 가진 서버 데이터를 활용하여 비지도 학습을 위한 새로운 분산형 점진적 학습 프레임워크를 제안한다. 이는 클라이언트에서 신뢰할 수 있는 가짜 라벨을 구축하기 위해 점진적 신뢰도 학습을 적용하고, 서버 모델에 가까운 클라이언트 가중치를 선택하기 위해 정규화된 코사인 유사도를 사용하여 수렴 속도를 가속화한다. 이로 인해 CIFAR-10에서 61.31%의 정확도를 달성하였으며, 바나흐 고정점 정리에 기반한 이론적 수렴 보장이 존재한다.

ABSTRACT

Most existing federated learning methods assume that clients have fully labeled data to train on, while in reality, it is hard for the clients to get task-specific labels due to users' privacy concerns, high labeling costs, or lack of expertise. This work considers the server with a small labeled dataset and intends to use unlabeled data in multiple clients for semi-supervised learning. We propose a new framework with a generalized model, Federated Incremental Learning (FedIL), to address the problem of how to utilize labeled data in the server and unlabeled data in clients separately in the scenario of Federated Learning (FL). FedIL uses the Iterative Similarity Fusion to enforce the server-client consistency on the predictions of unlabeled data and uses incremental confidence to establish a credible pseudo-label set in each client. We show that FedIL will accelerate model convergence by Cosine Similarity with normalization, proved by Banach Fixed Point Theorem. The code is available at https://anonymous.4open.science/r/fedil.

연구 동기 및 목표

• 개인정보 보호 및 라벨링 비용 제약으로 인해 클라이언트는 비라벨 데이터만 보유하고 서버는 제한된 라벨 데이터를 가진 분산형 비지도 학습의 과제를 해결한다.
• 서버 라벨 데이터에 과도하게 의존함으로써 발생하는 모델 과적합과 클라이언트에서 잘못된 가짜 라벨로 인한 오학습을 방지한다.
• 점진적 신뢰도 학습을 통해 높은 신뢰도의 가짜 라벨를 선택하여 클라이언트에서 신뢰할 수 있는 비지도 학습 프로세스를 확립한다.
• 정규화된 코사인 유사도를 사용하여 서버-클라이언트 일致성을 확보하고 수렴 속도를 가속화하기 위해 서버 모델과 유사한 클라이언트 가중치를 선별한다.
• 가중치 차이를 기준으로 한 수렴 기준을 사용하여 분산형 비지도 학습에 대한 이론적 수렴 분석을 제공한다. 이는 바나흐 고정점 정리에서 유도된다.

제안 방법

• 클라이언트 예측에서 높은 신뢰도의 가짜 라벨를 동적으로 선택하여 신뢰할 수 있는 가짜 라벨 세트를 구성하기 위해 점진적 신뢰도 학습을 도입한다.
• 학습 중 특징 표현과 가짜 라벨 품질을 향상시키기 위해 쌍방향 네트워크를 사용한 대비 학습을 적용한다.
• 클라이언트 학습 중에 KL 발산 손실을 통해 서버-클라이언트 일치성을 강제하여 클라이언트 예측을 서버 모델 출력과 일치시킨다.
• 서버 모델과 가장 유사한 클라이언트 모델 가중치를 선택하기 위해 정규화된 코사인 유사도를 적용하여 효율적인 글로벌 집계를 가능하게 한다.
• 가중치 차이를 수렴 기준으로 사용하는 글로벌 점진적 학습 프레임워크를 제안하며, 가짜 라벨 기반 학습에서 신뢰할 수 없는 손실 기반 지표를 대체한다.
• 이론적 수렴은 바나흐 고정점 정리에 기반하여 증명되며, 서버와 클라이언트 간의 가중치 증분 차이가 감소할 때 모델 수렴이 발생함을 보여준다.

실험 결과

연구 질문

• RQ1 클라이언트는 비라벨 데이터만 보유하고 서버는 소규모 라벨 데이터셋 뿐이지만, 어떻게 효과적으로 분산형 비지도 학습을 수행할 수 있는가?
• RQ2 지표 없는 실제 라벨이 없을 때 클라이언트에서 신뢰할 수 있는 가짜 라벨 생성을 위한 메커니즘은 무엇인가? 오학습을 최소화할 수 있는가?
• RQ3 서버-클라이언트 일치성을 유지하기 위해 학습 도중 어떻게 해야 하며, 서버 라벨 데이터에 대한 과적합을 방지할 수 있는가?
• RQ4 가짜 라벨로 인해 손실이 신뢰할 수 없게 질 경우, 분산형 비지도 학습에 대해 유효한 수렴 기준은 무엇인가?
• RQ5 이러한 프레임워크에 대해 이론적 수렴 보장을 확보할 수 있으며, 그 조건은 무엇인가?

주요 결과

• FedIL은 7번의 연속 라벨링 단계와 임계값 0.95를 사용하여 CIFAR-10에서 61.31%의 정확도를 달성하였으며, 기준 방법보다 뛰어난 성능을 보였다.
• 제거 실험 결과, 가짜 라벨 세트나 코사인 유사도 메커니즘을 제거할 경우 정확도가 각각 28.59%와 27.21%로 감소하여 이들의 핵심적 역할을 확인하였다.
• 가짜 라벨 후보 메커니즘과 유사도 스크리닝의 병합은 기준 대비 정확도를 30퍼센트 이상 향상시켰다.
• 라운드당 로컬 학습 에포크 수의 최적값은 5로, 이 이상일 경우 노이즈가 많은 가짜 라벨에 과적합되어 성능이 저하됨을 확인하였다.
• 연속 라벨링 단계 수(k)를 늘릴수록 정확도는 k=8까지 향상되어 62.03%에 도달하지만, 수익 감소와 함께 계산 비용 증가를 동반한다.
• 이론적 분석을 통해 서버와 클라이언트 간의 가중치 증분 차이가 감소할 때 모델 수렴이 발생함을 확인하였으며, 바나흐 고정점 정리에 따라 유효한 수렴 기준을 제공한다.