[논문 리뷰] FedSEAL: Semi-Supervised Federated Learning with Self-Ensemble Learning and Negative Learning

Jieming Bian, Zhu Fu외 1명|arXiv (Cornell University)|2021. 10. 15.

Privacy-Preserving Technologies in Data참고 문헌 29인용 수 5

한 줄 요약

FedSEAL는 자가 앙상블 학습과 부정 학습을 활용하여 레이블이 없는 클라이언트 데이터와 제한된 레이블이 있는 서버 데이터를 효과적으로 활용함으로써 모델 정확도를 향상시키는 혁신적인 준지도 학습 연합 학습 프레임워크를 제안한다. 동적 신뢰도 임계값 설정과 보완 레이블링을 통해 비지도 학습의 안정성과 성능을 향상시켜 초기 학습 라운드에서 최신 기술 대비 큰 성능 향상을 이룬다.

ABSTRACT

Federated learning (FL), a popular decentralized and privacy-preserving machine learning (FL) framework, has received extensive research attention in recent years. The majority of existing works focus on supervised learning (SL) problems where it is assumed that clients carry labeled datasets while the server has no data. However, in realistic scenarios, clients are often unable to label their data due to the lack of expertise and motivation while the server may host a small amount of labeled data. How to reasonably utilize the server labeled data and the clients' unlabeled data is thus of paramount practical importance. In this paper, we propose a new FL algorithm, called FedSEAL, to solve this Semi-Supervised Federated Learning (SSFL) problem. Our algorithm utilizes self-ensemble learning and complementary negative learning to enhance both the accuracy and the efficiency of clients' unsupervised learning on unlabeled data, and orchestrates the model training on both the server side and the clients' side. Our experimental results on Fashion-MNIST and CIFAR10 datasets in the SSFL setting validate the effectiveness of our method, which outperforms the state-of-the-art SSFL methods by a large margin.

연구 동기 및 목표

• 클라이언트는 레이블이 없는 데이터를, 서버는 소량의 레이블이 있는 데이터를 보유하는 실용적인 준지도 연합 학습 문제를 해결한다.
• 분산된 FL 환경과 데이터 위치의 분리로 인해 발생하는 비지도 학습에서 오류 누적 문제를 해결한다.
• 서버의 레이블 데이터를 기반으로 한 지도 학습과 클라이언트의 레이블이 없는 데이터를 기반으로 한 비지도 학습을 조율하여 모델 일반화 능력과 학습 안정성을 향상시킨다.
• 개인정보 보호와 분산 구조를 유지하면서도 막대한 레이블이 없는 클라이언트 데이터를 효과적으로 활용하는 방법을 개발한다.
• 이전의 SSFL 기반 방법들, 특히 서버 데이터에 대한 단순 지도 학습 대비 성능 향상이 미미한 방법들에 비해 뛰어난 성능을 달성한다.

제안 방법

• 각 클라이언트에서 과거 모델 앙상블을 유지하여 레이블이 없는 데이터에 대한 평균 신뢰도 점수를 계산함으로써 자가 앙상블 학습을 구현한다.
• 서버에서 설정한 신뢰도 점수 임계값을 사용하여 고품질의 가짜 레이블이 부여된 인스턴스를 선별하여 지도 학습을 위한 양성 필터링 데이터셋을 구성한다.
• 레이블이 없는 데이터에 보완 레이블을 할당하고 두 번째 필터링 데이터셋을 구성함으로써 부정 학습을 도입하여 초기 학습 단계의 안정성을 향상시킨다.
• 클래스별 동적 신뢰도 임계값을 적용하여 각 클래스의 신뢰도 분포에 맞게 조정함으로써 데이터셋 불균형 문제를 방지하고 노이즈가 많은 가짜 레이블을 감소시킨다.
• 교차 학습을 구현: 서버에서는 레이블이 있는 데이터를 사용한 지도 학습과 클라이언트에서는 양성 및 음성 필터링 데이터셋을 모두 활용한 비지도 학습을 번갈아 수행한다.
• 일致성 정규화와 가짜 레이블링을 적용하여 초기 학습 단계에서 일반화 능력을 향상시키고 오류 전파를 줄인다.

실험 결과

연구 질문

• RQ1 자기 앙상블 학습을 통해 모델 앙상블을 활용함으로써 준지도 연합 학습에서 가짜 레이블의 품질을 향상시킬 수 있는가?
• RQ2 보완 레이블을 활용한 부정 학습은 연합 학습의 초기 단계에서 학습 안정성과 성능을 어떻게 향상시키는가?
• RQ3 고정 임계값 대비 클래스별 동적 신뢰도 임계값이 데이터 불균형 문제를 얼마나 효과적으로 완화하고 노이즈가 많은 가짜 레이블을 줄이는가?
• RQ4 서버에 소량의 레이블 데이터만 존재하는 경우에도 FedSEAL는 기존 SSFL 방법들에 비해 뚜렷한 성능 향상을 이룰 수 있는가?
• RQ5 자기 앙상블과 부정 학습의 통합은 CIFAR10 및 Fashion-MNIST와 같은 실제 데이터셋에서 수렴 속도와 최종 정확도에 어떤 영향을 미치는가?

주요 결과

• FedSEAL는 데이터 증강 없이도 서버의 지도 학습 기반 베이스라인보다 뛰어난 성능을 보이며, CIFAR10에서 최신 기술인 FedMatch (수정됨)과 FedRGD를 크게 앞서 간다.
• Fashion-MNIST에서는 자가 앙상블 학습이 없는 FedSEAL보다 수렴 속도가 빠르고 더 높은 테스트 정확도를 달성하여 앙상블 기반 필터링의 효과를 입증한다.
• 양성 필터링 데이터셋에 포함된 정확한 가짜 레이블 비율은 음성 데이터셋의 보완 레이블 비율보다 뚜렷이 낮으며, 이는 초기 학습 단계에서 안정성을 확보하기 위해 부정 학습이 필수적임을 검증한다.
• 클래스별 동적 신뢰도 임계값은 고정 임계값(예: 0.9 또는 0.5)이 낮은 신뢰도 클래스에 대해 필터링 성능이 열악해지는 것을 방지하여 필터링된 데이터셋의 심각한 클래스 불균형 문제를 완화한다.
• 자기 앙상블 학습을 도입함으로써 필터링된 데이터셋 내 고품질 가짜 레이블 인스턴스의 수가 증가하여 수렴 속도 향상과 더 나은 일반화 능력을 이끌어낸다.
• 서버에 레이블이 1,000개 뿐인 경우에도 FedSEAL는 뛰어난 성능을 달성하여, 낮은 데이터 레이블 환경에서 레이블이 없는 클라이언트 데이터를 효과적으로 활용할 수 있음을 입증한다.