[논문 리뷰] Federated learning with class imbalance reduction

Miao Yang, Akitanoshou Wong외 3명|arXiv (Cornell University)|2020. 11. 23.

Privacy-Preserving Technologies in Data참고 문헌 17인용 수 9

한 줄 요약

이 논문은 원시 클라이언트 데이터에 접근하지 않고도 클래스 불균형을 감소시키는 피드버그 학습을 위한 클라이언트 선택 알고리즘을 제안한다. 모델 기울기에서 클래스 분포를 추정하고, 문맥적 다중 손실 기반 밴딧 프레임워크를 사용함으로써, 글로벌 모델의 수렴성과 정확도를 향상시켜 비독립 동일 분포가 아닌(non-IID) 환경에서 탐욕적 및 무작위 선택 전략을 능가한다.

ABSTRACT

Federated learning (FL) is a promising technique that enables a large amount of edge computing devices to collaboratively train a global learning model. Due to privacy concerns, the raw data on devices could not be available for centralized server. Constrained by the spectrum limitation and computation capacity, only a subset of devices can be engaged to train and transmit the trained model to centralized server for aggregation. Since the local data distribution varies among all devices, class imbalance problem arises along with the unfavorable client selection, resulting in a slow converge rate of the global model. In this paper, an estimation scheme is designed to reveal the class distribution without the awareness of raw data. Based on the scheme, a device selection algorithm towards minimal class imbalance is proposed, thus can improve the convergence performance of the global model. Simulation results demonstrate the effectiveness of the proposed algorithm.

연구 동기 및 목표

• 비독립 동일 분포가 아닌(non-IID) 클라이언트 데이터 분포로 인한 피드버그 학습에서의 클래스 불균형 문제 해결.
• 원시 클라이언트 데이터에 접근하지 않고도 클래스 불균형을 최소화하는 클라이언트 선택 전략 개발.
• 프라이버시 및 자원 제약 조건 하에서 피드버그 학습에서 글로벌 모델의 수렴 속도와 정확도 향상.
• 탐색과 이용의 균형을 맞추는 학습 기반 클라이언트 선택 메커니즘 설계.

제안 방법

• 원시 데이터 폭 lộ를 방지하기 위해 업데이트된 모델 기울기만을 사용하여 각 클라이언트의 국소 클래스 분포 추정.
• 탐색과 이용의 균형을 맞추기 위해 클라이언트 선택 문제를 문맥 기반 다중 손실 기반 밴딧(CMAB) 문제로 공식화.
• 탐색 인자 α와 기각 인자 ρ를 갖는 강화 학습 기반 알고리즘을 사용하여 균형 잡힌 클래스 구성이 있는 클라이언트를 동적으로 선택.
• 학습 과정을 안정화하고 클라이언트 선택의 강건성을 확보하기 위해 정규화 인자 β를 적용.
• 선택된 클라이언트가 국소적으로 학습하고 전역 집계를 위해 오직 모델 가중치만 전송하는 FedAvg 프레임워크에 클라이언트 선택 통합.
• 일관성을 확보하기 위해 국소 학습에 교차 엔트로피 손실과 확률적 경사 하강법(SGD)을 사용하며, 고정된 초모수를 적용.

실험 결과

연구 질문

• RQ1 원시 클라이언트 데이터에 접근하지 않고도 피드버그 학습에서 클래스 불균형을 효과적으로 감소시킬 수 있는가?
• RQ2 기울기 기반 클래스 분포 추정 방식은 직접적인 데이터 접근 대비 정확도와 프라이버시 측면에서 어떻게 비교되는가?
• RQ3 CMAB 기반 클라이언트 선택 전략은 탐욕적 또는 무작위 선택 대비 수렴 속도와 최종 모델 정확도 향상에 어느 정도 기여하는가?
• RQ4 비독립 동일 분포가 아닌 데이터 조건 하에서 탐색과 이용의 최적 균형은 무엇인가?
• RQ5 선택된 클라이언트 수가 수렴 성능와 통신 효율성에 미치는 영향은 어떠한가?

주요 결과

• 제안된 알고리즘이 탐욕적 및 무작위 클라이언트 선택 기법보다 더 빠른 수렴 속도와 높은 글로벌 테스트 정확도를 달성한다.
• 제안된 방법과 무작위 선택 간의 성능 격차는 보다 우수한 클라이언트 세트 선택을 통한 클래스 불균형 효과적인 완화 때문이며 주로 이로 인해 발생한다.
• 탐욕적 기법과 비교해 제안된 방법은 탐색과 이용의 균형을 더 잘 맞추어 더 최적의 클라이언트 조합을 발견한다.
• 선택된 클라이언트 수를 늘릴수록 성능 향상이 이루어지지만, 특정 지점 이후에는 수익 감소 현상이 나타나 더 큰 클라이언트 집합에서의 이득이 점점 줄어든다.
• 최적의 탐색 인자 α(시뮬레이션에서 0.2로 설정)가 핵심적이다—너무 낮으면 탐색이 부족하고, 너무 높으면 비최적의 탐색 선택으로 인해 성능 저하가 발생한다.
• 비독립 동일 분포가 아닌 환경에서 기준 기법보다 알고리즘이 뚜렷이 뛰어난 성능을 보이며, IID 환경에서는 유사한 성능 유지를 확인하여 불균형 상황에서의 효과성을 입증한다.