[논문 리뷰] Stochastic Client Selection for Federated Learning with Volatile Clients

Tiansheng Huang, Weiwei Lin외 3명|arXiv (Cornell University)|2020. 11. 17.

Privacy-Preserving Technologies in Data인용 수 8

한 줄 요약

이 논문은 변동성이 높은 클라이언트 조건 하에서 페더레이티드 러닝을 위한 확률적 클라이언트 선택 알고리즘인 E3CS를 제안한다. 이 알고리즘은 최종 모델 정확도를 희생시키지 않은 채 수렴 속도를 가속화하면서도 효과적인 참여와 공정성을 균형 있게 유지한다. Exp3 기반 접근 방식을 사용하여 선택 확률을 동적으로 조정함으로써, 최신 기술 대비 최대 2배 빠른 수렴을 달성하면서도 유사한 최종 정확도를 유지한다.

ABSTRACT

Federated Learning (FL), arising as a privacy-preserving machine learning paradigm, has received notable attention from the public. In each round of synchronous FL training, only a fraction of available clients are chosen to participate, and the selection decision might have a significant effect on the training efficiency, as well as the final model performance. In this paper, we investigate the client selection problem under a volatile context, in which the local training of heterogeneous clients is likely to fail due to various kinds of reasons and in different levels of frequency. {\color{black}Intuitively, too much training failure might potentially reduce the training efficiency, while too much selection on clients with greater stability might introduce bias, thereby resulting in degradation of the training effectiveness. To tackle this tradeoff, we in this paper formulate the client selection problem under joint consideration of effective participation and fairness.} Further, we propose E3CS, a stochastic client selection scheme to solve the problem, and we corroborate its effectiveness by conducting real data-based experiments. According to our experimental results, the proposed selection scheme is able to achieve up to 2x faster convergence to a fixed model accuracy while maintaining the same level of final model accuracy, compared with the state-of-the-art selection schemes.

연구 동기 및 목표

• 변동성이 높은 클라이언트 조건 하에서 페더레이티드 러닝의 수렴 속도와 최종 모델 정확도 사이의 상충 관계를 해결하기 위해.
• 자주 선택되는 클라이언트에 대한 과적합으로 인해 모델 성능이 떨어질 수 있는 선택 편향을 완화하기 위해.
• 효과적인 참여(즉, 성공적인 모델 업로드)와 클라이언트 선택에서의 공정성을 동시에 최적화하기 위해.
• 초기에는 고유용 클라이언트를 우선적으로 선별하고 장기적으로 공정성을 확보하는 동적 선택 전략을 설계하기 위해.

제안 방법

• E3CS는 클라이언트 선택에서 탐색과 이용의 균형을 이루기 위해 Exp3 알고리즘을 사용한 적대적 다중 손잡이 슬롯머신 프레임워크를 활용한다.
• 초기 라운드에서는 공정성 없이(σₜ = 0) 효과적인 참여를 극대화하기 위해 공정성 할당 기반 메커니즘을 도입하며, 이후 라운드에서는 점차 공정성을 증가시켜 σₜ = k/K에 도달한다.
• 알고리즘은 이력 성공률과 손실 값에 기반해 클라이언트 간 확률 분포를 유지하며, 안정적이고 고성능 클라이언트를 선호하도록 선택 가능성을 조정한다.
• T/4 학습 라운드 이후 동적 공정성 조정을 적용하여 이용에서 탐색으로의 전환을 유도함으로써 일부 클라이언트에 대한 과적합을 방지한다.
• IID 및 비-IID 데이터 분포 조건 하에서 평가되었으며, 선택 카디널리티와 수렴 속도에 대한 분석 연구도 수행되었다.
• 클라이언트 장애율이나 데이터 분포에 대한 사전 지식이 필요 없이 실용적이고 확장 가능한 설계를 한다.

실험 결과

연구 질문

• RQ1 변동성이 높은 클라이언트 조건에서 클라이언트 장애율의 변동성(즉, 변동성)이 페더레이티드 러닝의 수렴과 정확도에 어떤 영향을 미치는가?
• RQ2 클라이언트 선택에서 효과적인 참여를 극대화하고 공정성을 확보하는 것 사이의 상충 관계는 무엇인가?
• RQ3 확률적 선택 전략이 조기 수렴 속도와 장기적 모델 정확도 사이를 동적으로 균형 잡을 수 있는가?
• RQ4 클라이언트 효과적 참여(CEP)의 영향은 다양한 학습 단계와 데이터 분포에서 어떻게 달라지는가?
• RQ5 변동성이 높은 페더레이티드 러닝 환경에서 클라이언트 선택의 공정성은 최종 모델 성능에 얼마나 큰 영향을 미치는가?

주요 결과

• E3CS는 최신 기술 대비 최대 2배 빠른 수렴 속도를 보이며, 고정 정확도 기준에 도달한다. 예를 들어 FedCS 및 Random과 같은 선택 기법보다도 빠르다.
• 증분 공정성 기반 E3CS-inc 버전은 초기 학습 단계에서 높은 수렴 속도를 유지하면서도 최종 모델 정확도가 저하되지 않는다.
• 클라이언트 효과적 참여(CEP)의 영향은 초기 학습 단계에서 가장 두드러지며, 수렴에 가까워질수록 점차 감소한다.
• 높은 CEP이지만 낮은 공정성을 가진 선택 기법(예: FedCS)은 자주 선택되는 클라이언트에 대한 과적합으로 인해 최종 정확도가 떨어진다.
• 비-IID 데이터 설정에서는 고CEP와 저CEP 기법 간 성능 격차가 더욱 커지며, 이는 작업 난이도가 CEP의 수렴 속도에 미치는 영향을 증폭시킨다는 것을 시사한다.
• 더 공정한 기법(예: Random(A))은 후기 학습 단계에서 편향된 기법을 능가하며, 학습이 진행될수록 공정성이 점점 더 중요해진다는 점을 확인한다.