[논문 리뷰] Convergence Time Optimization for Federated Learning over Wireless Networks

Mingzhe Chen, H. Vincent Poor외 2명|arXiv (Cornell University)|2020. 01. 22.

Privacy-Preserving Technologies in Data참고 문헌 31인용 수 33

한 줄 요약

이 논문은 무선 네트워크 상에서 연합학습의 수렴을 가속화하기 위해 사용자 선택, 무선 자원 할당, 그리고 ANN 기반 예측의 공동 설계를 제안하여 훈련 손실을 줄입니다.

ABSTRACT

In this paper, the convergence time of federated learning (FL), when deployed over a realistic wireless network, is studied. In particular, a wireless network is considered in which wireless users transmit their local FL models (trained using their locally collected data) to a base station (BS). The BS, acting as a central controller, generates a global FL model using the received local FL models and broadcasts it back to all users. Due to the limited number of resource blocks (RBs) in a wireless network, only a subset of users can be selected to transmit their local FL model parameters to the BS at each learning step. Moreover, since each user has unique training data samples, the BS prefers to include all local user FL models to generate a converged global FL model. Hence, the FL performance and convergence time will be significantly affected by the user selection scheme. Therefore, it is necessary to design an appropriate user selection scheme that enables users of higher importance to be selected more frequently. This joint learning, wireless resource allocation, and user selection problem is formulated as an optimization problem whose goal is to minimize the FL convergence time while optimizing the FL performance. To solve this problem, a probabilistic user selection scheme is proposed such that the BS is connected to the users whose local FL models have significant effects on its global FL model with high probabilities. Given the user selection policy, the uplink RB allocation can be determined. To further reduce the FL convergence time, artificial neural networks (ANNs) are used to estimate the local FL models of the users that are not allocated any RBs for local FL model transmission at each given learning step, which enables the BS to enhance its global FL model and improve the FL convergence speed and performance.

연구 동기 및 목표

• 제한된 자원 블록(RB)으로 realistic한 무선 네트워크에서 연합 학습을 동기화하고 모델링한다.
• 사용자 선택과 RB 할당을 통해 FL 수렴 시간과 훈련 손실을 함께 최소화한다.
• 신경망을 이용해 비전송(local) 모델을 예측하여 글로벌 모델을 개선한다.
• 스케줄링, 자원, 예측이 수렴 속도와 학습 성능에 어떤 영향을 미치는지 분석한다.

제안 방법

• RB 한계로 인해 BV가 부분적으로 수집하는 기준으로 BS가 각 반복에서 로컬 모델을 수집하는 FL 모델링.
• 주어진 사용자 선택과 RB 할당을 고려하여 반복 시간과 훈련 손실을 최소화하는 공동 최적화를 형식화한다.
• 글로벌 모델에 큰 영향을 주는 로컬 업데이트를 우선시하는 확률적 사용자 선택 scheme를 도입한다.
• 사용자 선택을 고정한 후 각 반복에서 RB 할당 문제를 내부점(interior-point) 방식으로 해결한다.
• 전달 지원이 없는 사용자의 로컬 모델을 예측하기 위해 인공신경망(MLP)을 사용하여 글로벌 모델을 향상시킨다.
• 예측된 로컬 모델과 전송된 모델의 조합으로 글로벌 모델을 업데이트하고 예측 오차를 확인한다.

실험 결과

연구 질문

• RQ1 무선 제약 하에서 FL 수렴 시간을 최소화하도록 사용자 선택 및 RB 할당을 어떻게 설계할 수 있는가?
• RQ2 비전송 사용자의 로컬 모델 예측이 FL 수렴 및 정확도에 어떤 영향을 미치는가?
• RQ3 제안된 무선 프레임워크에서 학습 방법(전부/확률적 경사) 이 수렴에 어떤 역할을 하는가?
• RQ4 제안된 확률적 사용자 선택이 모든 사용자가 글로벌 모델에 기여하도록 보장하는 정도는 얼마나 되는가?

주요 결과

• 무선 네트워크에서의 FL 수렴 시간은 제안된 설계로 최대 56%까지 단축될 수 있다.
• 비전송 사용자의 모델 예측이 글로벌 모델 품질과 수렴 속도를 향상시킬 수 있다.
• 확률적 사용자 선택은 영향력 있는 로컬 모델을 포함시킬 가능성을 높이는 동시에 모든 사용자가 무접근 확률이 0이 아닌 상태를 보장한다.
• 선형화된 제약 조건을 통한 RB 할당은 효율적인 최적화와 더 빠른 반복당 업데이트를 가능하게 한다.
• 전달된 로컬 모델과 예측된 모델을 글로벌 업데이트에 포함시키면 훈련 손실을 줄이고 다운스트림 작업(예: 손글씨 숫자 인식)의 정확도를 표준 FL 대비 최대 3% 향상시킬 수 있다.
• 해당 분석은 전체/SGD, RB 할당, 사용자 선택, 예측 정확도가 수렴 행태에 상당한 영향을 준다는 것을 시사한다.