[논문 리뷰] A Joint Learning and Communications Framework for Federated Learning over Wireless Networks

Mingzhe Chen, Zhaohui Yang외 4명|arXiv (Cornell University)|2019. 09. 17.

Privacy-Preserving Technologies in Data참고 문헌 39인용 수 107

한 줄 요약

이 논문은 무선 네트워크에서 연합 학습(Federated Learning, FL)을 위한 공동 학습 및 무선 프레임워크를 제시하며, 무선 요인들의 수렴 영향력을 도출하고 FL 손실을 최소화하기 위해 사용자 선택, 자원 배정(RB), 전송 전력의 최적화를 수행한다.

ABSTRACT

In this paper, the problem of training federated learning (FL) algorithms over a realistic wireless network is studied. In particular, in the considered model, wireless users execute an FL algorithm while training their local FL models using their own data and transmitting the trained local FL models to a base station (BS) that will generate a global FL model and send it back to the users. Since all training parameters are transmitted over wireless links, the quality of the training will be affected by wireless factors such as packet errors and the availability of wireless resources. Meanwhile, due to the limited wireless bandwidth, the BS must select an appropriate subset of users to execute the FL algorithm so as to build a global FL model accurately. This joint learning, wireless resource allocation, and user selection problem is formulated as an optimization problem whose goal is to minimize an FL loss function that captures the performance of the FL algorithm. To address this problem, a closed-form expression for the expected convergence rate of the FL algorithm is first derived to quantify the impact of wireless factors on FL. Then, based on the expected convergence rate of the FL algorithm, the optimal transmit power for each user is derived, under a given user selection and uplink resource block (RB) allocation scheme. Finally, the user selection and uplink RB allocation is optimized so as to minimize the FL loss function. Simulation results show that the proposed joint federated learning and communication framework can reduce the FL loss function value by up to 10% and 16%, respectively, compared to: 1) An optimal user selection algorithm with random resource allocation and 2) a standard FL algorithm with random user selection and resource allocation.

연구 동기 및 목표

• 현실적인 무선 네트워크에서 로컬 모델이 베이스 스테이션으로 업로드되어 글로벌 모델을 형성하는 Federated Learning(FL)을 촉진한다.
• 무선 요인(패킷 오류, RB 할당, 전력)이 FL 수렴 및 성능에 미치는 영향을 정량화한다.
• FL 손실을 최소화하기 위해 사용자 선택, 상향 링크 RB 할당, 전송 전력의 공동 최적화를 수행하는 최적화 프레임워크를 개발한다.
• 리소스 배치 및 학습률 설정을 안내하기 위한 폐쇄 형식 수렴 인사이트를 제공한다.
• 시뮬레이션을 통해 Baseline FL 및 무선 전용 최적화 접근법에 비해 성능 향상을 보인다.

제안 방법

• BS가 선택된 사용자들로부터 로컬 모델을 집계하여 글로벌 모델을 형성하고 이를 사용자들로 다시 전송하는 FL 프로세스를 모델링한다.
• 패킷 오류율을 FL 성능과 연결하는 기대 수렴 속도에 대한 폐쇄 형식을 도출한다.
• 지연, 에너지 및 자원 제약을 제시된 제약 조건으로 갖는 혼합 정수 비선형 프로그래밍(MINLP)을 구성하여 FL 손실을 최소화한다.
• 주어진 사용자 선택 및 RB 할당 하에서 최적의 전송 전력을 계산한 후 문제를 이분 매칭 문제로 변환하여 FL 인지 사용자 선택 및 RB 할당에 대해 Hungarian 알고리즘으로 해결한다.
• 전송 전력, RB 할당, 사용자 참여가 수렴에 미치는 영향을 분석하고 학습률 및 참여 수준에 대한 지침을 제공한다.

실험 결과

연구 질문

• RQ1 무선 전송 오류 및 자원 제약이 무선 네트워크에서의 연합 학습의 수렴 및 정확도에 어떤 영향을 미치나?
• RQ2 지연 및 에너지 제약을 만족하면서 FL 손실을 최소화하기 위한 최적의 사용자 선택, 상향 RB 할당 및 전송 전력의 조합은 무엇인가?
• RQ3 FL 프로세스를 폐쇄 형식의 수렴 속도로 효과적으로 최적화하여 자원 배분 결정을 안내할 수 있는가?
• RQ4 학습률과 참여 수준이 무선 유발 오류에 대한 FL의 강건성에 어떤 영향을 미치는가?

주요 결과

• 제안된 공동 프레임워크는 특정 기준선에서 식별 정확도를 최대 1.4%, 3.5%, 4.1%까지 향상시킬 수 있다.
• FL 수렴 경계 도출은 패킷 오류율, RB 할당, 사용자 선택이 수렴 속도와 최종 성능에 상당한 영향을 준다는 것을 보인다.
• 최적의 전력 제어 및 RB 할당과 함께 FL-인지 사용자 선택을 결합하면 임의 자원 할당 및 FL-인식 스케줄링이 없는 경우보다 이득이 발생한다.
• 수렴 격차는 패킷 오류율이 감소하고 더 많은 사용자가 참여할수록 줄어들며, 이는 FL-인지 무선 최적화의 중요성을 시사한다.
• 학습률과 사용자 참여를 조정하면 무선 오류의 영향을 완화하고 수렴을 보장할 수 있음을 시사하는 지침이 암시된다.