[논문 리뷰] Transmission Power Control for Over-the-Air Federated Averaging at Network Edge

Cao Xiaowen, Guangxu Zhu외 2명|arXiv (Cornell University)|2021. 11. 10.

Stochastic Gradient Optimization Techniques인용 수 7

한 줄 요약

이 논문은 네트워크 엣지에서 오버더에어 페더레이티드 어웨징(Air-FedAvg)을 위한 전송 전력 제어 방식을 제안하여 집계 오차를 줄이고 학습 효율성을 향상시킨다. 개별 기기의 전력 제약 조건 하에 기기의 전송 전력과 엣지 서버의 노이즈 제거 요소를 공동 최적화함으로써 최적성 갭과 학습 지연을 최소화하여 수렴 속도를 높이고, 기존의 디지털 OMA 기반 FedAvg에 비해 지연 시간을 한 계단어 정도 감소시킨다.

ABSTRACT

Over-the-air computation (AirComp) has emerged as a new analog power-domain non-orthogonal multiple access (NOMA) technique for low-latency model/gradient-updates aggregation in federated edge learning (FEEL). By integrating communication and computation into a joint design, AirComp can significantly enhance the communication efficiency, but at the cost of aggregation errors caused by channel fading and noise. This paper studies a particular type of FEEL with federated averaging (FedAvg) and AirComp-based model-update aggregation, namely over-the-air FedAvg (Air-FedAvg). We investigate the transmission power control to combat against the AirComp aggregation errors for enhancing the training accuracy and accelerating the training speed of Air-FedAvg. Towards this end, we first analyze the convergence behavior (in terms of the optimality gap) of Air-FedAvg with aggregation errors at different outer iterations. Then, to enhance the training accuracy, we minimize the optimality gap by jointly optimizing the transmission power control at edge devices and the denoising factors at edge server, subject to a series of power constraints at individual edge devices. Furthermore, to accelerate the training speed, we also minimize the training latency of Air-FedAvg with a given targeted optimality gap, in which learning hyper-parameters including the numbers of outer iterations and local training epochs are jointly optimized with the power control. Finally, numerical results show that the proposed transmission power control policy achieves significantly faster convergence for Air-FedAvg, as compared with benchmark policies with fixed power transmission or per-iteration mean squared error (MSE) minimization. It is also shown that the Air-FedAvg achieves an order-of-magnitude shorter training latency than the conventional FedAvg with digital orthogonal multiple access (OMA-FedAvg).

연구 동기 및 목표

• 무선 엣지 네트워크에서 채널의 감쇠와 노이즈로 인해 발생하는 Air-FedAvg의 집계 오차 문제를 해결하기 위해.
• 개별 기기의 전력 제약 조건 하에 전송 전력과 노이즈 제거 요소를 공동 최적화하여 최적성 갭을 최소화함으로써 학습 정확도를 향상시키기 위해.
• 목표 최적성 갭을 충족시키는 조건에서 학습 초기화 하이퍼파rameter와 전력 제어를 공동 최적화하여 지연 시간을 최소화함으로써 학습 속도를 가속화하기 위해.
• 고정 전력 및 반복 단위 MSE 최소화 기준과 비교하여 제안된 전력 제어 정책이 수렴 속도와 지연 시간 측면에서 우수한 성능을 보임을 입증하기 위해.

제안 방법

• 에지 기기의 전송 전력과 엣지 서버의 노이즈 제거 요소를 공동 최적화하여 Air-FedAvg에서 최적성 갭을 최소화하는 볼록 최적화 문제를 수립한다.
• 비미분 가능한 이중 문제를 해결하기 위해 라그랑주 이중성과 타원체 방법을 활용하여 최적의 전력 제어 정책을 효율적으로 계산할 수 있도록 한다.
• 채널 이득, 목표 정확도, 전력 제약 조건를 고려한 각 기기 및 반복 단위에 대한 최적 전력 제어의 닫힌 형태 해를 유도한다.
• 학습 초기화 하이퍼파rameter(외부 반복 횟수 및 로컬 에포크 수)를 최적화에 통합하여 목표 수렴 정확도 조건 하에 학습 지연 시간을 공동 최소화한다.
• 유한 분산을 갖는 확률적 경사 하강법 기반의 수렴 분석 프레임워크를 도입하여 로컬 업데이트 간의 기울기 노이즈와 모델 이탈을 모델링한다.
• 산술 평균과 기하 평균의 부등식 및 리프시츠 연속성 가정을 적용하여 국소 기울기의 기대값이 전역 기울기에서 벗어나지 않는 범위를 제한한다.

실험 결과

연구 질문

• RQ1 채널 감쇠와 노이즈 조건 하에서 전송 전력 제어는 Air-FedAvg의 수렴 행동에 최적성 갭 측면에서 어떤 영향을 미치는가?
• RQ2 개별 기기의 전력 제약 조건 하에서 Air-FedAvg의 최적성 갭을 최소화하는 데 최적의 전송 전력과 노이즈 제거 요소의 공동 정책은 무엇인가?
• RQ3 목표 최적성 갭을 충족시키는 조건에서 학습 초기화 하이퍼파rameter와 전력 제어를 공동 최적화함으로써 학습 지연 시간을 어떻게 최소화할 수 있는가?
• RQ4 제안된 전력 제어 정책은 고정 전력 및 반복 단위 MSE 최소화 기준과 비교하여 수렴 속도와 학습 지연 시간 측면에서 어떻게 성능이 뛰어나게 되는가?

주요 결과

• 제안된 전송 전력 제어 정책은 고정 전송 전력 또는 반복 단위 평균 제곱 오차 최소화 기준의 벤치마크 정책에 비해 Air-FedAvg에서 훨씬 더 빠른 수렴을 달성한다.
• 기존의 디지털 직교 다중접근 기반 FedAvg(OMA-FedAvg)에 비해 학습 지연 시간을 한 계단어 정도 감소시킨다.
• 전송 전력과 노이즈 제거 요소의 공동 최적화가 최적성 갭을 효과적으로 줄여주어 동일한 학습 시간 내에 모델 정확도를 향상시킨다.
• 라그랑주 이중성과 타원체 방법을 활용함으로써 최적 전력 제어 정책의 효율적이고 확장 가능한 계산이 가능해진다.
• 유도된 최적 전력 제어의 닫힌 형태 해는 채널 상태, 기기별 제약 조건, 목표 정확도를 모두 반영한다.
• 수치적 결과는 제안된 방식이 통신 및 계산 지연 시간을 극적으로 줄이면서도 높은 모델 정확도를 유지함을 확인한다.