[논문 리뷰] Dynamic Scheduling for Over-the-Air Federated Edge Learning with Energy Constraints

Yuxuan Sun, Sheng Zhou외 2명|arXiv (Cornell University)|2021. 05. 31.

Privacy-Preserving Technologies in Data참고 문헌 44인용 수 5

한 줄 요약

이 논문은 장치 에너지 제약 조건 하에서 통신 및 계산 에너지를 공동 최적화하는 에너지 인지 동적 장치 스케줄링 알고리즘을 제안한다. 라플라스 최적화와 기울기 노름 추정을 활용하여, 비-i.i.d. 데이터 및 에너지 제약 조건 하에서 CIFAR-10에서 4.9%의 정확도 향상을 달성하며, 이는 타인의 최적화 기준보다 뛰어나면서도 수렴 안정성을 유지한다.

ABSTRACT

Machine learning and wireless communication technologies are jointly facilitating an intelligent edge, where federated edge learning (FEEL) is a promising training framework. As wireless devices involved in FEEL are resource limited in terms of communication bandwidth, computing power and battery capacity, it is important to carefully schedule them to optimize the training performance. In this work, we consider an over-the-air FEEL system with analog gradient aggregation, and propose an energy-aware dynamic device scheduling algorithm to optimize the training performance under energy constraints of devices, where both communication energy for gradient aggregation and computation energy for local training are included. The consideration of computation energy makes dynamic scheduling challenging, as devices are scheduled before local training, but the communication energy for over-the-air aggregation depends on the l2-norm of local gradient, which is known after local training. We thus incorporate estimation methods into scheduling to predict the gradient norm. Taking the estimation error into account, we characterize the performance gap between the proposed algorithm and its offline counterpart. Experimental results show that, under a highly unbalanced local data distribution, the proposed algorithm can increase the accuracy by 4.9% on CIFAR-10 dataset compared with the myopic benchmark, while satisfying the energy constraints.

연구 동기 및 목표

• 엄격한 장치 에너지 제약 조건 하에서 통신 및 계산 에너지를 포함한 연합 엣지 학습의 훈련 성능 최적화 문제를 해결하기 위해.
• 훈련 후 알려지지 않은 기울기 노름에 따라 영향을 받는 오버더에어 기울기 집계 에너지의 의존성을 고려한 동적 스케줄링 알고리즘을 설계하기 위해.
• 훈련 이전에 국소 기울기 노름을 추정하여 스케줄링 결정에 통합함으로써, 사전에 에너지 인지 장치 선택을 가능하게 하기 위해.
• 제안된 온라인 알고리즘과 오프라인 최적 기준 간의 성능 격차를 이론적으로 특성화하기 위해, 추정 오차를 고려하여.
• 특히 제한된 에너지 예산 하에서 극도로 불균형한 데이터 환경에서 알고리즘의 효과성을 검증하기 위해.

제안 방법

• 훈련 손실과 에너지 소비를 공동 최소화하기 위해 라플라스 최적화를 사용하여 드리프트 플러스 페널티 목적함수를 수립한다.
• 알 수 없는 진짜 기울기 노름 대신 예측된 값을 사용하여 온라인 스케줄링을 가능하게 하는 추정 드리프트 플러스 페널티 알고리즘을 도입한다.
• 훈련 이전에 국소 기울기의 $ l_2 $-노름을 예측하기 위해 기울기 노름 추정 모델을 활용하여 에너지 인지 장치 선택을 가능하게 한다.
• 추정 오차를 $ ilde{y}_{n,t} $ 와 $ ilde{E}_{n,t} $ 를 통해 고려하여, 제안된 알고리즘과 오프라인 최적 솔루션 간의 이론적 성능 경계를 유도한다.
• 국소 훈련 및 오버더에어 집계의 에너지 비용을 모델링하며, 라운드당 총 장치 에너지에 대한 제약 조건을 설정한다.
• 시간 평균 에너지 제약 모델을 사용하며, $ ar{E}_n $ 은 $ T $ 라운드 동안 장치당 평균 에너지 예산을 나타낸다.

실험 결과

연구 질문

• RQ1 통신 에너지가 훈련 후 알려지지 않은 기울기 노름에 의존할 경우, 오버더에어 연합 엣지 학습에서 장치 스케줄링을 어떻게 최적화할 수 있는가?
• RQ2 추정 오차가 존재하는 조건에서, 온라인 동적 스케줄링 알고리즘과 오프라인 최적 기준 간의 성능 격차는 어떠한가?
• RQ3 계산 및 통신 에너지의 공동 최적화가 엄격한 장치 에너지 제약 조건 하에서 모델 정확도 향상에 기여할 수 있는가?
• RQ4 비-i.i.d. 데이터 분포 하에서 제안된 알고리즘이 타인의 최적화 전략에 비해 어떻게 성능을 발휘하는가?
• RQ5 온라인 에너지 제약 조건 하에서 수렴성과 에너지 준수에 대해 어떤 이론적 보장을 제공할 수 있는가?

주요 결과

• 비-i.i.d. 데이터 및 에너지 제약 조건 하에서 제안된 알고리즘은 타인의 최적화 기준 대비 CIFAR-10 데이터셋에서 정확도를 4.9% 향상시킨다.
• 제안된 온라인 알고리즘과 오프라인 최적 솔루션 간의 이론적 성능 격차는 $ O(T^2) $ 로 경계되며, 여기서 $ T $ 는 훈련 라운드 수이다.
• 라플라스 드리프트 분석을 통해 모든 장치의 총 에너지 소비가 사전 정의된 예산 내에 유지됨을 증명한다.
• 성능 격차는 주로 추정 오차에 의해 지배되며, $ heta_0 T^2 + T(T-1) heta_0 ext{sum}( heta_n) $ 비례하는 경계를 가진다. 여기서 $ heta_n $ 은 기울기 크기 변동성을 반영한다.
• 예측된 기울기 노름과 현재 큐 블랙에 기반하여 장치 선택을 동적으로 조정함으로써 알고리즘이 안정성과 수렴성을 유지한다.
• 시뮬레이션 결과는 알고리즘이 기존 스케줄링 전략이 높은 정확도를 유지하지 못하는 극도로 불균형한 데이터 분포 환경에서도 효과적으로 작동함을 확인한다.