[논문 리뷰] Over-the-Air Federated Edge Learning with Error-Feedback One-Bit Quantization and Power Control

Yuding Liu, Dongzhu Liu외 3명|arXiv (Cornell University)|2023. 03. 20.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 오버더에어 페더레이티드 에지 러닝을 위한 오차 피드백 1비트 밴드폭 디지털 집합 기법(EFOBDA)을 제안한다. 이는 수렴 성능 저하를 완화하기 위해 1비트 양자화와 오차 피드백을 결합한 기법이다. 또한 순순간 전력 제약 조건 하에서 수렴 속도를 극대화하는 최적화된 전력 제어 정책을 도입하여, 이미지 분류 과제에서 기준 기법들보다 더 빠른 수렴 속도와 높은 테스트 정확도를 달성한다.

ABSTRACT

Over-the-air federated edge learning (Air-FEEL) is a communication-efficient framework for distributed machine learning using training data distributed at edge devices. This framework enables all edge devices to transmit model updates simultaneously over the entire available bandwidth, allowing for over-the-air aggregation. A one-bit digital over-the-air aggregation (OBDA) scheme has been recently proposed, featuring one-bit gradient quantization at edge devices and majority-voting based decoding at the edge server. However, the low-resolution one-bit gradient quantization slows down the model convergence and leads to performance degradation. On the other hand, the aggregation errors caused by fading channels in Air-FEEL is still remained to be solved. To address these issues, we propose the error-feedback one-bit broadband digital aggregation (EFOBDA) and an optimized power control policy. To this end, we first provide a theoretical analysis to evaluate the impact of error feedback on the convergence of FL with EFOBDA. The analytical results show that, by setting an appropriate feedback strength, EFOBDA is comparable to the Air-FEEL without quantization, thus enhancing the performance of OBDA. Then, we further introduce a power control policy by maximizing the convergence rate under instantaneous power constraints. The convergence analysis and optimized power control policy are verified by the experiments, which show that the proposed scheme achieves significantly faster convergence and higher test accuracy in image classification tasks compared with the one-bit quantization scheme without error feedback or optimized power control policy.

연구 동기 및 목표

• 오버더에어 페더레이티드 에지 러닝(Air-FEEL)에서 1비트 기울기 양자화로 인한 성능 저하를 해결한다. 이는 수렴 속도 저하를 초래한다.
• Air-FEEL에서 무선 채널의 감쇠와 노이즈로 인한 집합 오차를 오차 피드백 및 최적화된 전력 제어를 통해 완화한다.
• 제한된 대역폭과 전력 제약 조건 하에서 분산 에지 러닝의 통신 효율성과 모델 수렴 속도를 향상시킨다.
• 오차 피드백을 통한 제안된 EFOBDA 기법의 이론적 수렴 분석을 수립하여 그 효과성을 검증한다.
• 순순간 전력 제약 조건 하에서 수렴 속도를 극대화하는 전력 제어 정책을 설계하여 내성적 안정성과 성능을 향상시킨다.

제안 방법

• 1비트 양자화 이후 기울기 업데이트 방향을 보정하기 위해 오차 피드백을 도입하여 수렴 성능 저하를 감소시킨다.
• EFOBDA 기법을 제안한다: 엣지 장치에서 1비트 양자화, 중첩을 통한 오버더에어 집합, 엣지 서버에서의 다수결 디코딩.
• 적절한 피드백 강도 하에서 EFOBDA가 전밀도 Air-FEEL과 동일한 성능을 달성할 수 있음을 보여주는 이론적 수렴 경계를 유도한다.
• 순순간 전력 제약 조건 하에서 수렴 속도를 극대화하기 위한 전력 제어 최적화 문제를 수립한다.
• 라그랑주 이중성을 사용하여 볼록 전력 제어 문제를 해결하고, 각 장치의 최적 송신 전력에 대한 닫힌 형태의 표현식을 유도한다.
• 최적화된 전력 제어 정책을 EFOBDA와 통합하여 에너지 효율성과 학습 성능를 균형 잡는다.

실험 결과

연구 질문

• RQ1 오차 피드백은 1비트 양자화된 오버더에어 페더레이티드 러닝에서 수렴 성능을 효과적으로 복구할 수 있는가?
• RQ2 제안된 EFOBDA 기법은 피드백 없이 기존의 1비트 양자화 기법에 비해 수렴 속도와 정확도 측면에서 어떻게 다른가?
• RQ3 순순간 전력 제약 조건 하에서 Air-FEEL에서 수렴 속도를 극대화하는 최적의 전력 제어 정책은 무엇인가?
• RQ4 채널 감쇠와 노이즈는 글로벌 모델 업데이트에 어떤 영향을 미치며, 제안된 기법은 이러한 영향을 완화할 수 있는가?
• RQ5 오차 피드백과 최적화된 전력 제어의 통합은 이미지 분류 과제에서 테스트 정확도에 상당한 향상을 이끌 수 있는가?

주요 결과

• 이론적 분석 결과, 적절한 피드백 강도를 가질 경우 EFOBDA는 전밀도 Air-FEEL과 비교해 수렴 성능이 유사하다.
• 제안된 전력 제어 정책은 채널 감쇠와 노이즈로 인한 왜곡을 최소화하여 수렴 속도를 크게 향상시킨다.
• 실험 결과, 최적화된 전력 제어를 적용한 EFOBDA는 피드백 없이 1비트 양자화를 사용하는 경우나 최적화되지 않은 전력 제어를 사용하는 경우보다 더 빠른 수렴 속도와 높은 테스트 정확도를 달성한다.
• 기울기 노름의 기대값에 대한 경계를 통해 수렴 속도 향상 정도를 정량적으로 검증하였으며, 이 경계는 $\mathcal{O}(1/\sqrt{T})$ 스케일을 따른다.
• 오차 피드백 메커니즘은 글로벌 기울기 추정의 기대 오차를 감소시키며, 오차 노름에 대한 경계는 $\frac{2(1+\eta)(1-\delta)G^2}{\eta\delta\beta^2}$에 도달한다.
• 최적화된 전력 제어 정책은 라그랑주 이중성을 통해 닫힌 형태의 해를 도출하였으며, 각 장치의 송신 전력은 $p_k^* = \frac{A h_k}{h_k^2 + \frac{2}{\eta^2 L \|\bm{\sigma}_1\|^2} \lambda_k^*}$로 주어진다.