[논문 리뷰] Over-the-Air Aggregation for Federated Learning: Waveform Superposition and Prototype Validation

Huayan Guo, Yifan Zhu외 6명|arXiv (Cornell University)|2021. 10. 27.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 공유 무선 자원을 통해 다량의 사물인터넷(IoT) 기기에서의 국소 기울기의 아날로그 파형 중첩을 가능하게 하는 OFDM 기반의 공중(OTA) 집계 프레임워크를 제안한다. 맞춤형 다중접속 프로토콜과 함께 이중 단계 파형 사전등균화 기법을 적용하여 타이밍 오프셋과 주파수 오프셋을 완화함으로써, 실세계의 RSS 예측 과제에서 높은 예측 정확도를 달성하면서 오프라인 학습과 유사한 FL 수렴 성능을 확보한다.

ABSTRACT

In this paper, we develop an orthogonal-frequency-division-multiplexing (OFDM)-based over-the-air (OTA) aggregation solution for wireless federated learning (FL). In particular, the local gradients in massive IoT devices are modulated by an analog waveform and are then transmitted using the same wireless resources. To this end, achieving perfect waveform superposition is the key challenge, which is difficult due to the existence of frame timing offset (TO) and carrier frequency offset (CFO). In order to address these issues, we propose a two-stage waveform pre-equalization technique with a customized multiple access protocol that can estimate and then mitigate the TO and CFO for the OTA aggregation. Based on the proposed solution, we develop a hardware transceiver and application software to train a real-world FL task, which learns a deep neural network to predict the received signal strength with global positioning system information. Experiments verify that the proposed OTA aggregation solution can achieve comparable performance to offline learning procedures with high prediction accuracy.

연구 동기 및 목표

• 제한된 무선 자원을 통해 다량의 IoT 기기에서의 업링크 집계로 인한 확장성 저하 문제를 해결한다.
• 공중 집계에서 발생하는 프레임 타이밍 오프셋(TO)과 캐리어 주파수 오프셋(CFO)으로 인한 파형 중첩 왜곡을 극복한다.
• 실세계의 피드포워드 학습 시나리오에서 OTA 집계를 검증하기 위한 실시간 베이스밴드 처리 기능을 갖춘 하드웨어 프로토타입과 전송수신기, 소프트웨어 스택을 개발한다.
• GPS 및 RSS 데이터를 사용한 실세계 신호 세기 예측 과제에서 오프라인 집계와 유사한 FL 수렴 성능을 달성한다.

제안 방법

• 같은 무선 자원 블록을 통해 국소 기울기가 아날로그 파형으로 변조되어 전송되는 OFDM 기반의 OTA 집계 시스템을 설계한다.
• 송신기에서 프레임 타이밍 오프셋(TO)과 캐리어 주파수 오프셋(CFO)을 추정하고 보상하기 위해 이중 단계 파형 사전등균화 기법을 구현한다.
• 접근점(AP)에서 TO 및 CFO를 동시 추정할 수 있도록 하는 맞춤형 다중접속 프로토콜을 도입하여 정확한 중첩을 가능하게 한다.
• 실시간 베이스밴드 처리 및 신호 전송을 위해 AD9361 RF 프론트엔드와 Xilinx ZCU102/ZC706 SoC 기반의 하드웨어 전송수신기 플랫폼을 활용한다.
• 호스트 PC와 AP 간의 모델 교환을 위한 TCP/IP 기반의 전체 스택 애플리케이션 레이어 프로토콜을 구축하여, OTA 기울기 집계를 통한 반복적 FL 학습을 가능하게 한다.
• GPS 좌표에서 수신 신호 세기(RSS)를 예측하기 위해 히든 레이어가 3개인 완전 연결 신경망을 적용하고, OTA 집계를 통해 학습한다.

Figure 1: Illustration of the over-the-air aggregation federated learning system. Sensors train the local NN with local dataset and upload the gradients. The gradients are aggregated in a wireless channel with an analog waveform and are received by the access point (AP). The aggregated gradients are

실험 결과

연구 질문

• RQ1 실세계 무선 환경에서 아날로그 파형 중첩을 통한 공중 집계가 오프라인 집계와 유사한 FL 수렴 성능을 달성할 수 있는가?
• RQ2 프레임 타이밍 오프셋(TO)과 캐리어 주파수 오프셋(CFO)은 공중 피드포워드 학습(OTA-FL)에서 파형 중첩을 어떻게 악화시키며, 이를 효과적으로 완화할 수 있는가?
• RQ3 제안된 이중 단계 사전등균화 기법은 중첩 왜곡을 얼마나 줄이고 집계 정확도를 향상시키는가?
• RQ4 실시간 베이스밴드 처리 기능을 갖춘 하드웨어 프로토타입은 수백만 개의 모델 파rameter를 포함하는 실용적 FL 과제에서 신뢰할 수 있는 OTA 집계를 달성할 수 있는가?
• RQ5 실세계 RSS 예측 과제에서 OTA로 학습된 DNN의 예측 정확도는 얼마이며, 오프라인 학습과 비교해 볼 때 어떤가?

주요 결과

• 제안된 OTA 집계 솔루션은 학습 손실 곡선을 통해 오프라인 학습과 유사한 수렴 속도와 최종 모델 성능을 확보하였다.
• 시험 영역 전역에서 정규화된 제곱예측오차(NMSE)는 대부분의 위치에서 0.005 이하로 유지되었으며, 희소한 훈련 데이터로 인해 AP 근처에서 약간의 성능 저하가 관찰되었다.
• 프로토타입은 OTA 집계를 통해 GPS 데이터에서 RSS를 예측하는 깊은 신경망을 성공적으로 학습시켜 실세계 구현 가능성의 타당성을 입증하였다.
• 이중 단계 사전등균화 기법은 하드웨어의 비완전성에도 불구하고 TO 및 CFO를 효과적으로 완화하여 정확한 파형 중첩을 가능하게 하였다.
• 이전의 OTA 방법에서 관찰되는 1/N의 효율 손실을 겪지 않도록 스팸 시퀀스를 회피함으로써 높은 스펙트럼 효율성을 달성하였다.
• Xilinx SoC와 AD9361 RF 프론트엔드를 기반으로 한 하드웨어 프로토타입은 실시간 기울기 집계를 통한 엔드 투 엔드 OTA-FL 운영을 성공적으로 구현하였다.

Figure 2: Phase response of the effective OTA aggregation channel of $k$ -th sensor.