[논문 리뷰] Learning Rate Optimization for Federated Learning Exploiting Over-the-air Computation

Chunmei Xu, Shengheng Liu외 3명|arXiv (Cornell University)|2021. 02. 05.

Indoor and Outdoor Localization Technologies참고 문헌 46인용 수 151

한 줄 요약

이 논문은 채널에 의한 집합 왜곡을 줄이기 위해 오버더어공(Over-the-Air Computation, AirComp) 기반 연합학습에서 동적 학습률(Dynamic Learning Rate, DLR) 최적화를 제안한다. 무선 채널의 감쇠에 따라 학습률을 조정함으로써 평균 제곱 오차(Mean Squared Error, MSE)를 감소시키고, MNIST 및 CIFAR10 데이터셋에서 테스트 정확도를 향상시킨다. 폐쇄형 비음향 설계는 점점 커지는 조건과 시뮬레이션을 통해 검증되었다.

ABSTRACT

Federated learning (FL) as a promising edge-learning framework can effectively address the latency and privacy issues by featuring distributed learning at the devices and model aggregation in the central server. In order to enable efficient wireless data aggregation, over-the-air computation (AirComp) has recently been proposed and attracted immediate attention. However, fading of wireless channels can produce aggregate distortions in an AirComp-based FL scheme. To combat this effect, the concept of dynamic learning rate (DLR) is proposed in this work. We begin our discussion by considering multiple-input-single-output (MISO) scenario, since the underlying optimization problem is convex and has closed-form solution. We then extend our studies to more general multiple-input-multiple-output (MIMO) case and an iterative method is derived. Extensive simulation results demonstrate the effectiveness of the proposed scheme in reducing the aggregate distortion and guaranteeing the testing accuracy using the MNIST and CIFAR10 datasets. In addition, we present the asymptotic analysis and give a near-optimal receive beamforming design solution in closed form, which is verified by numerical simulations.

연구 동기 및 목표

• 무선 채널의 감쇠가 오버더어공(AirComp) 기반 연합학습에서 모델 집합을 왜곡시키고 성능을 떨어뜨리는 문제를 해결한다.
• 기존 접근법이 물리계층 자원 최적화(예: 전력 제어, 비음향 설계)에만 초점을 맞추고 기계학습 하이퍼파rameter를 활용하지 않는 한계를 극복한다.
• 채널에 의한 왜곡을 실시간으로 보완하기 위해 새로운 적응형 메커니즘인 동적 학습률(DLR)을 도입한다.
• MISO 및 MIMO 환경에서 각각 폐쇄형 및 반복적 해법을 통해 DLR 최적화를 구현한다.
• MNIST 및 CIFAR10 데이터셋에서 광범위한 시뮬레이션을 통해 DLR의 효과를 검증하고, 다수의 안테나를 사용하는 경우에 대한 점점 커지는 분석을 수행한다.

제안 방법

• 다중 입력 단일 출력(Multiple-Input-Single-Output, MISO) 환경에서 DLR 최적화 문제를 수립하며, 문제는 볼록성을 띠고 폐쇄형 해를 가진다.
• 비볼록 최적화 문제를 해결하기 위해 반복 알고리즘을 사용하여 MIMO 시스템으로 프레임워크를 확장한다.
• 시간에 따라 변화하는 채널 조건에 적응하기 위해 사전 정의된 최소값(rmin)과 최대값(rmax) 사이에서 변하는 동적 학습률을 도입한다.
• 집합 왜곡을 최소화하기 위해 폐쇄형으로 채널 벡터의 합을 계산하는 근사 최적의 수신 비음향 설계를 제안한다.
• 다수의 안테나 배치 조건에서 이론적 성능 한계를 도출하기 위해 점점 커지는 분석을 적용한다.
• AirComp와 DLR 메커니즘을 통합하여 동시에 아날로그로 국소 모델 업데이트를 집합화하면서 왜곡을 최소화한다.

실험 결과

연구 질문

• RQ1 AirComp 기반 연합학습에서 무선 감쇠 채널에 의해 발생하는 모델 집합 오차를 동적 학습률 적응이 효과적으로 줄일 수 있는가?
• RQ2 실세계 데이터셋에서 테스트 정확도와 학습 손실 측면에서 DLR의 성능은 고정 학습률 기반 대비 어떻게 비교되는가?
• RQ3 송신 및 수신 안테나의 수가 DLR 및 비음향 설계의 효과성에 어떤 영향을 미치는가?
• RQ4 점점 커지는 조건에서 MISO 및 MIMO 시스템에서 폐쇄형 수신 비음향 솔루션이 근사 최적 성능을 달성할 수 있는가?
• RQ5 DLR 메커니즘이 물리계층 비음향 설계 및 전력 제어와 어떻게 상호작용하여 전체 연합학습 수렴성과 정확도를 향상시키는가?

주요 결과

• 제안된 DLR 기법은 고정 학습률 기반 대비 MNIST 및 CIFAR10 데이터셋에서 집합 왜곡을 감소시키고 테스트 정확도를 향상시킨다.
• 20개의 장치를 사용한 MNIST 실험에서 DLR는 고정 학습률 대비 97.17%의 테스트 정확도를 달성했으며, 고정 학습률 기반은 97.01%였다. 이는 일관된 향상을 보였다.
• Nd=2, Nt=4인 MIMO 환경에서 CIFAR10에서 DLR는 73.86%의 정확도를 기록했으며, 고정 학습률 기반 대비 71.29%를 기록한 것보다 뛰어났다.
• 점점 커지는 분석 결과, 무한대의 안테나를 사용할 경우 DLR의 MSE가 이론적 한계에 수렴함을 확인하여 폐쇄형 비음향 설계의 타당성을 검증했다.
• 제안된 폐쇄형 수신 비음향 설계는 특히 대규모 MIMO 환경에서 이론적 최소 MSE에 매우 가까운 성능을 보였으며, 최적의 한계에 가까운 성능을 달성했다.
• 시뮬레이션 결과, 안테나 수가 증가함에 따라 DLR와 고정 학습률 간의 성능 격차가 줄어들어 고다양성 조건 하에서도 이 방법의 강건성을 확인했다.