[논문 리뷰] Reconfigurable Intelligent Surface Enabled Federated Learning: A Unified Communication-Learning Design Approach

Hang Liu, Xiaojun Yuan외 1명|arXiv (Cornell University)|2020. 11. 20.

Advanced Wireless Communication Technologies참고 문헌 43인용 수 7

한 줄 요약

이 논문은 재구성 가능한 지능형 표 superfuce(RIS)를 활용한 공중 연합 학습에서 스트래글러 문제를 완화하기 위해 통합적인 통신-학습 최적화 프레임워크를 제안한다. 장치 선택, RIS 위상 이동, 수신기 및 송신기 설계를 공동으로 최적화함으로써 학습 정확도를 크게 향상시키며, 특히 채널 변동성이 높은 조건에서도 최신 기술보다 뛰어난 성능을 발휘한다. 엄밀한 수렴 분석과 순차적 볼록 근사 기반 최적화를 통해 이를 실현한다.

ABSTRACT

To exploit massive amounts of data generated at mobile edge networks, federated learning (FL) has been proposed as an attractive substitute for centralized machine learning (ML). By collaboratively training a shared learning model at edge devices, FL avoids direct data transmission and thus overcomes high communication latency and privacy issues as compared to centralized ML. To improve the communication efficiency in FL model aggregation, over-the-air computation has been introduced to support a large number of simultaneous local model uploading by exploiting the inherent superposition property of wireless channels. However, due to the heterogeneity of communication capacities among edge devices, over-the-air FL suffers from the straggler issue in which the device with the weakest channel acts as a bottleneck of the model aggregation performance. This issue can be alleviated by device selection to some extent, but the latter still suffers from a tradeoff between data exploitation and model communication. In this paper, we leverage the reconfigurable intelligent surface (RIS) technology to relieve the straggler issue in over-the-air FL. Specifically, we develop a learning analysis framework to quantitatively characterize the impact of device selection and model aggregation error on the convergence of over-the-air FL. Then, we formulate a unified communication-learning optimization problem to jointly optimize device selection, over-the-air transceiver design, and RIS configuration. Numerical experiments show that the proposed design achieves substantial learning accuracy improvement compared with the state-of-the-art approaches, especially when channel conditions vary dramatically across edge devices.

연구 동기 및 목표

• 엔드 디바이스의 약한 채널 조건으로 인한 공중 연합 학습에서의 스트래글러 문제를 해결하기 위해.
• 장치 선택, RIS 설정, 공중 연합 수신기 및 송신기 파arameter를 공동으로 설계하는 통합 최적화 프레임워크를 개발하기 위해.
• 학습 분석 프레임워크를 사용하여 FL 수렴에서 데이터 활용도와 통신 오차 간의 트레이드오프를 정량화하기 위해.
• 이종 채널 품질을 가진 대규모 엣지 디바이스 FL 시나리오에서 통신 효율성과 모델 정확도를 향상시키기 위해.

제안 방법

• FL 수렴에 대한 장치 선택과 모델 집계 오차의 영향을 모델링하기 위한 학습 분석 프레임워크를 제안한다.
• 모델 집계 오차를 최소화하기 위해 장치 선택, RIS 위상 이동, 전송 전력 제어를 통합한 최적화 문제를 수립한다.
• 비볼록 최적화 문제를 반복적으로 해결하기 위해 순차적 볼록 근사(Successive Convex Approximation, SCA)를 사용한다. 수렴 보장이 가능하다.
• 최적화 프레임워크 내에서 장치 선택의 조합적 성격을 다루기 위해 지브스 샘플링(Gibbs sampling)을 활용한다.
• 리프시츠 연속성과 유계 기울기 가정을 바탕으로 기대 손실 차이에 대한 해석 가능한 상한을 유도한다.
• RIS를 통한 공중 연산과 통합하여 신호 초합성(superposition)을 향상시키고 모델 집계 오차를 감소시킨다.

실험 결과

연구 질문

• RQ1 다양한 채널 조건 하에서 장치 선택은 공중 연합 학습의 수렴에 어떻게 영향을 미치는가?
• RQ2 통신 오차와 데이터 활용도의 공동 영향은 FL 성능에 미치는 영향은 무엇이며, 이를 정량적으로 모델링할 수 있는가?
• RQ3 공중 FL에서 모델 집계 오차를 최소화하기 위해 RIS 설정을 어떻게 최적화할 수 있는가?
• RQ4 RIS 보조 FL에서 데이터 다양성과 통신 신뢰성 간의 최적 트레이드오프는 무엇인가?
• RQ5 통합된 통신-학습 설계가 히우리스틱 또는 분리된 최적화 접근법보다 성능이 뛰어나다고 할 수 있는가?

주요 결과

• 제안된 RIS 보조 공중 연합 학습 프레임워크는 특히 높은 채널 변동성 조건에서 뚜렷한 학습 정확도 향상을 달성하며, 최신 기술보다 뛰어난 성능을 발휘한다.
• 통합 최적화 접근법은 장치 선택, RIS 위상 이동, 전송 전력을 공동으로 최적화함으로써 모델 집계 오차를 감소시킨다.
• 수치 결과는 SCA 기반 알고리즘이 효율적으로 수렴하며 실용적 환경에서 거의 최적의 성능을 제공함을 확인한다.
• 학습 분석 프레임워크는 데이터 활용도와 통신 오차 간의 트레이드오프를 성공적으로 정량화하여 보다 우수한 시스템 설계를 가능하게 한다.
• RIS 설정은 저SNR 디바이스의 효과적 채널 이득을 향상시켜 스트래글러 효과를 크게 완화시킨다.
• RIS를 통한 지능적인 신호 집중 덕분에 일부 디바이스가 열악한 채널 조건을 가질 경우에도 높은 모델 수렴 성능을 유지한다.