[논문 리뷰] Temporal-Structure-Assisted Gradient Aggregation for Over-the-Air Federated Edge Learning

Dian Fan, Xiaojun Yuan외 1명|arXiv (Cornell University)|2021. 03. 03.

Privacy-Preserving Technologies in Data참고 문헌 26인용 수 7

한 줄 요약

이 논문은 마르코프 사전 모델을 통해 라운드 간 시간적 상관관계를 활용함으로써 모델 기울기의 상관관계를 이용하는 새로운 오버더어리 페더레이티드 에지 러닝 프레임워크인 시간-구조 보조 기울기 집합(TSA-GA)을 제안한다. 베이지안 추론과 메시지 전달을 통합함으로써 낮은 복잡도로 near-optimal 복원 성능를 달성하며, 수렴 속도와 테스트 정확도에서 기존 최고 수준의 방법들을 크게 능가하면서 오차 없는 기준 성능에 근접한다.

ABSTRACT

In this paper, we investigate over-the-air model aggregation in a federated edge learning (FEEL) system. We introduce a Markovian probability model to characterize the intrinsic temporal structure of the model aggregation series. With this temporal probability model, we formulate the model aggregation problem as to infer the desired aggregated update given all the past observations from a Bayesian perspective. We develop a message passing based algorithm, termed temporal-structure-assisted gradient aggregation (TSA-GA), to fulfil this estimation task with low complexity and near-optimal performance. We further establish the state evolution (SE) analysis to characterize the behaviour of the proposed TSA-GA algorithm, and derive an explicit bound of the expected loss reduction of the FEEL system under certain standard regularity conditions. In addition, we develop an expectation maximization (EM) strategy to learn the unknown parameters in the Markovian model. We show that the proposed TSAGA algorithm significantly outperforms the state-of-the-art, and is able to achieve comparable learning performance as the error-free benchmark in terms of both convergence rate and final test accuracy.

연구 동기 및 목표

• 신뢰할 수 없는 무선 채널을 통해 페더레이티드 에지 러닝(FEEL)에서 상행 링크 통신 오버헤드라는 핵심적 한계를 해결하기 위해.
• 기존에 간과되었던 라운드 간 시간적 상관관계를 활용하여 집합 정확도와 학습 수렴성을 향상시키기 위해.
• 내부 라운드 스파arsity와 라운드 간 시간적 구조를 모두 활용하는 저복잡도의 온라인 기울기 복원 알고리즘을 개발하기 위해.
• 기본적인 정규성 조건 하에 상태 진동 분석을 통해 이론적 성능 한계를 설정하기 위해.
• 기대 최대화(EM) 전략을 사용하여 마르코프 시간 모델의 파라미터를 학습하기 위해.

제안 방법

• 기울기 업데이트의 시간적 상관관계를 포착하기 위해 마르코프 확률 모델을 사용하여 모델 집합 문제를 베이지안 추론 작업으로 수식화한다.
• 과거 관측치로부터 집합 기울기의 최소 평균 제곱 오차(MMSE) 해를 추정하기 위해 메시지 전달 기반 알고리즘인 TSA-GA를 개발한다.
• Turbo-CS 프레임워크를 확장하여 AMP 기반 방법보다 향상된 수렴성과 성능을 보이는 온라인 스파arsity 신호 복원을 가능하게 한다.
• 알고리즘의 행동과 수렴 역학을 특성화하기 위해 명시적인 상태 진동 방정식을 유도한다.
• 관측된 데이터로부터 마르코프 모델 내의 알려지지 않은 파라미터를 학습하기 위해 기대 최대화(EM) 전략을 도입한다.
• 압축 측정 원리와 시간적 사전 정보를 결합하여 노이즈가 있는 오버더어리 수신 신호로부터 글로벌 모델 업데이트를 재구성한다.

실험 결과

연구 질문

• RQ1 모델 기울기의 라운드 간 시간적 상관관계가 오버더어리 페더레이티드 에지 러닝 성능 향상에 효과적으로 활용될 수 있는가?
• RQ2 기울기 업데이트의 시간적 구조를 표현하기 위해 마르코프 사전 모델을 어떻게 구성할 수 있는가?
• RQ3 무선 채널 노이즈가 존재하는 상황에서 저복잡도 메시지 전달 알고리즘이 near-optimal 기울기 복원 성능을 달성할 수 있는가?
• RQ4 상태 진동 분석을 통해 제안된 알고리즘에 대한 이론적 성능 한계를 어떻게 도출할 수 있는가?
• RQ5 EM 기반 접근법을 사용하여 관측된 기울기 시퀀스로부터 시간 모델의 알려지지 않은 파라미터를 얼마나 잘 학습할 수 있는가?

주요 결과

• TSA-GA는 오차 없는 기준 성능과 유사한 수렴 속도와 최종 테스트 정확도를 달성하며, 기존 최고 수준의 방법들을 크게 능가한다.
• 제안된 알고리즘은 낮은 계산 복잡도로 near-optimal 성능를 보이며, 실시간 에지 배포에 적합하다.
• 상태 진동 분석은 알고리즘의 수렴성을 확인하고 표준 정규성 조건 하에 기대 손실 감소의 이론적 한계를 제공한다.
• EM 기반 파라미터 학습 전략은 관측된 기울기 시퀀스로부터 마르코프 모델의 알려지지 않은 파라미터를 효과적으로 추정한다.
• 라운드 간 시간적 상관관계와 내부 라운드 스파arsity의 통합은 단순 스파arsity에 의존하는 방법보다 기울기 복원 정확도를 크게 향상시킨다.
• 이론적 분석은 기대 기울기 오차가 지수적으로 감소함을 보여주며, 이는 FEEL 시스템의 빠른 수렴을 보장한다.