[논문 리뷰] Decentralized Federated Learning via SGD over Wireless D2D Networks

Hong Xing, Osvaldo Simeone외 1명|arXiv (Cornell University)|2020. 02. 28.

Privacy-Preserving Technologies in Data참고 문헌 18인용 수 7

한 줄 요약

이 논문은 무선 디바이스 투 디바이스(D2D) 네트워크를 위한 분산 확률적 경사 하강법(DSGD)의 디지털 및 아날로그 형태의 공중 구현을 제안하며, 간섭 제한된 스케줄링을 위해 그래프 색칠 기법과 희소 기반 신호 복구를 사용한다. 아날로그 방식은 효율적인 공중 계산 덕분에 별형 구조에서 디지털 방식보다 성능이 뛰어나며, 스케줄링 최적화는 성능에 핵심적이다.

ABSTRACT

Federated Learning (FL), an emerging paradigm for fast intelligent acquisition at the network edge, enables joint training of a machine learning model over distributed data sets and computing resources with limited disclosure of local data. Communication is a critical enabler of large-scale FL due to significant amount of model information exchanged among edge devices. In this paper, we consider a network of wireless devices sharing a common fading wireless channel for the deployment of FL. Each device holds a generally distinct training set, and communication typically takes place in a Device-to-Device (D2D) manner. In the ideal case in which all devices within communication range can communicate simultaneously and noiselessly, a standard protocol that is guaranteed to converge to an optimal solution of the global empirical risk minimization problem under convexity and connectivity assumptions is Decentralized Stochastic Gradient Descent (DSGD). DSGD integrates local SGD steps with periodic consensus averages that require communication between neighboring devices. In this paper, wireless protocols are proposed that implement DSGD by accounting for the presence of path loss, fading, blockages, and mutual interference. The proposed protocols are based on graph coloring for scheduling and on both digital and analog transmission strategies at the physical layer, with the latter leveraging over-the-air computing via sparsity-based recovery.

연구 동기 및 목표

• fading, 경로 손실, 간섭과 같은 실제 물리 계층 손상이 존재하는 무선 D2D 네트워크에서 분산 페더레이티드 러닝(FL)을 구현하는 데 도전하는 문제를 다루기.
• 무선 제약 조건 하에서 DSGD 수렴을 가능하게 하는 통신 프로토콜을 설계하며, 디지털 및 아날로그 전송 전략을 모두 활용하기.
• 고밀도 D2D 구조에서의 다중 노드 통신을 가능하게 하고 간섭을 관리하기 위해 그래프 색칠 기반 스케줄링을 도입하기.
• 수렴 속도와 최종 모델 정확도 측면에서 아날로그 공중 계산과 기존 디지털 전송 방식의 성능을 평가하기.
• 다양한 네트워크 연결성과 간섭 조건 하에서 디지털 및 아날로그 구현 간의 상호 교환 관계에 대한 통찰 제공하기.

제안 방법

• 그래프 색칠 기반으로 동시 전송을 방지하기 위해 스케줄링된 장치 전송을 기반으로 무선 fading 채널과 간섭이 존재하는 디지털 DSGD 구현을 제안한다.
• 장치들이 동시에 압축되고 희소화된 모델 파라미터를 전송하는 공중 계산을 사용하는 아날로그 DSGD 변형을 구현하며, 네트워크의 중첩 성질 덕분에 수신기에서 합을 직접 계산할 수 있다.
• 모델 업데이트 벡터의 $k$개의 최대 크기 값을 유지함으로써 전송량을 줄이기 위해 연산자 $\mathrm{sparse}_{k}(\cdot)$ 를 통해 희소화를 적용한다.
• 공식 기반 DSGD 업데이트 규칙을 사용한다: $\theta_i^{(t)} = \theta_i^{(t-1)} - \eta \nabla f_i(\theta_i^{(t-1)}) + \sum_{j \in \mathcal{N}_i} w_{ij} (\theta_j^{(t-1)} - \theta_i^{(t-1)})$, 여기서 $w_{ij}$ 는 대칭 이중 스토케스틱 행렬에서 유도된 가중치이다.
• 간섭을 최소화하고 각 블록 내에서 병렬 통신을 가능하게 하기 위해 그래프 색칠 기반 스케줄링 정책을 설계한다.
• 평균 SNR를 $K=8$대의 장치에서 40 dB로 설정함으로써 전력 제어 및 신호 대 잡음비(SNR) 제약 조건을 통신 모델에 통합한다.

실험 결과

연구 질문

• RQ1 실제 채널 조건 하에서 무선 D2D 페더레이티드 러닝 환경에서 아날로그 전송을 통한 공중 계산이 기존 디지털 DSGD보다 성능이 뛰어나게 되는가?
• RQ2 에지 확률 $p$ 로 제어되는 네트워크 토폴로지 밀도는 디지털 및 아날로그 DSGD 간 성능 상호 교환 관계에 어떤 영향을 미치는가?
• RQ3 그래프 색칠 기반 스케줄링을 통한 간섭 관리는 분산 FL의 수렴성과 정확도에 어떤 영향을 미치는가?
• RQ4 희소화 및 신호 복구 기법은 모델 성능 저하 없이 무선 DSGD의 통신 효율성을 어떻게 향상시키는가?
• RQ5 어떤 네트워크 조건에서 아날로그 DSGD 구현이 디지털 DSGD보다 더 빠른 수렴 속도와 더 높은 최종 정확도를 달성하는가?

주요 결과

• 네트워크 토폴로지가 희박하고 별형일 경우($p=0.1$), 아날로그 DSGD가 수렴 속도와 최종 테스트 정확도 모두에서 디지털 DSGD를 능가하며, 훈련 초반에 더 높은 평균 테스트 정확도를 달성한다.
• 더 밀도가 높은 토폴로지($p=0.3$)에서는 간섭 증가와 각 통신 블록당 유효 신호 관측 수 감소로 인해 아날로그 DSGD의 성능 우위가 줄어든다. 이는 스케줄링된 슬롯 수 $M$ 이 증가함에 따라 더욱 두드러진다.
• TDMA 기반 스케줄링은 아날로그 전송에 비해 스펙트럼 사용 효율이 떨어지지만, 디지털 케이스에서는 제안된 간섭 인식 디지털 스케줄링과 유사한 성능을 보인다.
• 통신 없음 기준선은 성능이 열악하여, 국소 데이터 세트가 작고 클래스가 불완전할 경우 상호 협업이 모델 수렴에 필수적임을 확인한다.
• 제안된 그래프 색칠 기반 스케줄링은 효율적인 병렬 통신을 가능하게 하며, 난이도 높거나 간섭을 간과하는 방법보다 수렴 성능을 크게 향상시킨다.
• $k = d(1 - 0.4^{1/K})$ 를 사용한 희소화는 업로드 신호 전송량을 효과적으로 줄이며 모델 정확도를 유지함으로써 아날로그 방식에서 효율적인 공중 계산을 가능하게 한다.