[논문 리뷰] Federated Block Coordinate Descent Scheme for Learning Global and Personalized Models

Ruiyuan Wu, Anna Scaglione외 4명|arXiv (Cornell University)|2020. 12. 27.

Privacy-Preserving Technologies in Data참고 문헌 29인용 수 6

한 줄 요약

이 논문은 계층적 클라우드-에지 통신 아키텍처를 활용하여 연합 학습에서 글로벌 모델과 개인화 모델을 동시에 최적화하는 연합 블록 좌표 강하 방식을 제안한다. 이는 클라우드 서버 간 이면적 업데이트를 가능하게 하며, 이차 형벌 공식을 통해 모델 개인화를 구현하여 동기화 방법에 비해 하위선형 수렴성과 감소된 지연 시간을 달성한다.

ABSTRACT

In federated learning, models are learned from users' data that are held private in their edge devices, by aggregating them in the service provider's "cloud" to obtain a global model. Such global model is of great commercial value in, e.g., improving the customers' experience. In this paper we focus on two possible areas of improvement of the state of the art. First, we take the difference between user habits into account and propose a quadratic penalty-based formulation, for efficient learning of the global model that allows to personalize local models. Second, we address the latency issue associated with the heterogeneous training time on edge devices, by exploiting a hierarchical structure modeling communication not only between the cloud and edge devices, but also within the cloud. Specifically, we devise a tailored block coordinate descent-based computation scheme, accompanied with communication protocols for both the synchronous and asynchronous cloud settings. We characterize the theoretical convergence rate of the algorithm, and provide a variant that performs empirically better. We also prove that the asynchronous protocol, inspired by multi-agent consensus technique, has the potential for large gains in latency compared to a synchronous setting when the edge-device updates are intermittent. Finally, experimental results are provided that corroborate not only the theory, but also show that the system leads to faster convergence for personalized models on the edge devices, compared to the state of the art.

연구 동기 및 목표

• 사용자별 데이터 습관과 비독립 동일분포(Non-i.i.d.) 데이터 분포를 고려하여 연합 학습에서 모델 개인화 문제를 해결하기 위해.
• 동기화 연합 학습에서 이질적인 엣지 디바이스의 계산 및 통신 시간으로 인한 학습 지연을 줄이기 위해.
• 모델 개인화와 이면적 클라우드 서버 업데이트를 모두 지원하는 통신 및 계산 프레임워크를 설계하기 위해.
• 동기 및 이면적 설정 하에서 수렴성 및 지연 시간 성능을 이론적으로 분석하기 위해.

제안 방법

• 마스터-슬레이브 및 다중 에이전트 네트워크를 활용하여 클라우드-에지 간 및 클라우드 간 통신을 모델링하는 계층적 통신 아키텍처를 제안한다.
• 이중 변수를 사용하여 국소 모델과 글로벌 모델을 번갈아가며 업데이트하는 블록 좌표 강하 기반 계산 방식을 도입한다.
• 글로벌 모델 정확도와 국소 모델 개인화 간 균형을 맞추기 위해 이차 형벌 공식을 활용하여 민감한 트레이드오프를 허용한다.
• 동기 및 이면적 클라우드 환경에 맞게 맞춤형 통신 프로토콜을 설계하였으며, 이면적 프로토콜은 다중 에이전트 공감 기법에서 영감을 받았다.
• 국소 및 글로벌 변수를 기울기 정보와 공감 오차 기반으로 업데이트하는 이중 기반 업데이트 메커니즘을 사용한다.
• 리아포노프 함수를 사용하여 수렴성을 분석하고, 확률적 기울기 하에서 O(1/√T)의 하위선형 수렴 속도를 유도한다.

실험 결과

연구 질문

• RQ1 연합 학습 프레임워크가 동시에 개인화된 국소 모델과 이면적 클라우드 서버 업데이트를 지원할 수 있는가?
• RQ2 제안된 계층적 통신 아키텍처는 전통적인 동기 연합 학습에 비해 지연 시간을 어떻게 감소시키는가?
• RQ3 이면적 업데이트 하에서 제안된 블록 좌표 강하 알고리즘의 이론적 수렴 속도는 무엇인가?
• RQ4 이차 형벌을 통한 모델 개인화가 비독립 동일분포(Non-i.i.i.d.) 사용자 데이터에서 성능을 어떻게 향상시키는가?
• RQ5 간헐적인 엣지 디바이스 업데이트가 시스템 지연 시간에 미치는 영향은 무엇이며, 이면적 프로토콜은 이를 완화할 수 있는가?

주요 결과

• 제안된 알고리즘이 확률적 기울기 하에서 이론적 수렴성을 확인하는 하위선형 수렴 속도 O(1/√T)를 달성한다.
• 이면적 통신 프로토콜은 특히 엣지 디바이스 업데이트가 간헐적일 경우 동기 설정에 비해 지연 시간을 크게 감소시킨다.
• 시스템은 최신 기술 대비 엣지 디바이스에서 개인화 모델의 수렴 속도가 더 빠르게 나타난다.
• 수렴 속도는 장치 수, 스텝 사이즈, 기울기 분산을 포함하는 항목들에 의해 제한되며, √T 및 √R에 명시적인 의존성을 가진다.
• 이차 형벌 공식을 통한 글로벌 모델 품질과 국소 개인화 간 균형 조절을 통해 성능 향상을 달성한다.
• 실험 결과는 이론적 분석을 검증하며, 제안된 방법이 수렴 속도 및 개인화 정확도 측면에서 기존 접근법을 능가함을 보여준다.