[논문 리뷰] Hierarchical Federated Learning with Quantization: Convergence Analysis and System Design

Lumin Liu, Jun Zhang외 2명|arXiv (Cornell University)|2021. 03. 26.

Privacy-Preserving Technologies in Data참고 문헌 21인용 수 7

한 줄 요약

이 논문은 모델 양자화를 통합한 계층적 분산학습 프레임워크를 제안하며, 엣지-클라우드 통신 지연과 양자화 노이즈를 모두 고려한 보다 날카운 수렴 분석을 제공한다. 이 분석을 통해 클라이언트-엣지 간격은 천천히 감소시켜야 하고, 엣지-클라우드 간격은 지연 비율에 따라 적응해야 하며, 시뮬레이션을 통해 통신 효율성 향상과 더 빠른 수렴을 입증한다.

ABSTRACT

Federated learning (FL) is a powerful distributed machine learning framework where a server aggregates models trained by different clients without accessing their private data. Hierarchical FL, with a client-edge-cloud aggregation hierarchy, can effectively leverage both the cloud server's access to many clients' data and the edge servers' closeness to the clients to achieve a high communication efficiency. Neural network quantization can further reduce the communication overhead during model uploading. To fully exploit the advantages of hierarchical FL, an accurate convergence analysis with respect to the key system parameters is needed. Unfortunately, existing analysis is loose and does not consider model quantization. In this paper, we derive a tighter convergence bound for hierarchical FL with quantization. The convergence result leads to practical guidelines for important design problems such as the client-edge aggregation and edge-client association strategies. Based on the obtained analytical results, we optimize the two aggregation intervals and show that the client-edge aggregation interval should slowly decay while the edge-cloud aggregation interval needs to adapt to the ratio of the client-edge and edge-cloud propagation delay. Simulation results shall verify the design guidelines and demonstrate the effectiveness of the proposed aggregation strategy.

연구 동기 및 목표

• 계층적 분산학습에서 모델 양자화를 고려한 정확한 수렴 분석 부족 문제를 해결하여 시스템 최적화에 기여한다.
• 기존의 느슨한 상한선이 양자화 영향을 忽시하고 있어 실제 계층적 FL 시스템 설계에 유용하지 못한 점을 보완한다.
• 통신 오버헤드를 최소화하면서 모델 정확도를 유지하기 위해 클라이언트-엣지 및 엣지-클라우드 집계 간격을 최적화하기 위한 분석적 지침을 제공한다.
• 계층적 집계와 양자화를 동시에 고려하여 통신 효율성과 수렴성 간의 트레이드오프를 균형 있게 조절한다.
• 실제 지연과 양자화 노이즈를 반영한 엄밀한 이론적 상한선을 기반으로 시스템 수준의 설계 결정을 가능하게 한다.

제안 방법

• 로컬 업데이트 스텝 수와 양자화 노이즈를 모두 고려하여 계층적 FL에 대한 보다 날카운 수렴 상한선을 유도한다.
• 세 단계의 학습 프로세스 도입: 로컬 클라이언트 업데이트, 엣지 수준 집계(양자화 포함), 클라우드 수준 집계(추가 양자화 포함).
• 로컬 스텝을 가진 확률적 경사하강법(SGD)을 사용하고, 클라이언트-엣지 수준에선 매개변수 $ q_1 $, 엣지-클라우드 수준에선 $ q_2 $를 가진 유한한 양자화 모델을 통해 양자화 오차 항을 포함한다.
• 분산 분해와 기대값 상한선을 적용하여, 기울기 노름과 노이즈 항을 포함한 수렴 상한선을 유도하며, 이는 로컬 업데이트와 양자화 영향을 모두 반영한다.
• 유도된 상한선을 기반으로 클라이언트-엣지 집계 간격 $ \tau_1 $ 과 엣지-클라우드 간격 $ \tau_2 $ 를 최적화하며, $ \tau_1 $ 은 천천히 감소시켜야 하고 $ \tau_2 $ 는 지연 비율에 따라 스케일링되어야 함을 보여준다.
• 이론적 결과를 시뮬레이션을 통해 검증하여 최적화된 집계 전략 하에서 기존 기준 FL 및 비최적화 계층적 FL 대비 더 빠른 수렴과 낮은 통신 비용을 입증한다.

실험 결과

연구 질문

• RQ1 모델 양자화가 계층적 분산학습의 수렴에 어떤 영향을 미치며, 양자화 노이즈를 고려한 보다 날카운 이론적 상한선를 도출할 수 있는가?
• RQ2 계층적 FL에서 최적의 클라이언트-엣지 집계 간격 $ \tau_1 $ 는 무엇이며, 시간이 지남에 따라 어떻게 조정되어야 하는가?
• RQ3 계층적 FL에서 엣지-클라우드 집계 간격 $ \tau_2 $ 는 통신 지연과 모델 정확도를 균형 있게 유지하기 위해 어떻게 선택되어야 하는가?
• RQ4 클라이언트-엣지 간 지연과 엣지-클라우드 간 지연의 비율은 최적의 집계 전략에 어떤 영향을 미치는가?
• RQ5 제안된 양자화된 계층적 FL 프레임워크는 기존의 전통적 FL과 비교해 수렴 속도와 통신 효율성 측면에서 어떻게 다른가?

주요 결과

• 제안된 수렴 상한선는 기존의 느슨하고 양자화를 고려하지 않은 상한선보다 훨씬 날카롭게, 더 정확한 시스템 설계를 가능하게 한다.
• 클라이언트-엣지 집계 간격 $ \tau_1 $ 는 로컬 업데이트 정확도와 통신 빈도 간 균형을 맞추기 위해 시간이 지남에 따라 천천히 감소시켜야 한다.
• 엣지-클라우드 집계 간격 $ \tau_2 $ 는 클라이언트-엣지 대비 엣지-클라우드 전파 지연 비율에 따라 적응적으로 조정되어야 하며, 이는 수렴 시간을 최소화한다.
• 시뮬레이션 결과는 최적화된 집계 전략이 기존 기준 FL 및 비최적화 계층적 FL 대비 학습 시간 단축과 통신 비용 감소를 확인함으로써 효과를 입증한다.
• 이론적 분석 결과, 양자화 노이즈가 수렴 분산에 기여하며, 이 영향이 유도된 상한선에 명시적으로 반영됨을 확인했다.
• 유도된 상한선는 실질적인 시스템 최적화를 가능하게 하며, 고정된 시간 예산 내에서 빠른 수렴을 이끌 수 있는 최적의 $ \tau_1 $ 과 $ \tau_2 $ 를 선택하는 데 유용하다.