[논문 리뷰] SoteriaFL: A Unified Framework for Private Federated Learning with Communication Compression

Zhize Li, Haoyu Zhao외 2명|arXiv (Cornell University)|2022. 06. 20.

Privacy-Preserving Technologies in Data인용 수 10

한 줄 요약

SoteriaFL는 통신 압축과 국소적 차별적 프라이버시(LDP)를 통합하여 통신 비용을 줄이되 프라이버시나 모델 성능을 희생시키지 않는 비밀 유지 연합 학습을 위한 통합 프레임워크를 제안한다. 일반적인 기울기 추정기(SVRG, SAGA 등)를 압축된 업데이트와 함께 사용하고 프라이버시 보장 노이즈를 적용함으로써 최적의 트레이드오프를 달성하며, $(\epsilon,\delta)$-LDP 보장 하에 통신 복잡도와 수렴 속도 향상을 입증한다.

ABSTRACT

To enable large-scale machine learning in bandwidth-hungry environments such as wireless networks, significant progress has been made recently in designing communication-efficient federated learning algorithms with the aid of communication compression. On the other end, privacy-preserving, especially at the client level, is another important desideratum that has not been addressed simultaneously in the presence of advanced communication compression techniques yet. In this paper, we propose a unified framework that enhances the communication efficiency of private federated learning with communication compression. Exploiting both general compression operators and local differential privacy, we first examine a simple algorithm that applies compression directly to differentially-private stochastic gradient descent, and identify its limitations. We then propose a unified framework SoteriaFL for private federated learning, which accommodates a general family of local gradient estimators including popular stochastic variance-reduced gradient methods and the state-of-the-art shifted compression scheme. We provide a comprehensive characterization of its performance trade-offs in terms of privacy, utility, and communication complexity, where SoteraFL is shown to achieve better communication complexity without sacrificing privacy nor utility than other private federated learning algorithms without communication compression.

연구 동기 및 목표

• 연합 학습에서 동시에 통신 효율성과 클라이언트 측 프라이버시를 보장하는 통합 프레임워크의 부재를 해결하기 위해.
• 차별적 프라이버시 SGD에 압축을 단순히 적용할 경우 성능과 수렴 속도가 떨어지는 문제를 해결하기 위해.
• 변동 감소 방법인 SVRG, SAGA와 같은 다양한 기울기 추정기와 호환되는 일반 목적의 프레임워크를 설계하기 위해.
• 압축이 존재하는 상황에서 프라이버시, 성능, 통신 복잡도 간의 트레이드오프를 이론적으로 규명하기 위해.
• 압축을 활용한 프라이버시 보장 연합 학습에서 프라이버시나 모델 성능을 훼손하지 않으면서도 효과적으로 통신을 압축할 수 있는지 입증하기 위해.

제안 방법

• 국소적 차별적 프라이버시(LDP)와 일반적인 통신 압축 연산자 클래스를 통합한 통합 프레임워크인 SoteriaFL을 도입한다.
• 기울기 업데이트의 분산을 줄이면서도 프라이버시를 유지하기 위해 시프트 기반의 압축 기법을 활용한다.
• 기울기 추정기 이론적 분 析를 바탕으로 수렴성과 프라이버시를 균형 잡는 새로운 스텝사이즈 선택 규칙을 도입한다.
• $(\epsilon,\delta)$-LDP를 보장하기 위해 노이즈 주입을 적용하며, 분산은 $\sigma_p^2 = O\left(\frac{G^2 T \log(1/\delta)}{m^2 \epsilon^2}\right)$ 로 설정된다.
• SVRG, SAGA 등 다양한 기울기 추정기를 지원하기 위해, 이들의 분산 및 편향 항을 통합 최적화 프레임워크에 모델링한다.
• 기대 기울기 노름 기반 수렴 한계를 유도하여, 수렴 속도가 $O\left(\frac{G\sqrt{(1+\omega)Ld\log(1/\delta)}}{\sqrt{n}m\epsilon}\right)$ 임을 보여준다.

실험 결과

연구 질문

• RQ1 통신 압축을 프라이버시 보장 연합 학습에 효과적으로 통합할 수 있는가? 이로 인해 모델 성능이 떨어지지 않는가?
• RQ2 압축과 LDP의 통합은 프라이버시 보장 연합 학습의 수렴 속도와 통신 복잡도에 어떤 영향을 미치는가?
• RQ3 통합 프레임워크에서 프라이버시, 성능, 통신 비용 간의 최적 트레이드오프는 무엇인가?
• RQ4 한 개의 프레임워크로 압축과 LDP 하에서 다양한 기울기 추정기(SVRG, SAGA 등)를 지원할 수 있는가?
• RQ5 이러한 통합 환경에서 수렴성과 프라이버시에 대해 이론적으로 어떤 보장을 제공할 수 있는가?

주요 결과

• SoteriaFL은 $(\epsilon,\delta)$-LDP 하에서 통신 효율성을 향상시키며, 수렴 속도가 $O\left(\frac{G\sqrt{(1+\omega)Ld\log(1/\delta)}}{\sqrt{n}m\epsilon}\right)$ 로 향상됨을 입증한다.
• 압축 하에서 SVRG 및 SAGA 추정기 모두 수렴성과 프라이버시 보장이 입증된 상태로 지원된다.
• 압축을 통해 통신 비용이 $1+\omega$ 배 감소하며, $\omega$ 는 압축 비율을 제어한다.
• 프라이버시를 훼손하지 않으면서도 성능을 유지하며, 이는 제한된 프라이버시 분산 $\sigma_p^2 = O\left(\frac{G^2 T \log(1/\delta)}{m^2 \epsilon^2}\right)$ 으로 입증된다.
• 이론적 분석을 통해 SoteriaFL이 비압축 프라이버시 보장 연합 학습 방법보다 더 낮은 통신 복잡도를 달성함을 보여준다.
• 스텝사이즈 및 시프트 파라미터 선택을 통해 수렴성과 프라이버시를 균형 잡는 경험적 성과가 입증되었다.