[논문 리뷰] Randomized Quantization is All You Need for Differential Privacy in Federated Learning

Yeojoon Youn, Zihao Hu외 2명|arXiv (Cornell University)|2023. 06. 20.

Privacy-Preserving Technologies in Data인용 수 7

한 줄 요약

요약: 이 논문은 연합 학습에서 두 단계의 양자화 수준 무작위화와 무작위 반올림을 통해 Renyi 차등 프라이버시를 달성하는 Randomized Quantization Mechanism (RQM)을 도입하고, PBM(Poisson Binomial Mechanism)보다 프라이버시-정확도 트레이드오프가 개선됨을 보인다.

ABSTRACT

Federated learning (FL) is a common and practical framework for learning a machine model in a decentralized fashion. A primary motivation behind this decentralized approach is data privacy, ensuring that the learner never sees the data of each local source itself. Federated learning then comes with two majors challenges: one is handling potentially complex model updates between a server and a large number of data sources; the other is that de-centralization may, in fact, be insufficient for privacy, as the local updates themselves can reveal information about the sources' data. To address these issues, we consider an approach to federated learning that combines quantization and differential privacy. Absent privacy, Federated Learning often relies on quantization to reduce communication complexity. We build upon this approach and develop a new algorithm called the extbf{R}andomized extbf{Q}uantization extbf{M}echanism (RQM), which obtains privacy through a two-levels of randomization. More precisely, we randomly sub-sample feasible quantization levels, then employ a randomized rounding procedure using these sub-sampled discrete levels. We are able to establish that our results preserve ``Renyi differential privacy'' (Renyi DP). We empirically study the performance of our algorithm and demonstrate that compared to previous work it yields improved privacy-accuracy trade-offs for DP federated learning. To the best of our knowledge, this is the first study that solely relies on randomized quantization without incorporating explicit discrete noise to achieve Renyi DP guarantees in Federated Learning systems.

연구 동기 및 목표

• 연합 학습에서 프라이버시와 통신 효율성을 동기부여하고, 무작위 양자화가 프라이버시 보장을 향상시킬 수 있는지 다룬다.
• Gradient 정보를 공개하기 위한 이중 수준 무작위화 접근으로서 Randomized Quantization Mechanism (RQM)을 도입한다.
• RQM에 대한 Renyi 차등 프라이버시 보장을 제공하고 로컬(장치당) 강도를 분석한다.
• 특히 PBM과 비교하여 RQM이 이전의 이산 노이즈 기반 방법보다 더 나은 프라이버시-정확도 트레이드오프를 보임을 실험적으로 입증한다.

제안 방법

• Gradient를 무작위 이산 그리드에 매핑하는 Randomized Quantization Mechanism (RQM)을 제안한다.
• 입력 값에 무작위 반올림을 적용하기 전에 가능한 양자화 수준을 임의로 샘플링한다.
• Gradient 벡터의 각 좌표에 대해 RQM을 독립적으로 적용하고 이를 표준 연합 DP-SGD(Algorithm 1)와 통합한다.
• RQM에 대한 이론적 Renyi DP 경계가 매개변수 (c, Δ, m, q) 및 α에 의존함을 보이고 α→∞일 때 (ε,0)-DP로의 보장을 확장한다.
• PBM보다 Δ, q, m과 같은 매개변수의 구성이 더 유연하여 프라이버시-유용성 트레이드오프를 개선할 수 있음을 보여준다.
• EMNIST에서 PBM과 비교한 RQM의 실험 결과를 제시하고, 프라이버시 보장과 정확도 모두에서 RQM이 더 우수함을 강조한다.

(a) An example of sub-sampling quantization levels for RQM.

실험 결과

연구 질문

• RQ1 무작위 양자화만으로 additive discrete noise 없이 연합 학습에서 Renyi 차등 프라이버시를 달성할 수 있는가?
• RQ2 Randomized Quantization Mechanism이 유사한 커뮤니케이션 예산에 대해 PBM보다 더 촘촘한 Renyi-DP 보장을 제공하는가?
• RQ3 RQM을 연합 DP-SGD에 통합하면 실제 작업(예: EMNIST)에서 PBM과 비교해 정확도-프라이버시 트레이드오프가 개선되는가?
• RQ4 RQM의 하이퍼파라미터 Δ, q, m가 프라이버시 보장과 모델 성능에 미치는 영향은 무엇인가?

주요 결과

• RQM은 로컬(장치당) 수준에서 Renyi 차등 프라이버시 보장을 달성하고 α→∞일 때 표준 DP로 확장된다.
• 수치적 프라이버시 분석은 RQM이 다양한 n 및 α 설정에서 PBM보다 Renyi 발산이 더 작음을 보인다.
• EMNIST에서의 연합 학습 실험은 RQM 기반 DP-SGD가 PBM보다 손실 감소와 정확도 면에서 우수함을 보여준다.
• Δ, q가 다른 세 가지 RQM 구현이 PBM보다 더 나은 프라이버시-정확도 트레이드오프를 달성하며, 노이즈가 없는 클리핑 SGD의 성능에 근접하면서도 프라이버시를 유지한다.
• 다수의 하이퍼파라미터 구성에서 PBM에 비해 향상된 프라이버시 보장 및 모델링 성능을 RQM이 보여준다.

(b) Distribution of outputs $Q(x)$ under PBM and RQM.