[논문 리뷰] Differentially Private Decentralized Learning

Shangwei Guo, Tianwei Zhang외 2명|arXiv (Cornell University)|2020. 06. 14.

Privacy-Preserving Technologies in Data참고 문헌 26인용 수 6

한 줄 요약

이 논문은 분산 학습을 위한 새로운 비밀유지 확률적 경사하강법(DP-SGD) 알고리즘을 제안하며, 네트워크 구조를 고려한 최적화 전략을 사용하여 노이즈 스케일을 감소시키고 모델 유틸리티를 향상시킨다. 국소적 기울기 기여를 제한하고 네트워크 구조를 활용함으로써, 이전의 중심집중형 또는 동기화된 접근 방식보다 더 나은 프라이버시-유틸리티 트레이드오프를 달성한다.

ABSTRACT

Decentralized learning has received great attention for its high efficiency and performance. In such systems, every participant constantly exchanges parameters with each other to train a shared model, which can put him at the risk of data privacy leakage. Differential Privacy (DP) has been adopted to enhance the Stochastic Gradient Descent (SGD) algorithm. However, these approaches mainly focus on single-party learning, or centralized learning in the synchronous mode. In this paper, we design a novel DP-SGD algorithm for decentralized learning systems. The key contribution of our solution is a \emph{topology-aware} optimization strategy, which leverages the unique network characteristics of decentralized systems to effectively reduce the noise scale and improve the model usability. Besides, we design a novel learning protocol for both synchronous and asynchronous decentralized systems by restricting the sensitivity of the SGD algorithm and maximizing the noise reduction. We formally analyze and prove the DP requirement of our proposed algorithms. Experimental evaluations demonstrate that our algorithm achieves a better trade-off between usability and privacy than prior works.

연구 동기 및 목표

• 참가자들이 모델 파라미터를 교환하는 분산 학습 시스템에서의 데이터 프라이버시 泄露 문제를 해결하기 위해.
• 기존의 중심집중형 또는 동기화 학습에 집중한 비밀유지 확률적 경사하강법의 한계를 극복하기 위해.
• 강력한 프라이버시 보장을 확보하면서도 높은 모델 사용성을 유지하는 분산 환경에서 DP 준수 학습 프로토콜을 설계하기 위해.
• 분산 시스템의 고유한 네트워크 구조를 활용하여 프라이버시를 훼손하지 않은 채 노이즈 주입을 최소화하기 위해.
• 제안된 알고리즘의 동기 및 이방식 변형에 대해 미분적 프라이버시를 공식적으로 증명하기 위해.

제안 방법

• 분산 참가자의 네트워크 구조에 따라 노이즈 스케일을 조정하는 네트워크 구조 인식형 노이즈 주입 전략을 제안한다.
• 로컬 기울기 기여를 제한하여 SGD 업데이트 프로세스의 민감도를 제한함으로써 전반적 민감도를 낮춘다.
• DP 보장을 갖춘 동기 및 이방식 분산 학습을 모두 지원하는 새로운 학습 프로토콜을 설계한다.
• 분산 네트워크의 연결성과 통신 패턴을 활용하는 노이즈 감소 기법을 통합한다.
• 민감도 기반의 경계를 사용하여 DP 파라미터를 공식적으로 분석하고, 알고리즘이 (ε, δ)-미분적 프라이버시를 만족함을 증명한다.
• 각 노드의 차수와 이웃 구조를 고려하여 업데이트당 노이즈 분산을 최적화한다.

실험 결과

연구 질문

• RQ1 중앙 집중형 집계기 없이 분산 학습 시스템에 효과적으로 비밀유지 확률적 경사하강법을 적용할 수 있는가?
• RQ2 네트워크 구조는 분산 SGD에서 프라이버시를 유지하면서 노이즈를 최소화하는 데 어떤 역할을 하는가?
• RQ3 동기 및 이방식 분산 환경 모두에서 효율적으로 작동하는 통합된 DP-SGD 프레임워크를 설계할 수 있는가?
• RQ4 네트워크 구조 인식형 노이즈 스케일링은 균일한 노이즈 주입에 비해 프라이버시-유틸리티 트레이드오프를 어떻게 향상시키는가?
• RQ5 다양한 네트워크 구조에서 제안된 분산 DP-SGD 알고리즘의 공식적 프라이버시 보장(ε, δ)은 무엇인가?

주요 결과

• 제안된 알고리즘은 분산 환경에서 이전의 중심집중형 및 동기화 DP-SGD 방법보다 더 나은 프라이버시-유틸리티 트레이드오프를 달성한다.
• 네트워크 구조 인식형 노이즈 스케일링은 필요한 노이즈 크기를 감소시켜 동일한 프라이버시 예산 하에서 더 높은 모델 정확도를 이끌어낸다.
• 이 방법은 동기 및 이방식 분산 학습 프로토콜 모두에 대해 (ε, δ)-미분적 프라이버시를 유지한다.
• 실험 평가 결과, 특히 잘 연결된 네트워크 구조에서 노이즈 주입이 감소함에 따라 모델 사용성이 뚜렷이 향상됨을 확인할 수 있었다.
• 민감도 제한 기반 기울기 업데이트가 전반적 민감도를 효과적으로 제한하여 수렴성을 희생시키지 않은 채 더 날카로운 프라이버시 경계를 가능하게 한다.