[논문 리뷰] Concentrated Differentially Private and Utility Preserving Federated Learning

Rui Hu, Yuanxiong Guo외 1명|arXiv (Cornell University)|2020. 03. 30.

Privacy-Preserving Technologies in Data참고 문헌 22인용 수 8

한 줄 요약

이 논문은 중심 서버가 완전히 신뢰되지 않는 상황에서도 강력한 프라이버시 보장을 달성하는 새로운 피어드 페더레이티드 러닝 프레임워크를 제안한다. 이는 국소적 그래디언트 노이즈 추가와 안전한 아그리게이션을 결합한 제로-집중된 차별적 프라이버시(zCDP)를 통해 이루어지며, 기존의 차별적 프라이버시 방법에 비해 모델 유틸리티를 크게 향상시킨다. 또한 완전히 신뢰할 수 있는 서버가 필요로 하지 않는다. 제안된 방법은 동일한 프라이버시 예산 하에서 DP-SGD보다 더 빠른 수렴 속도와 높은 정확도를 달성한다.

ABSTRACT

Federated learning is a machine learning setting where a set of edge devices collaboratively train a model under the orchestration of a central server without sharing their local data. At each communication round of federated learning, edge devices perform multiple steps of stochastic gradient descent with their local data and then upload the computation results to the server for model update. During this process, the challenge of privacy leakage arises due to the information exchange between edge devices and the server when the server is not fully trusted. While some previous privacy-preserving mechanisms could readily be used for federated learning, they usually come at a high cost on convergence of the algorithm and utility of the learned model. In this paper, we develop a federated learning approach that addresses the privacy challenge without much degradation on model utility through a combination of local gradient perturbation, secure aggregation, and zero-concentrated differential privacy (zCDP). We provide a tight end-to-end privacy guarantee of our approach and analyze its theoretical convergence rates. Through extensive numerical experiments on real-world datasets, we demonstrate the effectiveness of our proposed method and show its superior trade-off between privacy and model utility.

연구 동기 및 목표

• 중앙 서버가 완전히 신뢰되지 않을 때 페더레이티드 러닝에서의 프라이버시 泄露 문제를 해결하기 위해.
• 페더레이티드 러닝에서 차별적 프라이버시 메커니즘으로 인한 유틸리티 저하를 줄이기 위해.
• 제로-집중된 차별적 프라이버시(zCDP)를 사용하여 엔드 투 엔드 프라이버시 손실을 엄밀하게 제한하기 위해.
• 국소적 그래디언트 노이즈 추가와 안전한 아그리게이션을 통합하여, 차별적 프라이버시 하에서 모델 수렴과 정확도를 향상시키기 위해.
• 제안된 프레임워크 하에서 볼록 및 비볼록 손실 함수에 대해 엄밀한 이론적 수렴 분석을 수립하기 위해.

제안 방법

• 각 엣지 디바이스에서 국소적 그래디언트 노이즈 추가를 적용하여, 프라이버시 보장을 위해 전송 전에 그래디언트에 노이즈를 추가한다.
• 서버에서 프라이버시를 유지하면서 그래디언트를 결합하는 안전한 아그리게이션 프로토콜을 활용하여 총 노이즈 크기를 최소화한다.
• 엔드 투 엔드 프라이버시 손실을 엄밀하게 제한하기 위해 제로-집중된 차별적 프라이버시(zCDP)를 사용하며, 전통적인 (ε,δ)-DP에 비해 필요한 노이즈 양을 감소시킨다.
• 통신 라운드당 다수의 국소적 SGD 스텝을 통합하여 총 통신 횟수를 줄이고 학습 효율성을 향상시킨다.
• 제안된 프라이버시 보존 프레임워크 하에서 볼록 및 비볼록 최적화 문제에 대한 이론적 수렴 속도를 유도한다.
• 다수의 학습 라운드에 걸친 누적 프라이버시 예산을 계산하기 위해 zCDP에 특화된 복합 정리(composition theorem)를 활용한다.

실험 결과

연구 질문

• RQ1 완전히 신뢰할 수 있는 서버에 의존하지 않고도 페더레이티드 러닝 시스템이 강력한 프라이버시 보장을 달성할 수 있는가?
• RQ2 차별적 프라이버시 페더레이티드 러닝에서 프라이버시와 모델 유틸리티의 트레이드오프를 어떻게 개선할 수 있는가?
• RQ3 안전한 아그리게이션은 차별적 프라이버시 페더레이티드 러닝에서 노이즈 증폭과 모델 정확도에 어떤 영향을 미치는가?
• RQ4 페더링 환경에서 표준 (ε,δ)-DP에 비해 zCDP를 사용할 경우 프라이버시-유틸리티 트레이드오프는 어떻게 향상되는가?
• RQ5 제안된 방법은 볼록 및 비볼록 손실 함수에 대해 어떤 이론적 수렴 성질을 가지는가?

주요 결과

• 제안된 방법은 동일한 프라이버시 예산 하에서 DP-SGD보다 더 빠른 수렴 속도와 높은 모델 정확도를 달성하여 유틸리티 향상을 입증한다.
• 안전한 아그리게이션을 사용함으로써 업데이트당 효과적인 노이즈가 감소하여, 안전한 아그리게이션 없이 구현된 변종에 비해 훨씬 높은 테스트 정확도를 기록한다.
• 로지스틱 회귀의 경우, 낮은 프라이버시 예산(예: ε=1)에서도 높은 정확도를 유지하며, 실제 데이터셋에서 테스트 정확도가 90%를 초과한다.
• 딥 네URAL 네트워크의 경우, 50회의 통신 라운드 후 ε ≈ 1.5로 zCDP를 유지하면서도 경쟁 가능한 테스트 정확도(예: CIFAR-10에서 약 85%)를 달성한다.
• 이론적 분석을 통해 비볼록 목표 함수에 대해서는 정류점에 수렴하고, 볼록 목표 함수에 대해서는 선형 수렴 속도를 확보하며 기대 그래디언트 노름에 대한 명시적 경계를 제공한다.
• 프라이버시-유틸리티 트레이드오프 분석 결과, 다양한 ε 값에서 기준 대비 일관되게 뛰어난 성능을 보이며, 모든 프라이버시 수준에서 정확도 향상이 측정된다.