[논문 리뷰] Differentially Private Federated Learning with Laplacian Smoothing

Zhicong Liang, Wang Bao외 3명|arXiv (Cornell University)|2020. 05. 01.

Privacy-Preserving Technologies in Data참고 문헌 68인용 수 9

한 줄 요약

이 논문은 프라이버시 예산을 늘리지 않고도 모델 유틸리티를 향상시키기 위해 라플라스 스무딩을 적용하는 차별적 프라이버시 보장이 있는 페더레이티드 러닝 프레임워크인 DP-Fed-LS를 제안한다. 그래프 푸리에 도메인에서 집계된 기울기의 스무딩 특성을 활용하여, 엄격한 차별적 프라이버시 하에서 분산을 줄이고 수렴 속도를 향상시킨다. 균일 및 포아송 서브샘플링 조건 하에서 MNIST, SVHN, 그리고 셰익스피어 데이터셋에서 더 높은 정확도를 달성한다.

ABSTRACT

Federated learning aims to protect data privacy by collaboratively learning a model without sharing private data among users. However, an adversary may still be able to infer the private training data by attacking the released model. Differential privacy provides a statistical protection against such attacks at the price of significantly degrading the accuracy or utility of the trained models. In this paper, we investigate a utility enhancement scheme based on Laplacian smoothing for differentially private federated learning (DP-Fed-LS), where the parameter aggregation with injected Gaussian noise is improved in statistical precision without losing privacy budget. Our key observation is that the aggregated gradients in federated learning often enjoy a type of smoothness, i.e. sparsity in the graph Fourier basis with polynomial decays of Fourier coefficients as frequency grows, which can be exploited by the Laplacian smoothing efficiently. Under a prescribed differential privacy budget, convergence error bounds with tight rates are provided for DP-Fed-LS with uniform subsampling of heterogeneous Non-IID data, revealing possible utility improvement of Laplacian smoothing in effective dimensionality and variance reduction, among others. Experiments over MNIST, SVHN, and Shakespeare datasets show that the proposed method can improve model accuracy with DP-guarantee and membership privacy under both uniform and Poisson subsampling mechanisms.

연구 동기 및 목표

• 프라이버시 보호를 위한 노이즈 주입으로 인한 유틸리티 저하 문제를 해결하기 위해.
• 같은 차별적 프라이버시 예산 하에서 집계된 기울기의 구조적 스무딩 특성을 활용하여 모델 정확도를 향상시키기 위해.
• 균일 및 포아송 서브샘플링 메커니즘 하에서 DP-Fed-LS에 대한 더 날카운 프라이버시 및 수렴 경계를 개발하기 위해.
• 라플라스 스무딩이 IID 및 Non-IID 데이터 설정 모두에서 분산을 줄이고 일반화를 향상시키는 데 효과적인지 확인하기 위해.
• 비공개 페더레이티드 러닝 및 중심집중형 DP-ERM과 동일한 이론적 수렴 속도를 확립하기 위해.

제안 방법

• 차별적 프라이버시를 위해 노이즈 주입 후 클라이언트 간에 집계된 기울기에 라플라스 스무딩을 적용하는 페더럴 어웨이징 과정에 통합한다.
• 관측된 집계 기울기의 스무딩 특성—다항식 감쇠를 보이는 그래프 푸리에 기저에서의 희박성—을 구조적 사전 지식으로 활용하여 추정 분산을 줄인다.
• 균일 및 포아송 서브샘플링에 대해 기존 결과보다 더 날카운 폐쇄형 프라이버시 경계를 유도한다. 이는 이전 가정을 완화하고 더 나은 성능을 제공한다.
• 강凸, 일반凸, 비凸 설정에서 수렴 오차 경계를 확립하며, 이는 비공개 및 중심집중형 DP-ERM 기준과 동일한 속도를 보인다.
• 푸리에 도메인에서의 스무딩과 분산 감소를 측정하기 위해 유효 차원 $ d_{\rho} = \sum_{i=1}^{d} \Lambda_i $ 와 $ \tilde{d}_{\rho} = \sum_{i=1}^{d} \Lambda_i^2 $ 를 사용한다.
• 적응형 학습률과 서브샘플링을 적용한 수정된 확률적 기울기 하강법을 사용하여 프라이버시, 수렴, 유틸리티 간의 균형을 맞춘다.

실험 결과

연구 질문

• RQ1 라플라스 스무딩은 프라이버시를 훼손하지 않고 차별적 프라이버시 보장 페더레이티드 러닝에서 분산을 줄일 수 있는가?
• RQ2 그래프 푸리에 도메인에서 집계된 기울기의 스무딩 특성이 효과적인 분산 감소와 유틸리티 향상에 기여하는가?
• RQ3 서브샘플링된 DP-Fed에 대해 더 날카운 프라이버시 경계를 도출할 수 있으며, 이는 이전의 가정을 완화하고 유틸리티를 향상시킬 수 있는가?
• RQ4 같은 프라이버시 예산 하에서 DP-Fed-LS의 수렴 속도가 비공개 및 중심집중형 DP-ERM과 일치하는가?
• RQ5 제안된 방법은 프라이버시 보호를 유지하면서 IID 및 Non-IID 데이터 분포 모두에서 모델 정확도를 향상시키는가?

주요 결과

• 제안된 DP-Fed-LS 방법은 균일 및 포아송 서브샘플링 조건 하에서 MNIST, SVHN, 셰익스피어 데이터셋에서 동일한 $(\varepsilon, \delta)$-DP 보장을 유지하면서 모델 정확도를 향상시킨다.
• 강凸 문제의 경우 기대 최적화 오차는 $ \tilde{\mathcal{O}}\left(\frac{(\varsigma^{2}(\sigma)/K + (1-\tau)G^{2} + d_{\sigma})L^{2}\log(1/\delta)}{\mu_{\sigma}\varepsilon^{2}N^{2}}\right) $ 로 경계되며, 프라이버시 파라미터에 대한 개선된 의존성 구조를 보여준다.
• 일般凸 설정에서는 오차 경계가 $ \frac{\sqrt{(\varsigma^{2}(\sigma)/K + 4(1-\tau)G^{2} + d_{\sigma})D_{\sigma}L^{2}\log(1/\delta)}}{\varepsilon N} $ 로 척도화되며, 유효 차원 $ d_{\sigma} $ 가 스무딩 이점의 영향을 캡처한다.
• 비凸 문제의 경우 기대 기울기 노름은 $ \frac{\sqrt{(\varsigma^{2}(\sigma)/K + 4(1-\tau)G^{2} + \tilde{d}_{\sigma})F_{0}\beta L^{2}\log(1/\delta)}}{\varepsilon N} $ 로 경계되며, 스무딩을 통한 유틸리티 향상이 입증된다.
• 이 방법은 비공개 페더레이티드 러닝 및 중심집중형 DP-ERM와 동일한 수렴 속도를 달성하여 점근적 효율성 손실이 없음을 시사한다.
• 실험 결과 라플라스 스무딩이 노이즈 영향을 줄이고 일반화를 향상시키며, 특히 셰익스피어 데이터셋과 같은 Non-IID 환경에서 뚜렷한 효과를 보이며 프라이버시 예산을 증가시키지 않는다.