[논문 리뷰] Share Your Representation Only: Guaranteed Improvement of the Privacy-Utility Tradeoff in Federated Learning

Zebang Shen, Jiayuan Ye외 3명|arXiv (Cornell University)|2023. 09. 11.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

이 논문은 표현 학습과 분류기 헤드 개인화를 분리함으로써, 글로벌 표현에 대해 차별적 비밀보장 학습을 가능하게 하면서도 로컬 모델 개인화를 유지하는 새로운 피어드 학습 프레임워크인 CENTAUR를 제안한다. 단일의 차별적 비밀보장 글로벌 표현 함수를 훈련하고 개별 분류기 헤드는 로컬에서 적응하게 함으로써, CENTAUR는 증명 가능한 향상된 비밀보장-유용성 트레이드오프를 달성하며, 선형 표현 설정에서 동일한 비밀보장 예산 하에 이전 연구 대비 √d의 유용성 향상을 보인다.

ABSTRACT

Repeated parameter sharing in federated learning causes significant information leakage about private data, thus defeating its main purpose: data privacy. Mitigating the risk of this information leakage, using state of the art differentially private algorithms, also does not come for free. Randomized mechanisms can prevent convergence of models on learning even the useful representation functions, especially if there is more disagreement between local models on the classification functions (due to data heterogeneity). In this paper, we consider a representation federated learning objective that encourages various parties to collaboratively refine the consensus part of the model, with differential privacy guarantees, while separately allowing sufficient freedom for local personalization (without releasing it). We prove that in the linear representation setting, while the objective is non-convex, our proposed new algorithm \DPFEDREP\ converges to a ball centered around the \emph{global optimal} solution at a linear rate, and the radius of the ball is proportional to the reciprocal of the privacy budget. With this novel utility analysis, we improve the SOTA utility-privacy trade-off for this problem by a factor of $\sqrt{d}$, where $d$ is the input dimension. We empirically evaluate our method with the image classification task on CIFAR10, CIFAR100, and EMNIST, and observe a significant performance improvement over the prior work under the same small privacy budget. The code can be found in this link: https://github.com/shenzebang/CENTAUR-Privacy-Federated-Representation-Learning.

연구 동기 및 목표

• 데이터 이질성으로 인해 발생하는 큰 로컬 기울기로 인해 모델의 유용성이 떨어지는 차별적 비밀보장 피어드 학습에서의 근본적인 갈등을 해결하기 위해.
• 글로벌 표현 학습과 로컬 분류기 개인화를 분리함으로써 비밀보장-유용성 트레이드오프를 향상시키기 위해.
• 엄격한 비밀보장 예산 하에서도 공유 표현의 효율적인 차별적 비밀보장 최적화를 가능하게 하면서도 높은 모델 유용성을 유지하기 위해.
• 차별적 비밀보장 제약 조건 하에서 제안된 방법의 이론적 수렴 보장을 확립하기 위해.
• 다양한 데이터셋과 데이터 이질성 수준에서 제안된 방법의 우수성을 실증적으로 검증하기 위해.

제안 방법

• 신경망을 공유되는 글로벌 표현 함수와 클라이언트별 고유의 분류기 헤드로 분해한다.
• 글로벌 표현 업데이트에만 차별적 비밀보장을 적용하며, 감도가 제한된 노이즈 주입을 사용한다.
• 스펙트럼 분석을 위한 노이즈가 섞인 파wr 메서드의 성공 확률을 향상시키기 위해 교차검증 기반 설계를 도입한다.
• 이중 단계 최적화를 사용한다: 글로벌 표현은 차별적 비밀보장 확률적 기울기 하강법으로, 로컬 헤드는 각 클라이언트별로 독립적으로 훈련한다.
• 글로벌 최적해 주변의 1/ε 비례 반경 내에서 선형 수렴을 보이는 새로운 수렴 분석을 제안한다.
• 행렬 농도 부등식과 스펙트럼 분석을 적용하여 비밀보장 제약 조건 하에서 추정 오차의 경계를 설정한다.

실험 결과

연구 질문

• RQ1 표현 학습 단계를 분류기 개인화에서 분리함으로써, 피어드 학습에서 비밀보장-유용성 트레이드오프를 향상시킬 수 있는가?
• RQ2 글로벌 표현 훈련을 로컬 개인화에서 분리함으로써, 차별적 비밀보장 하에서 기울기 클리핑의 부정적 영향을 줄일 수 있는가?
• RQ3 표현 학습에만 비밀보장 예산을 집중함으로써, 이전의 DP-FedAvg 스타일 방법보다 증명 가능한 더 높은 유용성을 달성할 수 있는가?
• RQ4 데이터 이질성 하에서 차별적 비밀보장 글로벌 표현의 이론적 수렴 행동은 어떠한가?
• RQ5 고정된 비밀보장 예산 하에서 입력 차원 d에 따라 유용성 향상은 어떻게 변화하는가?

주요 결과

• 선형 표현 설정에서 CENTAUR는 이전 연구 대비 √d의 유용성-비밀보장 트레이드오프 향상을 달성하며, 이는 정리 5.1에 의해 수식화되어 있다.
• 알고리즘은 비밀보장 예산 ε에 비례하는 1/ε 반경 내에서 선형으로 수렴하며, 이는 글로벌 최적해 주변의 구역으로 수렴한다.
• CIFAR10, CIFAR100, EMNIST에서의 실증 평가 결과, 작은 비밀보장 예산(ε=1, δ=10⁻⁵) 하에서도 DP-FedAvg, PPSGD, PMTL-ft, DP-FedAvg-fb와 비교해 일관된 성능 향상을 보였다.
• CIFAR10에서 다양한 데이터 이질성 설정 하에서도 기준 모델들을 균일하게 능가하며, 강건성과 확장성을 입증했다.
• 노이즈가 섞인 파워 메서드에 대한 교차검증 설계는 비밀보장 제약 조건 하에서 스펙트럼 추정의 성공 확률을 크게 향상시켰다.
• 이론적 분석을 통해 데이터 이질성으로 인해 로컬 모델의 분류기 헤드가 크게 다를 경우에도 수렴성이 유지됨을 확인했다.