[논문 리뷰] Have it your way: Individualized Privacy Assignment for DP-SGD

Franziska Boenisch, Christopher Mühl외 3명|arXiv (Cornell University)|2023. 03. 29.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 개인화된 DP-SGD(IDP-SGD)를 제안하며, 각 학습 데이터 포인트에 개별적인 프라이버시 예산을 할당하여 개인화된 프라이버시 보호를 가능하게 하는, 차별적 프라이버시 경사 하강법의 새로운 변종이다. 데이터 샘플링 및 기울기 노이즈 스케일링 메커니즘을 수정함으로써, 이론적 프라이버시 보장을 훼손하지 않으면서도 프라이버시-유용성 트레이드오프를 향상시킨다. 다양한 프라이버시 선호도 분포를 가진 비전 및 언어 벤치마크에서 뚜렷한 유용성 향상을 보여준다.

ABSTRACT

When training a machine learning model with differential privacy, one sets a privacy budget. This budget represents a maximal privacy violation that any user is willing to face by contributing their data to the training set. We argue that this approach is limited because different users may have different privacy expectations. Thus, setting a uniform privacy budget across all points may be overly conservative for some users or, conversely, not sufficiently protective for others. In this paper, we capture these preferences through individualized privacy budgets. To demonstrate their practicality, we introduce a variant of Differentially Private Stochastic Gradient Descent (DP-SGD) which supports such individualized budgets. DP-SGD is the canonical approach to training models with differential privacy. We modify its data sampling and gradient noising mechanisms to arrive at our approach, which we call Individualized DP-SGD (IDP-SGD). Because IDP-SGD provides privacy guarantees tailored to the preferences of individual users and their data points, we find it empirically improves privacy-utility trade-offs.

연구 동기 및 목표

• 모든 사용자가 동일한 프라이버시 선호도를 가진다는 가정을 하는 기존 DP-SGD의 균일한 프라이버시 예산의 한계를 해결하기 위해.
• 기계 학습 학습에 데이터를 기여할 때 개인이 자신의 원하는 프라이버시 보호 수준을 지정할 수 있도록 하기 위해.
• 개별 프라이버시 예산을 지원하면서도 종단 간 차별적 프라이버시 보장을 유지하는 실용적이고 이론적으로 타당한 DP-SGD의 확장 개발을 위해.
• 다양한 데이터셋과 모델 아키텍처에서 개인화된 예산 할당의 유용성과 프라이버시 트레이드오프를 경험적으로 평가하기 위해.

제안 방법

• 각 데이터 포인트의 개별 프라이버시 예산 비례로 선택하는 수정된 데이터 샘플링 메커니즘(Sample)을 도입하여, 더 높은 프라이버시를 요구하는 데이터가 더 자주 사용되도록 한다.
• 클립 노름 승수를 조정함으로써 각 데이터 포인트의 효과적 노이즈 스케일을 조정하는 개인화된 노이즈 스케일링 메커니즘(Scale)을 제안하며, 배치 수준의 노이즈 추가 프레임워크 내에서 개별 포인트의 프라이버시 예산 할당을 가능하게 한다.
• 이론적 분석을 통해 두 메커니즘이 개인화된 프라이버시 매개변수(εp, δ)를 유지하면서도 차별적 프라이버시를 보존함을 확인한다.
• RDP(Rényi Differential Privacy) 분석을 사용하여 프라이버시 경계를 유도하며, 표준 변환 기법을 통해 개인 그룹 수준의 RDP 매개변수를 (εp, δ)-DP 보장을 통해 변환한다.
• 학습 시작 전에 원하는 프라이버시 예산 기반으로 최적의 샘플 레이트와 노이즈 승수를 설정하기 위한 사전 훈련 설정 단계(알고리즘 2 및 3)를 사용한다.
• 각 프라이버시 그룹을 병렬으로 작동하는 독립적인 부분 샘플링된 가우시안 메커니즘으로 간주하며, 개별 프라이버시 매개변수를 가짐으로써 그룹 간 프라이버시 비용이 선형으로 누적됨을 보장한다.

실험 결과

연구 질문

• RQ1 균일한 예산 할당에 비해 개인화된 프라이버시 예산이 DP-SGD의 프라이버시-유용성 트레이드오프를 향상시킬 수 있는가?
• RQ2 다른 프라이버시 예산을 개별 학습 포인트에 할당할 때 차별적 프라이버시를 어떻게 유지할 수 있는가?
• RQ3 개별 샘플링 및 노이즈 스케일링을 지원하는 수정된 DP-SGD의 이론적 프라이버시 보장은 무엇인가?
• RQ4 사용자 간 프라이버시 선호도 분포가 다양할 경우 IDP-SGD의 성능은 어떻게 변화하는가?
• RQ5 표준 DP-SGD 프레임워크 내에서 프라이버시 효율성을 희생시키지 않고 개인화된 예산 할당을 효율적으로 구현할 수 있는가?

주요 결과

• IDP-SGD는 프라이버시 기대치가 높은 사용자에게 더 강력한 예산을 할당함으로써 프라이버시-유용성 트레이드오프를 향상시키며, 낮은 기대치를 가진 사용자는 더 적은 노이즈로 훈련되어 모델 정확도가 향상된다.
• 이론적 분석을 통해 Sample 및 Scale 메커니즘이 개인화된 (εp, δ)-차별적 프라이버시를 만족하며, 프라이버시 비용이 프라이버시 그룹 간 선형으로 누적됨을 확인한다.
• 비전 및 언어 데이터셋에서의 경험적 평가 결과, 프라이버시 선호도가 이질적으로 분포할 경우 여러 모델 아키텍처에서 일관된 유용성 향상이 관찰된다.
• 어떤 사용자도 매우 낮은 프라이버시 내성도를 가질 경우에도 전체 시스템이 가장 약한 프라이버시 예산을 위반하지 않도록 보장하므로 강력한 프라이버시 보장을 유지한다.
• 제안된 메커니즘은 표준 DP-SGD 구현과 호환되며 효율적이며, 개별 예측치에 대한 노이즈 추가가 아니라 클립 노름 조정을 통해 노이즈 스케일링을 달성함으로써 효율성을 확보한다.
• 결과는 프라이버시 선호도가 비대칭일 경우 개인화된 예산 할당이 특히 유익함을 보여주며, 모델 정확도를 희생시키지 않고도 낮은 관심도를 가진 데이터 포인트의 과잉 보호를 방지할 수 있음을 시사한다.