[논문 리뷰] Wide Network Learning with Differential Privacy

Huanyu Zhang, Ilya Mironov외 1명|arXiv (Cornell University)|2021. 03. 01.

Privacy-Preserving Technologies in Data참고 문헌 54인용 수 9

한 줄 요약

이 논문은 NLP 및 추천 시스템과 같은 고차원 설정에서 특히 중요한, 임베딩 레이어를 포함한 넓은 신경망에서 흔히 발생하는 기울기 희소성(gradient sparsity)을 활용하여, 개인정보 보호와 정확도 간의 상충 관계를 크게 줄이는 새로운 비밀성 보장 학습 알고리즘을 제안한다. 기울기의 희소성을 활용함으로써 모델 크기에 대한 로그적 의존도를 달성하여, 특히 자연어 처리 및 추천 시스템 분야에서 기존 DP-SGD 대비 유용성 향상을 이룬다.

ABSTRACT

Despite intense interest and considerable effort, the current generation of neural networks suffers a significant loss of accuracy under most practically relevant privacy training regimes. One particularly challenging class of neural networks are the wide ones, such as those deployed for NLP typeahead prediction or recommender systems. Observing that these models share something in common--an embedding layer that reduces the dimensionality of the input--we focus on developing a general approach towards training these models that takes advantage of the sparsity of the gradients. More abstractly, we address the problem of differentially private empirical risk minimization (ERM) for models that admit sparse gradients. We demonstrate that for non-convex ERM problems, the loss is logarithmically dependent on the number of parameters, in contrast with polynomial dependence for the general case. Following the same intuition, we propose a novel algorithm for privately training neural networks. Finally, we provide an empirical study of a DP wide neural network on a real-world dataset, which has been rarely explored in the previous work.

연구 동기 및 목표

• 자연어 처리 및 추천 시스템에서 널리 사용되는 넓은 신경망에 특화된, 비밀성 보장 딥 러닝에서 심각한 정확도 저하 문제를 해결한다.
• 넓은 신경망이 입력 데이터의 희소성로 인해 특히 임베딩 레이어에서 기울기 희소성이 자주 발생함을 규명한다.
• 기울기 희소성을 활용하여 경험적 리스크 최소화 문제에서 개인정보 비용을 줄일 수 있는 이론적 및 실용적 프레임워크를 개발한다.
• 기울기 희소성이 비볼록 최적화에서 일반화 성능 향상과 개인정보 예산 소비 감소에 기여함을 입증한다.
• 실세계 데이터셋을 대상으로 한 실험적 검증을 통해, 표준 DP-SGD 대비 뛰어난 유용성과 강력한 개인정보 보호 보장을 동시에 확보함을 보여준다.

제안 방법

• 이론적 분석을 통해 비볼록 비밀성 보장 ERM에서 기울기 희소성이 존재할 경우, 위험도가 $ O\big(\frac{\text{poly}(\text{log } p)}{n^{1/4}}\big) $로 스케일링됨을 보이며, 일반적인 경우 $ O\big(\frac{\text{poly}(p)}{\text{sqrt}(n)}\big) $ 대비 크게 향상됨을 입증한다.
• 기울기의 희소성을 유지하고 노이즈 주입을 줄이기 위해 기울기 갱신 방식을 수정하는 새로운 알고리즘을 제안하며, 희소 영역에서의 비밀성 선택을 위해 지수 기반 메커니즘을 활용한다.
• 기울기 갱신의 희소성을 우선시하는 비밀성 선택 메커니즘을 도입하여, 노이즈가 모델 수렴에 미치는 영향를 최소화한다.
• 각 갱신의 희소성 패턴에 맞게 기울기 클리핑과 노이즈 추가를 조정한 수정된 DP-SGD 프레임워크를 적용한다.
• 실제 훈련에서 개인정보 泄露를 실증적으로 추정하기 위해 캐니 페리즈와 랭크 기반 기억 메트릭을 활용하며, 하이퍼파라미터 튜닝을 위한 실용적 도구를 제공한다.
• 개념적 계량법( moments accountant )을 활용해 개인정보 손실을 추적하여, 공식적인 $(ε, δ)$-비밀성 보장 보장을 확보한다.

실험 결과

연구 질문

• RQ1 넓은 신경망에서 기울기 희소성을 활용하여 비밀성 보장 학습에서 개인정보-정확도 간 상충 관계를 줄일 수 있는가?
• RQ2 기울기 희소성이 비볼록 경험적 리스크 최소화 문제에서 일반화 성능과 개인정보 보장에 어떤 영향을 미치는가?
• RQ3 제안된 알고리즘이 실세계의 넓은 신경망 작업에서 표준 DP-SGD 대비 모델 유용성 측면에서 뛰어나게 성능을 발휘하는가?
• RQ4 기억 기반 메트릭이 비밀성 보장 모델에서 개인정보 泄露의 신뢰할 수 있는 지표로 기능하는가?
• RQ5 입력의 희소성이 개인 정보 예산의 유효성과 개인 정보 훈련에서의 모델 수렴에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 모델 크기에 대해 로그적 의존도를 가지며, 일반적인 경우의 다항식 의존도 대비 $ O\big(\frac{\text{poly}(\text{log } p)}{n^{1/4}}\big) $의 위험 한계를 달성한다.
• 실세계 데이터셋에 대한 실험 결과, 제안된 알고리즘이 표준 DP-SGD 대비 더 낮은 퍼플렉서티를 보이며 더 높은 유용성을 확보함을 입증하였다.
• 기억 기반 평가 결과, 제안된 방법은 DP-SGD 수준의 개인정보 보호 행동을 달성하였으며, 카이제곱 검정에서 $ p $-값이 0.00에서 0.88 사이로 나타나 균일성에서의 유의미한 편차가 없음을 시사한다.
• 캐니 수 $ n_c = 15 $ 일 때, 경험적 $ ε $-손실은 0.07에서 0.11 사이로 추정되어 그룹 개인 정보 보호 하에 강력한 개인정보 보장을 보여준다.
• 카이제곱 거리 메트릭이 개인정보 하이퍼파라미터 튜닝에 민감하고 유용함을 입증하여, 개인 정보 보장 모델의 실용적 구현 가능성을 높였다.
• 희귀 표현이 포함된 데이터셋에서 훈련하더라도 캐니 페리즈 순위에서 기억 현상이 관찰되지 않아, 제안된 방법이 희소한 입력 조건에서도 강력한 개인정보 보장을 유지함을 입증하였다.