[논문 리뷰] Concentrated Differentially Private Gradient Descent with Adaptive per-Iteration Privacy Budget

Jae Wook Lee, Daniel Kifer|arXiv (Cornell University)|2018. 08. 28.

Privacy-Preserving Technologies in Data참고 문헌 20인용 수 9

한 줄 요약

이 논문은 제로-집중된 차별적 프라이버시(zCDP) 하에서 적응형 프라이버시 예산 할당 전략을 제안하며, 기울기 크기에 따라 노이즈를 동적으로 조정함으로써 최적화 정확도를 향상시킨다. 선형 탐색 기반의 기울기 유틸리티 평가를 통해 기울기가 작은 후반 단계에서는 노이즈를 줄여, 고정 예산 접근 방식보다 우수한 성능을 내며 로지스틱 회귀 및 서포트 벡터 머신(SVM) 작업에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Iterative algorithms, like gradient descent, are common tools for solving a variety of problems, such as model fitting. For this reason, there is interest in creating differentially private versions of them. However, their conversion to differentially private algorithms is often naive. For instance, a fixed number of iterations are chosen, the privacy budget is split evenly among them, and at each iteration, parameters are updated with a noisy gradient. In this paper, we show that gradient-based algorithms can be improved by a more careful allocation of privacy budget per iteration. Intuitively, at the beginning of the optimization, gradients are expected to be large, so that they do not need to be measured as accurately. However, as the parameters approach their optimal values, the gradients decrease and hence need to be measured more accurately. We add a basic line-search capability that helps the algorithm decide when more accurate gradient measurements are necessary. Our gradient descent algorithm works with the recently introduced zCDP version of differential privacy. It outperforms prior algorithms for model fitting and is competitive with the state-of-the-art for $(ε,δ)$-differential privacy, a strictly weaker definition than zCDP.

연구 동기 및 목표

• 반복적인 차별적 프라이버시 최적화에서 고정된 프라이버시 예산 할당의 비효율성을 해결하기 위해.
• 기울기 유틸리티에 기반해 반복 단계별로 노이즈 수준을 조정하여, 차별적 프라이버시 경험 위험 최소화에서 모델 정확도를 향상시키기 위해.
• 종종 최적 성능을 이끌어내지 못하는 반복 횟수를 사전에 지정하는 것의 필요성을 제거하기 위해.
• 노이즈가 있는 기울기 업데이트가 내림내림을 위해 유용한지 지능적으로 판단할 수 있는 방법을 개발하기 위해.
• zCDP 하에서의 적응형 예산 할당이 최신 기술 수준의 $(\epsilon,\delta)$-DP 방법과 동등하거나 이를 초월하는 성능을 낼 수 있음을 보여주기 위해.

제안 방법

• 더 좁은 프라이버시 회계를 가능하게 하여 전통적인 $(\epsilon,\delta)$-DP보다 더 강력한 프라이버시 보장을 제공하는 제로-집중된 차별적 프라이버시(zCDP)를 프라이버시 프레임워크로 사용한다.
• 기울기의 크기가 작은 경우 $\epsilon_t$ 가 더 큰 적응형 프라이버시 예산 할당을 도입하여, 후반 단계에서 노이즈를 줄인다.
• 노이즈가 있는 기울기 업데이트가 목적 함수를 감소시킬 가능성이 있는지 평가하기 위해 선형 탐색 기반 메커니즘을 사용한다.
• 진짜 기울기의 노름에 기반해 반복 단계별로 노이즈 분산을 동적으로 조정하며, 기울기가 클 때는 더 많은 노이즈를 추가하고, 기울기가 작을 때는 덜 추가한다.
• zCDP 하에서 반복 간 프라이버시 손실을 추적하기 위해 모멘트 애카운턴트 기법을 적용하여 이전 방법보다 더 날카로운 경계를 제공한다.
• 기울기의 노름과 노이즈 업데이트의 유틸리티에 기반한 정지 기준을 사용하여, 도움이 되지 않는 기울기로 인한 불필요한 반복을 방지한다.

실험 결과

연구 질문

• RQ1 반복 단계별로 프라이버시 예산을 적응형으로 할당하는 것이 차별적 프라이버시 기울기 하강법의 유틸리티를 향상시킬 수 있는가?
• RQ2 기울기가 작은 후반 단계에서 노이즈를 줄이는 것이 더 나은 모델 수렴과 정확도를 이끌어낼 수 있는가?
• RQ3 선형 탐색 기반 메커니즘이 노이즈가 있는 기울기가 내림내림을 위해 유용한지 효과적으로 판단할 수 있는가? 이는 무작위 걷기 유사 행동을 피하는 데 기여하는가?
• RQ4 zCDP 하에서의 적응형 예산 할당은 고정 예산 방법과 최신 기술 수준의 $(\epsilon,\delta)$-DP 알고리즘에 비해 모델 정확도와 목적 함수 값 측면에서 어떻게 비교되는가?
• RQ5 제안된 방법은 사전에 반복 횟수를 지정하는 것의 필요성을 제거할 수 있는가?

주요 결과

• 제안된 DP-AGD 알고리즘은 DP-SGD 및 SGD-MA와 같은 고정 예산 방법보다 일관되게 뛰어난 성능을 보이며, 특히 낮은 프라이버시 예산($\epsilon \leq 0.1$)에서 두각을 나타낸다.
• UCI Adult 및 KDDCup99 데이터셋에서 $\epsilon = 0.05$일 때 DP-AGD는 더 스마트한 노이즈 할당 덕분에 다른 방법보다 높은 분류 정확도를 달성한다.
• SVM 작업에서는 $\epsilon$ 가 증가함에 따라 목적 함수 값에서 안정적인 향상이 나타나지만, BANK 데이터셋에서는 높은 $\epsilon$ 에서 정확도가 약간 떨어지는 경향이 있는데, 이는 데이터 특성에 기인한 것으로 보인다.
• 기울기 유틸리티를 점검함으로써 불필요한 업데이트를 방지하여, 성능을 떨어뜨리는 노이즈 지배적 업데이트의 위험을 줄인다.
• 더 강력한 zCDP 정의 하에서도 DP-AGD는 최신 기술 수준의 $(\epsilon,\delta)$-DP 방법과 경쟁 가능한 성능을 달성한다.
• zCDP 하에서의 모멘트 애카운턴트는 더 날카로운 프라이버시 경계를 제공하지만, 매우 낮은 $\epsilon$ 에서는 높은 반복 단위 비용(~0.5756)으로 인해 실용성이 떨어지며, 이는 적응형 예산 할당의 장점을 부각시킨다.