[논문 리뷰] Concentrated Differential Privacy: Simplifications, Extensions, and Lower Bounds

Mark Bun, Thomas Steinke|arXiv (Cornell University)|2016. 05. 06.

Privacy-Preserving Technologies in Data참고 문헌 8인용 수 65

한 줄 요약

이 논문은 레니 지수의 분산을 사용하여 집중적 미분적 보안을 재정의함으로써, 하위가우시안의 보안 손실을 더 잘 포착하는 제로-집중적 보안(Zero-Concentrated Differential Privacy, zCDP)을 소개한다. 이는 더 날카운 composition 한계를 제공하고, 약간의 보정된 보안과 통합되며, 개선된 하한과 기법을 제공함으로써 보안 보장 계산에 대한 향상된 분석을 가능하게 한다.

ABSTRACT

"Concentrated differential privacy" was recently introduced by Dwork and Rothblum as a relaxation of differential privacy, which permits sharper analyses of many privacy-preserving computations. We present an alternative formulation of the concept of concentrated differential privacy in terms of the Renyi divergence between the distributions obtained by running an algorithm on neighboring inputs. With this reformulation in hand, we prove sharper quantitative results, establish lower bounds, and raise a few new questions. We also unify this approach with approximate differential privacy by giving an appropriate definition of "approximate concentrated differential privacy."

연구 동기 및 목표

• 고도의 조합 정리에서 다루기 어려운 비효율적이고 비긴한 한계를 가진 약간의 보정된 보안의 한계를 해결한다.
• 레니 지수의 분산을 사용하여 집중적 보안을 더 깔끔하고 분석적으로 다룰 수 있는 형태로 재정의한다.
• zCDP를 약간의 보정된 보안과 통합하여, 서로 다른 보안 보장 조건 하에서의 메커니즘 조합을 가능하게 한다.
• zCDP 하에서의 보안 손실에 대해 더 날카운 하한을 설정하고, 실용적 사용을 위한 개선된 기법을 도출한다.
• 특히 가우시안 메커니즘과 반복 쿼리 워크로드에 대해 더 정밀한 양적 분석을 가능하게 한다.

제안 방법

• 이웃하는 데이터셋에 대한 출력 분포 간의 레니 지수의 분산을 사용하여 집중적 보안을 재정의하고, 제로-집중적 보안(zCDP)을 정의한다.
• zCDP가 암시하는 보안 매개변수의 명시적 한계를 증명함으로써, 더 날카운 조합 분석이 가능하다.
• zCDP 하에서의 가우시안 메커니즘을 유도하여, 노이즈 추가에서 최적의 보안-유용성 트레이드오프를 달성함을 보여준다.
• zCDP의 조합 및 후처리 성질을 확립하여, 순차적 계산에서 부드럽게 악화되는 특성을 보인다.
• 순수 및 약간의 보정된 보안을 일반화하는 통합 프레임워크로 약간의 zCDP를 도입한다.
• 집중 불등식과 尾 꼬리 한계를 사용하여 명시적인 보안 손실 한계를 도출하며, 특히 보안 손실의 하위가우시안성에 기반한다.

실험 결과

연구 질문

• RQ1 집중적 보안을 레니 지수의 분산을 사용하여 재정의함으로써 더 날카운 분석 가능성이 있는 보안 보장이 도출될 수 있는가?
• RQ2 zCDP는 순수 및 약간의 보정된 보안과 비교할 때 조합 및 유용성 측면에서 어떻게 다를까?
• RQ3 zCDP 하에서의 보안 손실에 대해 가능한 가장 날카운 하한은 무엇이며, 이는 메커니즘 설계에 어떤 제약을 끼치는가?
• RQ4 zCDP는 약간의 보정된 보안을 포함하는 통합 프레임워크로 확장될 수 있는가?
• RQ5 zCDP는 가우시안 메커니즘 및 반복 쿼리 워크로드 분석에서 어떤 개선을 제공하는가?

주요 결과

• 제로-집중적 보안(zCDP)은 레니 지수의 분산을 통해 공식적으로 정의되며, 평균-집중적 보안보다 더 깔끔하고 분석적으로 강력한 대안을 제공한다.
• zCDP 하에서의 가우시안 메커니즘은 최적의 보안-유용성 트레이드오프를 달성하며, 고도의 조합 정리보다 더 날카운 보안 손실 한계를 제공한다.
• zCDP는 더 날카운 조합 한계를 제공한다: k개의 메커니즘이 zCDP 매개변수 ρ를 가질 경우, 조합 결과는 (ε, δ)-DP를 만족하며, ε ≥ ρ일 때 δ는 exp(−(ε−ρ)²/(4ρ))의 속도로 감소한다.
• 논문은 순수 및 약간의 보정된 보안을 모두 포함하는 통합된 조합 정리를 도출하여, zCDP 및 (ε,δ)-DP 메커니즘의 혼합 조합을 가능하게 한다.
• 보안 손실에 대한 새로운 하한이 확립되었으며, zCDP의 조합 효율성은 더 이상 크게 향상될 수 없다는 것을 보여준다.
• 결과적으로 고도의 조합 정리를 개선하여 보안 매개변수에서 상수 요소를 절감하고, δ에 대한 로그 항목의 의존도를 감소시켰다.