[논문 리뷰] Concentrated Differential Privacy

Cynthia Dwork, Guy N. Rothblum|arXiv (Cornell University)|2016. 03. 06.

Privacy-Preserving Technologies in Data참고 문헌 3인용 수 290

한 줄 요약

집약된 차등 프라이버시(CDP)를 도입하는데, 프라이버시 손실은 평균 주위에 밀착해 집중되는 차등 프라이버시의 완화인 Concentrated Differential Privacy(CDP)를 도입합니다. 합성하에서 정확성을 향상시키면서 누적 프라이버시 손실 보장을 유지합니다.

ABSTRACT

We introduce Concentrated Differential Privacy, a relaxation of Differential Privacy enjoying better accuracy than both pure differential privacy and its popular "(epsilon,delta)" relaxation without compromising on cumulative privacy loss over multiple computations.

연구 동기 및 목표

• 순수 DP 및 (ε, δ)-DP보다 더 촘촘한 합성 보장을 제공하는 프라이버시 개념의 필요성을 제시한다.
• Concentrated Differential Privacy 및 그 서브가우시안 손실 프레임워크를 정의한다.
• CDP가 합성될 때 유리한 정확성-프라이버시 균형을 보임을 보인다.
• CDP 하의 Gaussian 메커니즘 특성화 및 그룹 프라이버시 경계를 도출한다.
• 기존 DP 완화와의 비교에서 CDP의 위치를 제시하고 실용적 시사점을 논의한다.

제안 방법

• 프라이버시 손실을 랜덤 변수로 정의하고 그 중심화된 버전이 subgaussian임을 요구한다.
• 손실의 평균이 μ이고 중심화된 손실이 τ-서브가우시안인 (μ,τ)-CDP를 도입한다.
• 정확한 합성 정리를 증명한다: CDP 메커니즘은 (∑μi, √(∑τi^2))로 합성되며 서브가우시안 구별불가능성을 가진다.
• Gaussian 메커니즘을 재검토하고 τ = Δ(f)/σ일 때 그것이 (τ^2/2, τ)-CDP임을 증명한다.
• CDP 하에서 그룹 프라이버시 경계를 도출하고 Gaussian 메커니즘에 대해 타이트함을 보인다.
• ε-DP, (ε,δ)-DP와의 연계성을 논의하고 Propose-Test-Release(Propose-Test-Release) 스타일 알고리즘을 논의한다.

실험 결과

연구 질문

• RQ1 CDP가 동일 데이터셋에 대해 여러 분석이 수행될 때 어떤 형식적 보장을 제공하는가?
• RQ2 (μ,τ)-CDP 프레임워크가 합성하에서 구체적인 프라이버시 손실 한계로 어떻게 번역되는가?
• RQ3 CDP 하의 Gaussian 메커니즘의 정확한 프라이버시 손실 특성은 무엇인가?
• RQ4 CDP가 전통적 DP 개념에 비해 그룹 프라이버시 경계에 어떤 영향을 미치는가?
• RQ5 CDP가 (ε,δ)-DP에 비해 어떤 시나리오에서 더 우수한 정확성-프라이버시 트레이드오프를 제공하는가?

주요 결과

• CDP는 프라이버시 손실을 평균 μ를 갖는 랜덤 변수로 형식화하고 중심화된 꼬리가 매개변수 τ인 서브가우시안-tail을 가진다.
• k배 적응적 합성에서 (μi,τi)-CDP 메커니즘들의 모음은 (∑μi, √(∑τi^2))-CDP를 달성한다.
• 노이즈 σ를 가지는 Gaussian 메커니즘은 τ = Δ(f)/σ일 때 (τ^2/2, τ)-CDP를 만족하며 프라이버시 손실에 대한 타이트한 특성을 제공한다.
• 카운팅 쿼리에 대해 CDP는 유사한 프라이버시 예산하에서 전통적 DP보다 더 높은 정확성을 달성한다.
• CDP 하의 Gaussian 메커니즘의 그룹 프라이버시 경계는 ( (sΔf/σ)^2/2, sΔf ) 규모로 확장된다.
• 본 연구는 합성하에서 (ε,0)-DP 메커니즘의 기대 프라이버시 손실에 대한 알려진 상한을 두 배 향상시켜 더 타이트한 유틸리티/프라이버시 균형을 얻는다.
• Concentrated privacy는 강한 합성 결과와 호환되면서 다수의 분석에서 더 나은 정확성을 제공한다.