[논문 리뷰] Privacy Amplification by Subsampling: Tight Analyses via Couplings and Divergences

Borja Balle, Gilles Barthe외 1명|arXiv (Cornell University)|2018. 07. 04.

Privacy-Preserving Technologies in Data참고 문헌 2인용 수 105

한 줄 요약

이 논문은 α-발산, 커플링, 프라이버시 프로필을 이용해 다양한 subsampling 스킴과 이웃 관계에 대해 엄밀한 프라이버시 증폭 경계를 도출하고, 하한을 통해 타이트함을 입증한다.

ABSTRACT

Differential privacy comes equipped with multiple analytical tools for the design of private data analyses. One important tool is the so-called "privacy amplification by subsampling" principle, which ensures that a differentially private mechanism run on a random subsample of a population provides higher privacy guarantees than when run on the entire population. Several instances of this principle have been studied for different random subsampling methods, each with an ad-hoc analysis. In this paper we present a general method that recovers and improves prior analyses, yields lower bounds and derives new instances of privacy amplification by subsampling. Our method leverages a characterization of differential privacy as a divergence which emerged in the program verification community. Furthermore, it introduces new tools, including advanced joint convexity and privacy profiles, which might be of independent interest.

연구 동기 및 목표

• 다양한 subsampling 스킴과 이웃 관계에 걸쳐 프라이버시 증폭을 분석하기 위한 일반적이고 타이트한 프레임워크를 개발한다.
• 다양한 결과를 통일하고 DP의 발산 기반 특성화를 통해 새로운 증폭 경계를 도출한다.
• subsampling에서 발생하는 혼합을 제약하기 위한 고급 공동 볼록성 및 프라이버시 프로필을 도입한다.
• 일반적 하한 및 커플링 기반의 증명을 통해 경계의 타이트함을 확립한다.

제안 방법

• D_α로 차등 프라이버시와 프라이버시 프로필을 모델링하여 타이트한 DP 보장을 포착한다.
• 공동 볼록성을 이용해 subsampling에서 발생하는 중첩된 혼합의 D_{e^{ε′}}를 상한한다.
• 최대 커플링을 적용하여 subsampled 분포를 연결하고 η 의존적 증폭 ε′를 ε′ = log(1 + η(e^{ε}-1))로 도출한다.
• 우변 발산을 그룹 프라이버시 프로필과 커플링 기반 분해로 한정한다.
• 이 프레임워크가 기존 결과를 회수하고 다양한 subsampling 스킴에 대해 새롭고 타이트한 경계를 제공하도록 한다.

실험 결과

연구 질문

• RQ1 임의의 subsampling 스킴에서 DP에 대한 타이트하고 일반적인 증폭 경계를 어떻게 도출할 수 있는가?
• RQ2 α-발산 특성화와 커플링이 결합되어 통일되고 최적의 프라이버시 증폭 결과를 내놓을 수 있는가?
• RQ3 고급 공동 볼록성 및 프라이버시 프로필이 subsampling으로 인한 혼합 출력 처리에 어떻게 도움을 주는가?
• RQ4 다양한 이웃 관계 하에서 일반적인 subsampling 방법(Poisson, WOR, WR)에 대한 타이트한 경계는 무엇인가?
• RQ5 도출된 경계가 기법들 간의 하한을 통해 입증되는가?

주요 결과

• 타입에 관계없이 알려진 모든 결과를 회수하고 새로운 경계를 제공하는 프라이버시 증폭 경계를 도출하는 통일된 방법을 확립했다.
• α-발산에 대한 고급 공동 볼록성을 도입하여 subsampling의 혼합 출력의 경계를 설정했다.
• 프라이버시 프로필과 그룹-프라이버시 프로필을 정의하여 ε와 δ에 걸친 DP 보장을 정량화했다.
• 제거/추가 하나(R) 및 대체 하나(S) 이웃 관계를 갖는 Poisson, WOR, WR subsampling에 대한 타이트한 증폭 경계를 도출했다.
• 일반 하한과 커플링을 통한 타이트함을 보이는 프레임워크를 제시했다.
• 표 1은 일반적인 subsampling 스킴과 이웃 관계에서의 증폭 경계를 요약한다.