[논문 리뷰] Hypothesis Testing Interpretations and Renyi Differential Privacy

Borja Balle, Gilles Barthe외 3명|arXiv (Cornell University)|2019. 05. 24.

Privacy-Preserving Technologies in Data참고 문헌 25인용 수 21

한 줄 요약

이 논문은 통계적 발산을 기반으로 한 프라이버시 정의의 가설 검증 해석을 분석하기 위해 k-컷과 k-생성 발산의 개념을 도입한다. 프라이버시 정의가 가설 검증 해석을 허용하는지 여부는 기저 발산이 2-생성일 때이고, 이는 Rényi 미세차별 프라이버시가 ∞-생성이므로 직접적인 해석을 지원하지 못함을 보여주며, Rényi 발산의 2-컷은 유효한 해석을 가능하게 하고, Rényi에서 표준 미세차별 프라이버시로의 변환 규칙을 향상시킨다.

ABSTRACT

Differential privacy is a de facto standard in data privacy, with applications in the public and private sectors. A way to explain differential privacy, which is particularly appealing to statistician and social scientists is by means of its statistical hypothesis testing interpretation. Informally, one cannot effectively test whether a specific individual has contributed her data by observing the output of a private mechanism---any test cannot have both high significance and high power. In this paper, we identify some conditions under which a privacy definition given in terms of a statistical divergence satisfies a similar interpretation. These conditions are useful to analyze the distinguishability power of divergences and we use them to study the hypothesis testing interpretation of some relaxations of differential privacy based on Renyi divergence. This analysis also results in an improved conversion rule between these definitions and differential privacy.

연구 동기 및 목표

• 통계적 발산을 기반으로 한 프라이버시 정의가 가설 검증 해석을 지원하는 조건을 형식화하는 것.
• Rényi 발산을 기반으로 한 Rényi 미세차별 프라이버시의 가설 검증 의미를 분석하는 것.
• 다양한 가설 검증 능력을 특징짓는 도구인 k-컷과 k-생성성의 분석 도구를 개발하는 것.
• Rényi 미세차별 프라이버시에서 표준 (ε,δ)-미세차별 프라이버시로의 개선된 변환 규칙을 유도하는 것.
• 가설 검증 해석의 관점에서 Rényi 미세차별 프라이버시와 가우시안 미세차별 프라이버시를 비교하는 것.

제안 방법

• 크기가 k인 유한 도메인 위의 분포로 제한된 발산의 k-컷을 도입하여, k개의 결과를 가진 의사결정 규칙을 모델링한다.
• k-생성성은 발산이 자신의 k-컷과 동일할 때 성립하는 성질로, 발산을 완전히 특징지키기 위해 필요한 최소한의 의사결정 수를 캡처한다.
• 프라이버시 정의가 가설 검증 해석을 가질 수 있는 조건은 기저 발산이 2-생성일 때에만 성립함을 증명하며, 이는 이전 연구에서의 프라이버시 영역과 연결된다.
• Rényi 발산의 2-컷을 적용하여 Rényi 미세차별 프라이버시에 대해 유효한 가설 검증 해석을 복원한다.
• Rényi 발산의 2-컷을 사용하여 Rényi에서 (ε,δ)-미세차별 프라이버시로의 더 날카운 변환 규칙을 도출한다.
• k-분할에 대해 쿼asi-볼록 함수의 상한으로 정의된 발산은 k-생성임을 증명하며, 이는 가설 검증 의미를 가진 발산을 구성하는 데 유용한 일반적 방법을 제공한다.

실험 결과

연구 질문

• RQ1 어떤 조건에서 발산 기반 프라이버시 정의가 가설 검증 해석을 허용하는가?
• RQ2 왜 Rényi 미세차별 프라이버시는 인기 있음에도 불구하고 직접적인 가설 검증 해석을 지원하지 못하는가?
• RQ3 Rényi 발산의 2-컷이 Rényi 미세차별 프라이버시에 대해 유효한 가설 검증 해석을 복원할 수 있는가?
• RQ4 어떻게 Rényi 미세차별 프라이버시에서 표준 (ε,δ)-미세차별 프라이버시로의 개선된 변환 규칙를 도출할 수 있는가?
• RQ5 가설 검증 의미의 관점에서 Rényi 미세차별 프라이버시와 가우시안 미세차별 프라이버시 사이의 관계는 무엇인가?

주요 결과

• 발산 기반 프라이버시 정의는 발산이 2-생성일 때에만 가설 검증 해석을 지원한다.
• Rényi 발산은 ∞-생성이며, 이는 직접적인 가설 검증 해석을 허용하지 않지만, 그 2-컷은 허용한다.
• Rényi 발산의 2-컷은 유효한 가설 검증 해석을 가능하게 하며, 원래 정의에서 상실된 통계적 의미를 효과적으로 복원한다.
• 2-컷을 사용하여 Rényi 미세차별 프라이버시에서 (ε,δ)-미세차별 프라이버시로의 개선된 변환 규칙를 도출하였으며, 이는 이전 방법보다 더 날카운 경계를 제공한다.
• 헬링거 거리는 ∞-생성이지만, 헬링거에서 (ε,δ)-DP로의 최적 변환 법칙이 도출되었으며, δ(ε,ρ)는 ε와 ρ에 대해 명시적으로 정의되어 있다.
• 논문은 k-분할에 대해 쿼اسي-볼록 함수의 상한으로 정의된 발산은 k-생성임을 증명하였으며, 이는 가설 검증 의미를 가진 발산을 구성하는 일반적인 방법을 제공한다.