[논문 리뷰] Differential Private Noise Adding Mechanism and Its Application on Consensus

Jianping He, Lin Cai|arXiv (Cornell University)|2016. 11. 27.

Privacy-Preserving Technologies in Data참고 문헌 7인용 수 4

한 줄 요약

이 논문은 랜덤 노이즈 추가 메커니즘에서의 차별적 프라이버시를 분석하기 위한 일반적인 이론적 프레임워크를 제안하며, $\epsilon$-차별적 프라이버시를 위한 필수 및 필요조건을 수립하고 $(\epsilon,\delta)$-차별적 프라이버시를 위한 충분조건을 제시한다. 평균 공감과 $\epsilon$-차별적 프라이버시가 어떤 프라이버시 보존 공감 알고리즘에서도 동시에 달성될 수 없음을 증명하며, 라플라스 및 가우시안 외의 임의의 노이즈 분포에 적용 가능한 통합된 도구를 제공한다.

ABSTRACT

Differential privacy is a formal mathematical {stand-ard} for quantifying the degree of that individual privacy in a statistical database is preserved. To guarantee differential privacy, a typical method is adding random noise to the original data for data release. In this paper, we investigate the conditions of differential privacy considering the general random noise adding mechanism, and then apply the obtained results for privacy analysis of the privacy-preserving consensus algorithm. Specifically, we obtain a necessary and sufficient condition of $ε$-differential privacy, and the sufficient conditions of $(ε, δ)$-differential privacy. We apply them to analyze various random noises. For the special cases with known results, our theory matches with the literature; for other cases that are unknown, our approach provides a simple and effective tool for differential privacy analysis. Applying the obtained theory, on privacy-preserving consensus algorithms, it is proved that the average consensus and $ε$-differential privacy cannot be guaranteed simultaneously by any privacy-preserving consensus algorithm.

연구 동기 및 목표

• 랜덤 노이즈 추가 메커니즘이 차별적 프라이버시를 보장할 수 있는 일반 조건을 수립하기 위해.
• 라플라스 또는 가우시안에 국한되지 않은 어떤 노이즈 분포에도 적용 가능한 통합 분석 도구를 제공하기 위해.
• 프라이버시 보존 공감 알고리즘에서의 프라이버시-정확도 트레이드오프를 분석하기 위해.
• 평균 공감과 $\epsilon$-차별적 프라이버시를 동시에 달성하는 것이 불가능함을 증명하기 위해.
• 노이즈 분포 특성에 따라 프라이버시 파라미터 $\epsilon$ 및 $\delta$의 상한을 추정하기 위해.

제안 방법

• 노이즈 분포의 확률 밀도 함수 비율에 기반하여 $\epsilon$-차별적 프라이버시를 위한 필수 및 필요조건을 유도한다.
• 꼬리 확률 한계와 노이즈 분포 특성을 이용하여 $(\epsilon,\delta)$-차별적 프라이버시를 위한 충분조건을 수립한다.
• 이론적 프레임워크를 라플라스, 가우시안, 균일 노이즈에 적용하여 기존 결과를 확인하고 알려지지 않은 경우로 확장한다.
• 유도된 조건을 사용하여 노이즈 추가 공감 알고리즘을 분석하며, 차별적 프라이버시를 위한 필수 조건과 공감 수렴 조건을 비교한다.
• 민감도와 노이즈 분포의 수학적 분석을 통해 $\epsilon$ 및 $\delta$의 상한을 유도한다.
• 모순 기반 증명을 적용하여 평균 공감과 $\epsilon$-차별적 프라이버시를 동시에 달성하는 것이 불가능함을 입증한다.

실험 결과

연구 질문

• RQ1 노이즈 분포에 대해 어떤 조건이 랜덤 노이즈 추가 메커니즘이 $\epsilon$-차별적 프라이버시를 보장하는가?
• RQ2 노이즈 메커니즘이 $(\epsilon,\delta)$-차별적 프라이버시를 달성하기 위한 충분조건은 무엇인가?
• RQ3 제안된 프레임워크는 라플라스 및 가우시안 외의 임의의 노이즈 분포를 분석할 수 있는가?
• RQ4 공감 알고리즘에서 평균 공감과 $\epsilon$-차별적 프라이버시를 동시에 달성하는 것이 가능한가?
• RQ5 노이즈 분포의 파라미터는 $\epsilon$ 및 $\delta$의 상한에 어떻게 영향을 미치는가?

주요 결과

• $\epsilon$-차별적 프라이버시를 위한 필수 및 필요조건이 인접한 데이터 포인트에서의 노이즈 확률 밀도 함수 비율에 기반하여 유도되었다.
• 꼬리 확률 한계와 노이즈 분포 특성을 이용하여 $(\epsilon,\delta)$-차별적 프라이버시를 위한 충분조건이 수립되었다.
• 프레임워크는 라플라스 노이즈가 $\epsilon$-차별적 프라이버시를 달성하고, 가우시안 노이즈가 $(\epsilon,\delta)$-차별적 프라이버시를 달성함을 확인하며, 이는 이전 결과와 일치한다.
• 균일 노이즈가 $(0,\delta)$-차별적 프라이버시임이 제안된 프레임워크 하에 새롭게 밝혀졌다.
• 어떤 프라이버시 보존 공감 알고리즘도 평균 공감과 $\epsilon$-차별적 프라이버시를 동시에 달성할 수 없음을 증명하였다.
• 노이즈 분포 파라미터에 따라 $\epsilon$ 및 $\delta$의 상한이 추정되었으며, 이는 정량적 프라이버시-정확도 트레이드오프 분석을 가능하게 한다.