[논문 리뷰] Differential privacy for counting queries: can Bayes estimation help uncover the true value?

Maurizio Naldi, Giuseppe D’Acquisto|arXiv (Cornell University)|2014. 07. 01.

Privacy-Preserving Technologies in Data참고 문헌 7인용 수 8

한 줄 요약

이 논문은 개인정보 유출 손실을 증가시키지 않고도 차등적 비밀보장으로 보호된 카운팅 쿼리의 정확도를 향상시키기 위해 베이지안 추정 방법을 제안한다. 데이터베이스 크기와 조건식 확률을 알고 있는 바탕으로, 단일 쿼리 응답에서 라플라스 노이즈를 보정함으로써 기존의 노이즈가 있는 추정보다 훨씬 낮은 평균 오차를 달성한다. 특히 엄격한 개인정보 보호 예산(예: ε < 1) 하에서는 베이지안 추정기의 오차가 선형 증가하는 기존 방법과는 달리 오차 증가가 둔화되어 유의미한 향상이 이루어진다.

ABSTRACT

Differential privacy is achieved by the introduction of Laplacian noise in the response to a query, establishing a precise trade-off between the level of differential privacy and the accuracy of the database response (via the amount of noise introduced). Multiple queries may improve the accuracy but erode the privacy budget. We examine the case where we submit just a single counting query. We show that even in that case a Bayesian approach may be used to improve the accuracy for the same amount of noise injected, if we know the size of the database and the probability of a positive response to the query.

연구 동기 및 목표

• 차등적 비밀보장에서 카운팅 쿼리에 대해 단일 노이즈가 있는 응답의 정확도를 향상시키는 데 베이지안 추정이 기여할 수 있는지 조사하기.
• 데이터베이스 크기와 조건식 확률과 같은 추가 지식이 기존의 단순 추정을 넘어서 노이즈가 있는 응답을 보다 정밀하게 보정할 수 있는지 평가하기.
• 베이지안 추정과 기존 추정 방식을 비교할 때 개인정보 보호 수준(ε)과 정확도 사이의 상호 교환 관계를 평가하기.
• 다양한 개인정보 보호 수준과 조건식 확률에서 베이지안 추정이 기존 추정보다 정확도가 높을 가능성을 정량화하기.
• 카운팅 쿼리에서 라플라스 노이즈로 인해 응답 값이 [0,n] 범위를 벗어나는 위험을 분석하기.

제안 방법

• 논문은 진짜 카운트를 매개변수 n(데이터베이스 크기)과 p(조건식 확률)를 가진 이항분포로 모델링한다.
• 공액 사전분포(베타 분포)를 사용하여 진짜 카운트에 대한 믿음을 노이즈가 있는 응답 기반으로 갱신하는 베이지안 추정기를 적용한다.
• 사후 평균은 사전 평균과 노이즈가 있는 관측값의 가중 평균으로 계산되며, 가중치는 분산의 역수 비례한다.
• 이 방법은 사용자가 n과 p를 알고 있다는 가정을 하며, 이는 쿼리의 일부가 아니지만 외부에서 이용 가능하거나 추정 가능한 정보임을 전제로 한다.
• 성능 평가는 다양한 ε, n, p 값에 대해 100,000회 반복하는 몬테카를로 시뮬레이션을 통해 수행된다.
• 두 가지 지표를 사용한다: 평균 오차(평균 절대편차)와 베이지안 오차가 기존 추정 오차보다 낮을 확률.

실험 결과

연구 질문

• RQ1 데이터베이스 크기와 조건식 확률을 알고 있을 경우, 베이지안 추정이 단일 차등적 비밀보장 카운팅 쿼리의 오차를 줄일 수 있는가?
• RQ2 다양한 개인정보 보호 수준(ε)에서 베이지안 추정기의 성능이 기존 노이즈가 있는 추정기와 비교해 어떻게 되는가?
• RQ3 특히 분산이 최대가 되는 p = 0.5 근처에서, 베이지안 추정기의 성능 향상 여부가 조건식 확률 p에 따라 달라지는가?
• RQ4 다양한 노이즈 수준에서 베이지안 추정기가 기존 추정기보다 오차가 낮을 가능도는 얼마인가?
• RQ5 라플라스 노이즈로 인해 카운팅 쿼리에서 유효하지 않은 응답(범위 [0,n] 외부)이 발생할 가능성은 얼마인가?

주요 결과

• 모든 테스트된 개인정보 보호 수준(ε)과 데이터베이스 크기에서 베이지안 추정기는 기존의 노이즈가 있는 추정기보다 일관되게 낮은 평균 오차를 기록한다.
• 엄격한 개인정보 보호 조건(ε < 1) 하에서는 기존 추정기의 평균 오차는 1/ε에 비례해 선형 증가하지만, 베이지안 추정기의 오차는 수준을 유지하여 유의미한 향상이 이루어진다.
• 모든 경우에서 베이지안 추정기가 기존 추정기보다 정확도가 높을 확률은 50%를 초과하며, 개인정보 보호 요구 수준이 높을수록(ε가 낮을수록) 증가한다.
• 베이지안 추정기는 이항분포 분산이 최대가 되는 p = 0.5에서 성능이 가장 열 劣하나, 여전히 평균 오차 측면에서 기존 추정기보다 뛰어나다.
• 라플라스 노이즈로 인해 응답 값이 [0,n] 외부로 나가는 위험은 무시할 수 없으며, ε와 n에 따라 달라지며, ε가 작아질수록 위험이 증가한다.
• ε = 0.1일 경우 기존 추정기의 평균 오차는 10으로 고정되어 있다(1/ε = 10), 반면 베이지안 추정기의 오차는 p에 따라 변동하며, p ≈ 0 또는 1일 때 최소가 된다.