[논문 리뷰] Differentially Private Mechanisms for Count Queries

Parastoo Sadeghi, Shahab Asoodeh외 1명|arXiv (Cornell University)|2020. 07. 18.

Privacy-Preserving Technologies in Data참고 문헌 10인용 수 5

한 줄 요약

이 논문은 개인정보 보호성과 정수형 출력 형식을 동시에 유지하기 위해 정수형 노이즈를 추가하는 새로운 비밀성 보장 메커니즘을 제안한다. 유틸리티와 비밀성의 균형을 이루기 위해 노이즈 분포의 파라미터를 최적화함으로써, 동일한 유틸리티 조건 하에서 기존의 이산 가우시안 메커니즘보다 더 날카운 $(\varepsilon, \delta)$-비밀성 보장 범위를 달성한다. 특히 중간 수준의 비밀성 예산에서 뚜렷한 성능 향상을 보인다.

ABSTRACT

In this paper, we consider the problem of responding to a count query (or any other integer-valued queries) evaluated on a dataset containing sensitive attributes. To protect the privacy of individuals in the dataset, a standard practice is to add continuous noise to the true count. We design a differentially-private mechanism which adds integer-valued noise allowing the released output to remain integer. As a trade-off between utility and privacy, we derive privacy parameters $\eps$ and $δ$ in terms of the the probability of releasing an erroneous count under the assumption that the true count is no smaller than half the support size of the noise. We then numerically demonstrate that our mechanism provides higher privacy guarantee compared to the discrete Gaussian mechanism that is recently proposed in the literature.

연구 동기 및 목표

• 정수형 노이즈를 사용하여 진짜 카운트 $n$에 정수형으로 출력되는 정수형 카운트 쿼리에 대한 비밀성 보장 메커니즘을 설계한다.
• 비밀성($\varepsilon$ 및 $\delta$로 측정)과 유틸리티(오차 확률 $\eta$로 측정) 간의 상호 작용을 명시적으로 균형 잡는다.
• 유한한 노이즈 지원과 비밀성 보장 조건 하에서 오차 확률을 최소화하는 방식으로, 기존 메커니즘(예: 이산 가우시안 및 기하학적 메커니즘)을 향상시킨다.
• 노이즈 분산과 오차 확률이 동일한 조건에서, 이산 가우시안 메커니즘과 비교하여 뛰어난 비밀성-유틸리티 성능을 수치적으로 입증한다.

제안 방법

• 진짜 카운트 $n$에 중심이 0인 크기가 $2D+1$인 유한한 지원을 가진 정수형 노이즈를 추가한다.
• 주어진 $\varepsilon$와 오차 확률 $\eta$에 대해 $\delta$를 최소화하기 위해 노이즈 확률을 볼록 최적화 프레임워크를 통해 최적화한다.
• 비밀성 파라미터 $\varepsilon$와 $\delta$는 쿼리의 민감도와 노이즈 분포의 꼬리 행동에 기반하여 유도된다.
• 최적의 노이즈 분포는 $\eta \in (0,1)$로 매개변수화되며, 잘못된 카운트를 반환할 수 있는 최대 허용 확률를 나타낸다.
• 비밀성 보장이 보장되도록 최적의 계수 $\alpha_i^*$를 계산하기 위해 제약 조건이 있는 최적화 문제(정의 2)를 사용한다.
• 노이즈 분산 $\sigma^2(\eta, D, \varepsilon)$와 오차 확률 $\eta$를 일치시킨 상태에서, 이산 가우시안 메커니즘과 성능을 비교하며, 결과적인 $\delta$ 값은 [12]의 정리 7을 통해 평가한다.

실험 결과

연구 질문

• RQ1 정수형 출력을 유지하면서도 강력한 비밀성 보장을 확보할 수 있는 카운트 쿼리용 비밀성 보장 메커니즘을 설계할 수 있는가?
• RQ2 정수형 노이즈 메커니즘에서 비밀성($\varepsilon, \delta$)과 유틸리티(오차 확률 $\eta$) 간의 상호 작용을 명시적으로 최적화할 수 있는가?
• RQ3 유한한 지원을 가진 정수형 노이즈 메커니즘이 무한한 지원을 가진 이산 가우시안 메커니즘보다 비밀성-유틸리티 균형에서 뛰어나게 성능을 발휘하는가?
• RQ4 노이즈 지원 크기 $D$와 오차 확률 $\eta$가 결과적으로 얻어지는 $\varepsilon$ 및 $\delta$ 파라미터에 어떤 영향을 미치는가?

주요 결과

• $D=8$일 때, 제안된 메커니즘은 $\eta = 0.5$일 경우 $(1.1, 10^{-3})$-DP를 달성하고, $\eta = 0.8$일 경우 $(2.2, 5 \times 10^{-7})$-DP를 달성하며, 더 날카운 비밀성 보장 범위를 보여준다.
• 노이즈 분산과 오차 확률 $\eta$를 동일하게 설정한 조건에서, 이산 가우시안 메커니즘에 비해 제안된 메커니즘이 더 뛰어난 $(\varepsilon, \delta)$-DP 성능을 보인다.
• 수치적 결과는 제안된 메커니즘이 다양한 비밀성 파라미터 범위에서 이산 가우시안 메커니즘을 능가함을 보여주며, 특히 $\varepsilon < 1.1$에서 후자가 성능이 떨어지는 경우에 뚜렷한 우월성을 보인다.
• 최적의 노이즈 분포는 볼록 최적화를 통해 유도되며, 주어진 $\varepsilon$와 $\eta$에 대해 최소 $\delta$를 보장하며, $D$와 $\eta$에 명시적인 의존성을 가진다.
• 메커니즘은 정수 출력과 유한한 노이즈 지원을 유지하여, 고비밀성 환경에서 다른 메커니즘에서 발생하는 극단적인 출력(예: $Y=0$ 또는 $Y=\max n$)의 위험을 피한다.