[논문 리뷰] Optimal Private Halfspace Counting via Discrepancy

S. Muthukrishnan, Aleksandar Nikolov|arXiv (Cornell University)|2012. 03. 24.

Privacy-Preserving Technologies in Data참고 문헌 18인용 수 12

한 줄 요약

이 논문은 $d$차원 공간에서 반공간 범위 카운팅에 대해 $(\varepsilon,\delta)$-차별적 개인 정보 보호 알고리즘을 제안하며, 평균 제곱 오차가 $O(n^{1-1/d})$이 되어 최적의 근사치를 달성한다. 이 접근법은 수정된 이질성 측도와 조합적 이질성 이론을 활용하여 상한과 하한이 일치하는 결과를 도출하며, 상수 차원에서의 사생활 보장 반공간 카운팅의 복잡도를 해결한다.

ABSTRACT

A range counting problem is specified by a set $P$ of size $|P| = n$ of points in $\mathbb{R}^d$, an integer weight $x_p$ associated to each point $p \in P$, and a range space ${\cal R} \subseteq 2^{P}$. Given a query range $R \in {\cal R}$, the target output is $R(\vec{x}) = \sum_{p \in R}{x_p}$. Range counting for different range spaces is a central problem in Computational Geometry. We study $(ε, δ)$-differentially private algorithms for range counting. Our main results are for the range space given by hyperplanes, that is, the halfspace counting problem. We present an $(ε, δ)$-differentially private algorithm for halfspace counting in $d$ dimensions which achieves $O(n^{1-1/d})$ average squared error. This contrasts with the $Ω(n)$ lower bound established by the classical result of Dinur and Nissim [PODS 2003] for arbitrary subset counting queries. We also show a matching lower bound on average squared error for any $(ε, δ)$-differentially private algorithm for halfspace counting. Both bounds are obtained using discrepancy theory. For the lower bound, we use a modified discrepancy measure and bound approximation of $(ε, δ)$-differentially private algorithms for range counting queries in terms of this discrepancy. We also relate the modified discrepancy measure to classical combinatorial discrepancy, which allows us to exploit known discrepancy lower bounds. This approach also yields a lower bound of $Ω((\log n)^{d-1})$ for $(ε, δ)$-differentially private orthogonal range counting in $d$ dimensions, the first known superconstant lower bound for this problem. For the upper bound, we use an approach inspired by partial coloring methods for proving discrepancy upper bounds, and obtain $(ε, δ)$-differentially private algorithms for range counting with polynomially bounded shatter function range spaces.

연구 동기 및 목표

• 상수 차원에서 $(\varepsilon,\delta)$-차별적 개인 정보 보호 반공간 범위 카운팅의 근사 복잡도에 대한 이해 격차를 메우기.
• 일반적인 범위 공간에 대해 이전에 알려진 $\Omega(n)$ 하한을 초월하여, 사생활 보장 반공간 카운팅의 평균 제곱 오차에 대해 엄밀한 상한과 하한을 확립하기.
• 반공간 범위 공간의 기하학적 구조를 포착할 수 있는 새로운 이질성 기반 프레임워크를 개발하여 최적의 노이즈 추가 메커니즘을 가능하게 하기.
• 분석을 직각 범위 카운팅으로 확장하여, 이 문제에 대해 알려진 최초의 초상수 하한 $\Omega((\log n)^{d-1})$을 제공하기.
• 다항식적으로 유계된 셔터 함수를 가진 범위 공간으로 이론을 일반화하여, 하위선형 오차를 갖는 사생활 보장 알고리즘을 도출하기.

제안 방법

• 저자들은 $(\varepsilon,\delta)$-차별적 개인 정보 보호에 맞게 조정된 수정된 이질성 측도를 도입하여, 고전적 조합적 이질성과 연결하여 하한을 도출한다.
• 이질성 이론에 영감을 받은 부분 색칠 방법을 사용하여, 정확도를 유지하는 방식으로 노이즈를 추가하는 재귀적, 차별적 개인 정보 보장 메커니즘을 설계한다.
• 메커니즘은 점 집합을 재귀적으로 분할하고 하위 문제에 노이즈를 적용하며, 재귀 관계를 통해 오차를 유계로 유지한다.
• 평균 제곱 오차는 분산 분해와 독립적인 라플라스 랜덤 변수 합의 尾함수를 사용하여 분석한다.
• 직각 범위 카운팅으로의 확장을 위해 스패닝 경로 분해와 간격 카운팅 기초 기법을 활용한다.
• 일반적인 범위 공간에 대해서는 이질성 하한을 $\varepsilon$-근사와 중앙값 기반 메커니즘과 연결하여 적용한다.

실험 결과

연구 질문

• RQ1 반공간 범위 카운팅에 대해 어떤 $(\varepsilon,\delta)$-차별적 개인 정보 보장 알고리즘이 $d$차원에서 달성할 수 있는 최적의 근사 오차는 무엇인가?
• RQ2 반공간과 같은 구조화된 범위 공간에 대해서는 일반적인 술어 카운팅에 대한 고전적 $\Omega(n)$ 하한을 피할 수 있는가?
• RQ3 $d$차원에서 $(\varepsilon,\delta)$-차별적 개인 정보 보장 직각 범위 카운팅의 최적 오차는 무엇인가?
• RQ4 이질성 이론은 기하학적 범위 카운팅에서의 사생활-정확도 트레이드오프를 분석하는 데 어떻게 적응시킬 수 있는가?
• RQ5 이 프레임워크는 다항식 셔터 함수를 가진 다른 범위 공간으로 일반화될 수 있는가?

주요 결과

• 논문은 $d$차원에서 $(\varepsilon,\delta)$-차별적 개인 정보 보장 반공간 카운팅에 대해 평균 제곱 오차가 $O(n^{1-1/d})$인 엄밀한 상한을 확립한다.
• 모든 $(\varepsilon,\delta)$-차별적 개인 정보 보장 알고리즘에 대해 $\Omega(n^{1-1/d})$의 일치하는 하한이 증명되어 결과가 최적임을 입증한다.
• 직각 범위 카운팅에 대해 $(\varepsilon,\delta)$-차별적 개인 정보 보장의 경우, $d$차원에서 최초로 초상수 하한 $\Omega((\log n)^{d-1})$을 확립한다.
• 셔터 함수가 $O(s^d)$로 유계된 임의의 범위 공간에 대해, 평균 제곱 오차가 $O(n^{1-1/d})$인 사생활 보장 알고리즘을 도출한다.
• 이 방법은 큰 유니버스 환경으로 확장 가능하며, 다항식 셔터 함수를 가진 범위 체계에 대해 하위선형 오차 하한을 제공한다.
• 이론은 이질성 이론과 차별적 개인 정보 보장 간의 새로운 연결고리를 제공하며, 사생활 제약 조건 하에서 기하학적 범위 카운팅의 엄밀한 분석을 가능하게 한다.