[논문 리뷰] The Optimal Mechanism in Differential Privacy: Multidimensional Setting

Quan Geng, Pramod Viswanath|arXiv (Cornell University)|2013. 12. 02.

Privacy-Preserving Technologies in Data참고 문헌 19인용 수 11

한 줄 요약

이 논문은 $ε$-differential privacy 프레임워크 하에서 이차원 실수 값 쿼리 함수에 대해 최적의 $ε$-differentially private 메커니즘을 유도한다. 최적의 노이즈 분포는 상관관계가 있는 다차원 단계형 확률 밀도 함수이며, 저비밀리 정책 영역($ε \to \infty$)에서 라플라스 메커니즘보다 뚜렷이 우수하여 비용을 $Θ(\frac{2\Delta}{\epsilon})$ 에서 $Θ(e^{-\epsilon/3})$ 으로 감소시킨다. 결과적으로 단일 차원에서의 단계형 메커니즘의 최적성은 다차원 설정으로 확장된다.

ABSTRACT

We derive the optimal $ε$-differentially private mechanism for a general two-dimensional real-valued (histogram-like) query function under a utility-maximization (or cost-minimization) framework for the $\ell^1$ cost function. We show that the optimal noise probability distribution has a correlated multidimensional staircase-shaped probability density function. Compared with the Laplacian mechanism, we show that in the high privacy regime (as $ε o 0$), the Laplacian mechanism is approximately optimal; and in the low privacy regime (as $ε o +\infty$), the optimal cost is $Θ(e^{-\fracε{3}})$, while the cost of the Laplacian mechanism is $\frac{2Δ}ε$, where $Δ$ is the sensitivity of the query function. We conclude that the gain is more pronounced in the low privacy regime. We conjecture that the optimality of the staircase mechanism holds for vector-valued (histogram-like) query functions with arbitrary dimension, and holds for many other classes of cost functions as well.

연구 동기 및 목표

• 이중 차원 히스토그램 유사 쿼리 함수에 대해 $ε$-differential privacy 하에서 최적의 노이즈 분포를 규명하는 것.
• 이전에 단일 차원 쿼리에 대해 입증된 단계형 메커니즘의 최적성 개념을 이차원 설정으로 확장하는 것.
• $ε$-differential privacy 프레임워크 하에서 예상되는 $ε$-differential privacy 비용을 최소화하는 것.
• 다양한 비밀리성 영역에서 최적의 단계형 메커니즘과 라플라스 메커니즘 간의 성능 격차를 분석하는 것.
• 벡터 값 쿼리에 대해 더 높은 차원에서 단계형 메커니즘이 최적일 것이라는 추측을 내세우는 것.

제안 방법

• 비용 최소화(유용성 최대화) 프레임워크를 $ε$-differential privacy 하에서 사용하여 최적의 메커니즘을 유도한다.
• 이중 차원 쿼리에 대해 최적의 노이즈 분포를 상관관계가 있는 다차원 단계형 확률 밀도 함수로 특성화한다.
• 후보 분포의 탐색 공간을 조각별로 일정한 밀도를 가지는 분포로 줄이기 위해 스케일링 및 변환 기법을 적용한다.
• 모든 부분적으로 최적의 분포는 비용을 증가시키지 않고도 단계형 구조를 가진 분포로 변환될 수 있음을 보여주는 보조정리를 사용한다.
• 단계 수 $i \to \infty$ 에서 渐近적 분석을 통해 연속적인 다차원 단계형 밀도로 수렴함을 보인다.
• 임계값 $k$로 매개변수화된 단계형 분포의 가족에 대한 최적화를 통해 하한 비용을 확립한다.

실험 결과

연구 질문

• RQ1 이중 차원 실수 값 쿼리 함수에 대해 $ε$-differential privacy 하에서 최적의 노이즈 분포는 무엇인가요?
• RQ2 최적의 단계형 메커니즘은 고비밀리성 영역과 저비밀리성 영역에서 라플라스 메커니즘과 비교해 어떻게 성능을 내는가요?
• RQ3 단계형 메커니즘의 최적성은 단일 차원에서 다차원 쿼리 함수로 확장될 수 있는가요?
• RQ4 더 높은 차원에서 최적의 노이즈 분포를 정의하는 구조적 특성(예: 상관관계, 조각별 일정성)은 무엇인가요?
• RQ5 $ε$-differential privacy 프레임워크 외의 다른 비용 함수에 대해서도 단계형 메커니즘이 최적일까요?

주요 결과

• 이중 차원 쿼리에 대해 최적의 노이즈 분포는 상관관계가 있는 다차원 단계형 확률 밀도 함수이다.
• 고비밀리성 영역($\epsilon \to 0$)에서는 라플라스 메커니즘이 약간 최적에 가까워지며, 단계형 메커니즘과 동일한 성능을 보인다.
• 저비밀리성 영역($\epsilon \to \infty$)에서는 최적의 비용이 $\Theta(e^{-\epsilon/3})$이며, 라플라스 메커니즘의 $\frac{2\Delta}{\epsilon}$ 에 비해 뚜렷이 우수하다.
• 각 성분에 독립적인 단계형 노이즈를 더하는 복합 메커니즘은 비용이 $\Theta(e^{-\epsilon/4})$ 로 나타나, 최적의 $\Theta(e^{-\epsilon/3})$ 보다 열 劣하다.
• 최적의 메커니즘이 라플라스 메커니즘보다 가장 두드러진 성능 향상을 보이는 것은 저비밀리성 영역이다.
• 저자들은 단계형 메커니즘이 임의의 차원의 벡터 값 쿼리 및 광범위한 비용 함수에 대해서도 최적일 것이라고 추측한다.