[논문 리뷰] Optimality of the Laplace Mechanism in Differential Privacy

Fragkiskos Koufogiannis, Shuo Han외 1명|arXiv (Cornell University)|2015. 03. 31.

Privacy-Preserving Technologies in Data참고 문헌 13인용 수 20

한 줄 요약

이 논문은 메트릭 공간에 대한 립시츠 프라이버시—차원 축소된 차별적 프라이버시의 한 형태—를 정의하고, 이에 기반해 라플라스 메커니즘의 최적성을 입증한다. 특히, ℓ₁ 및 ℓ₂ 노름 기반의 인접성 관계 하에서 신뢰도 측정 기준으로서의 평균 제곱 오차를 최소화하는 데 라플라스 메커니즘이 최적임을 증명한다. 또한 고차원 및 다중 사용자 환경에 대한 최적 메커니즘을 유도하여, 개별 데이터 벡터의 ℓ₂ 노름에 비례하는 노이즈를 갖는 라플라스 메커니즘이 회전 불변 프라이버시 제약 조건 하에서 최소 오차를 달성함을 보여준다.

ABSTRACT

In the highly interconnected realm of Internet of Things, exchange of sensitive information raises severe privacy concerns. The Laplace mechanism -- adding Laplace-distributed artificial noise to sensitive data -- is one of the widely used methods of providing privacy guarantees within the framework of differential privacy. In this work, we present Lipschitz privacy, a slightly tighter version of differential privacy. We prove that the Laplace mechanism is optimal in the sense that it minimizes the mean-squared error for identity queries which provide privacy with respect to the $\ell_{1}$-norm. In addition to the $\ell_{1}$-norm which respects individuals' participation, we focus on the use of the $\ell_{2}$-norm which provides privacy of high-dimensional data. A variation of the Laplace mechanism is proven to have the optimal mean-squared error from the identity query. Finally, the optimal mechanism for the scenario in which individuals submit their high-dimensional sensitive data is derived.

연구 동기 및 목표

• 메트릭 공간에 적합한 립시츠 프라이버시를 정의하여, 기존의 차별적 프라이버시의 더 엄격한 변형으로서의 역할을 명시화한다.
• ℓ₁-노름 프라이버시 제약 조건 하에서 신뢰도 측정 기준으로서의 평균 제곱 오차를 최소화하는 데 라플라스 메커니즘이 최적임을 증명한다.
• 고차원 데이터(예: GPS 트레이스)의 프라이버시를 반영하기 위해 ℓ₂-노름 기반의 인접성 관계로 최적성 결과를 확장한다.
• 다수의 사용자가 고차원 프라이버시 데이터를 기여하는 상황에서 최적의 프라이빗 메커니즘을 도출한다.
• 볼록 최적화의 이중성 이론을 활용하여 최적성을 입증하며, 구성된 원본-이중 해에 대해 0의 이중성 갭을 보여 최적성을 증명한다.

제안 방법

• ℓ₁ 및 ℓ₂ 노름 기반의 인접성 관계를 포함한 메트릭 공간에 적합한 립시츠 프라이버시를 정의한다.
• 프라이빗 메커니즘을 입력에 의존하지 않는 노이즈 추가로 모델링: Q(u) = u + V, 여기서 V는 분포 g에서 추출된다.
• 최적 메커니즘 설계 문제를 제약 조건 하에서 E[‖V‖²]의 최소화로 정식화한다.
• 볼록 이중성 이론을 활용해 이중성 갭이 0인 타당한 원본 및 이중 해를 구성함으로써 최적성을 증명한다.
• ℓ₂-노름 경우를 위해, 노이즈 크기의 분포가 감마 분포이고 방향이 구 위에서 균일한 라플라스 메커니즘의 변형을 도출한다.
• 다중 사용자 환경으로 확장하기 위해 공동 데이터 공간을 ℝⁿᵐ로 모델링하고, 개인 및 그룹 프라이버시를 유지하는 복합 인접성 관계를 정의한다.

실험 결과

연구 질문

• RQ1 실수 값 공간에서 ℓ₁-노름 기반의 차별적 프라이버시 하에서 신뢰도 측정 기준으로서의 평균 제곱 오차를 최소화하는 데 라플라스 메커니즘이 최적일 수 있는가?
• RQ2 고차원 데이터에 대해 ℓ₂-노름 프라이버시 제약 조건 하에서 라플라스 메커니즘의 변형이 최적의 정확도를 달성할 수 있는가?
• RQ3 여러 인물이 고차원 프라이버시 데이터를 기여하는 상황에서 최적의 프라이빗 메커니즘은 무엇이며, 인접성 관계는 설계에 어떤 영향을 미치는가?
• RQ4 볼록 최적화에서의 이중성은 차별적 프라이버시의 노이즈 메커니즘 최적성 입증에 어떻게 활용될 수 있는가?
• RQ5 개별 참여 및 데이터 수준의 프라이버시를 유지하는 복합 인접성 관계로 정의된 프라이버시 하에서 라플라스 메커니즘이 여전히 최적일 수 있는가?

주요 결과

• ℓ₁-노름 기반의 인접성 관계 하에서 신뢰도 측정 기준으로서의 평균 제곱 오차를 최소화하는 데 라플라스 메커니즘이 입력에 의존하지 않는 모든 메커니즘 중에서 최적이다.
• ℓ₂-노름 프라이버시의 경우, 노이즈 크기의 분포가 감마 분포이고 방향이 구 위에서 균일한 라플라스 메커니즘의 변형이 최적이다.
• 다중 사용자 및 고차원 데이터의 경우 최적 메커니즘은 각 사용자의 데이터에 대해 ℓ₂-노름 기반의 독립적 노이즈를 추가하며, 밀도는 exp(−ε∑‖vᵢ‖₂) 비례한다.
• ℓ₂-노름 기반 최적 메커니즘의 평균 제곱 오차는 nm(m+1)/ε² 이하로 하한이 존재하며, 이 하한은 유도된 메커니즘에 의해 달성된다.
• 이중성 갭이 0인 원본-이중 해 쌍이 구성되었으며, 이는 볼록 최적화에서 강력 이중성의 성립을 통해 최적성을 증명한다.
• 개별 참여 및 고차원 데이터 프라이버시를 유지하는 복합 인접성 관계로도 결과가 확장되며, 최적 메커니즘은 개별 ℓ₂ 기반 라플라스 메커니즘의 곱으로 구성된다.