[논문 리뷰] Lower bounds in differential privacy

Anindya De|arXiv (Cornell University)|2011. 07. 12.

Privacy-Preserving Technologies in Data참고 문헌 8인용 수 11

한 줄 요약

이 논문은 비밀성 보장이 강화된 차별적 프라이버시의 경우에 필요한 노이즈 왜곡의 날카운 하한을 확립하며, 이는 이전 결과들을 통합하고 강화한 것이다. $(\varepsilon,0)$-차별적 프라이버시는 $\delta$가 데이터베이스 크기 $n$에 대해 무시할 만큼 작을지라도, 그 완화된 형태인 $(\varepsilon,\delta)$-차별적 프라이버시보다 훨씬 더 많은 노이즈를 요구한다는 것을 증명한다. 이는 프라이버시 개념 간의 근본적인 구조적 분리를 보여주며, $\ell$-방향 마진에 대해 $o(\sqrt{n})$ 이하의 노이즈가 존재할 경우, 일정 비율의 항목에 대해서도 속성 프라이버시가 위반된다는 것을 보여준다.

ABSTRACT

This is a paper about private data analysis, in which a trusted curator holding a confidential database responds to real vector-valued queries. A common approach to ensuring privacy for the database elements is to add appropriately generated random noise to the answers, releasing only these {\em noisy} responses. In this paper, we investigate various lower bounds on the noise required to maintain different kind of privacy guarantees.

연구 동기 및 목표

• 차별적 프라이버시 질의 공개 메커니즘에서의 노이즈 왜곡에 대한 기존 하한을 통합하고 날카롭게 하는 것.
• 데이터베이스 크기 $n$에서 $\delta$가 무시할 수 있을 정도로 작을지라도, $(\varepsilon,0)$-차별적 프라이버시의 보안 강도가 그 완화된 형태인 $(\varepsilon,\delta)$-차별적 프라이버시와 명백히 다름을 공식적으로 분리하는 것.
• 데이터베이스와 메커니즘의 전사 간 상호정보량 측면에서 $(\varepsilon,\delta)$-차별적 프라이버시가 $(\varepsilon,0)$-차별적 프라이버시보다 훨씬 더 약한 것으로 나타나는 것을 보여주는 것.
• 이전에 기술적 가정 하에만 확립된 카운팅 질의에 대한 노이즈 하한을 단순화하고 조건 없이 적용 가능한 형태로 만드는 것.
• 우리의 우도 크기 $d$가 데이터베이스 크기 $n$보다 작을 경우, 뚜렷한 비프라이버시의 하한을 확장하여, $d$가 감소할수록 하한이 증가함을 보여주는 것.

제안 방법

• Hardt와 Talwar(2010) 및 McGregor 등(2010)의 기법을 조합하여, 저감도 질의의 일군에 대해 왜곡의 선형 하한을 도출한다.
• McGregor 등(2010)이 제시한 $(\varepsilon,\delta)$-차별적 프라이버시의 특성화를 활용하여, $\varepsilon,\delta > 0$ 인 경우에 필요한 왜곡의 새로운 하한을 유도한다.
• LP 디코딩과 Rudelson(2011)의 Rademacher 합의 반집중 성질 결과를 적용하여, 어떤 $\eta > 0$ 에 대해 최소한 $1-\eta$ 비율의 항목에서 $\ell$-방향 마진에 대해 $o(\sqrt{n})$ 이하의 노이즈가 존재할 경우 속성 프라이버시가 위반됨을 보여준다.
• Chernoff 한계와 랜덤 프로젝션에 대한 유니온 한계를 적용하여, $\|x - x'\|_1 \geq cn$ 인 데이터베이스 간의 거리를 유지하는 질의 함수 $F$ 를 구성한다.
• 확률적 방법을 통해 랜덤 프로젝션 벡터 $r_1, \dots, r_k$ 를 고정하여, $\|x - x'\|_1 \geq cn$ 인 경우 어떤 $i$ 에 대해 $F(x)_i - F(x')_i$ 가 크도록 보장함으로써 복원 공격를 가능하게 한다.
• 노이즈가 가미된 응답으로부터 진짜 데이터베이스를 복원하는 복원 알고리즘 $B$ 를 구성하며, $x$ 와 큰 $\ell_1$ 거리를 가지는 어떤 $x'$ 에 대해서도 $M(x,F)_i$ 가 $F(x')_i$ 에서 멀리 떨어져 있음을 보여줌으로써 정당성을 입증한다.

실험 결과

연구 질문

• RQ1 $(\varepsilon,0)$-차별적 프라이버시가 $\delta$ 가 $n$ 에 대해 무시할 수 있을 정도로 작을지라도, $(\varepsilon,\delta)$-차별적 프라이버시보다 엄격히 더 많은 노이즈가 필요한가?
• RQ2 카운팅 질의와 일반적인 저감도 질의 간에 차별적 프라이버시를 위한 필요 노이즈 측면에서 구조적 분리를 확립할 수 있는가?
• RQ3 데이터베이스와 메커니즘의 전사 간 상호정보량 측면에서 $(\varepsilon,\delta)$-차별적 프라이버시가 $(\varepsilon,0)$-차별적 프라이버시보다 훨씬 더 약한가?
• RQ4 모든 항목이 아니라 일정 비율의 $\ell$-방향 마진에 대해 $o(\sqrt{n})$ 이하의 노이즈가 존재할 경우, 속성 프라이버시가 위반될 수 있는가?
• RQ5 데이터의 우도 크기 $d$ 는 뚜렷한 비프라이버시를 방지하기 위해 필요한 노이즈 하한에 어떤 영향을 미치는가?

주요 결과

• 논문은 $\delta \in 2^{-o(n)}$ 인 경우에도 $(\varepsilon,0)$-차별적 프라이버시가 $(\varepsilon,\delta)$-차별적 프라이버시보다 엄격히 더 많은 노이즈를 요구함을 증명하며, 이는 두 프라이버시 모델 간의 근본적인 구조적 분리를 확립한다.
• 무시할 수 있을 정도로 작은 $\delta$ 조건 하에서도 데이터베이스와 메커니즘의 전사 간 상호정보량 측면에서 $(\varepsilon,\delta)$-차별적 프라이버시가 $(\varepsilon,0)$-차별적 프라이버시보다 훨씬 더 약한 것으로 나타나는 것을 보여준다.
• 카운팅 질의에 대한 노이즈 하한이 단순화되고 조건 없이 적용 가능하게 되었으며, 이는 이전 연구에서 Hardt와 Talwar(2010)가 제기한 기술적 가정을 제거한 것이다.
• 논문은 $\ell$-방향 마진에 대해 최소한 $1-\eta$ 비율의 항목에서 $o(\sqrt{n})$ 이하의 노이즈가 존재할 경우 속성 프라이버시가 위반됨을 보여주며, 이는 이전 연구에서 모든 항목에 대해 $o(\sqrt{n})$ 이하의 노이즈가 필요했다는 조건을 개선했다.
• 우도 크기 $d < n$ 인 경우, 뚜렷한 비프라이버시를 방지하기 위해 필요한 노이즈 하한이 증가함을 보여주며, 더 작은 우도는 더 많은 왜곡이 필요함을 시사한다.
• 우도 크기 $d < n$ 인 영역에서 뚜렷한 비프라이버시에 대한 새로운 하한을 확립하였으며, 이는 $d$ 가 감소할수록 필요 노이즈가 증가함을 보여주며, Dinur와 Nissim(2003)의 원래 하한을 강화한다.