[논문 리뷰] An Uncertainty Principle is a Price of Privacy-Preserving Microdata

John M. Abowd, Robert Ashmead외 8명|arXiv (Cornell University)|2021. 10. 25.

Privacy-Preserving Technologies in Data참고 문헌 32인용 수 4

한 줄 요약

이 논문은 차별적 비밀유지에서의 불확실성 원리를 수립하여, 개인정보 보호를 위한 마이크로데이터를 공개할 때 집합적(합계) 쿼리와 소집단(포인트) 쿼리 간의 정확성 간의 본질적 상충관계를 정량화한다. 이는 마이크로데이터 출력을 요구할 경우 순수, 약간의, 집중된 차별적 비밀유지 환경에서도, 비마이크로데이터 시스템 대비 오차 한계가 로그 또는 다항식 수준으로 악화됨을 증명한다—최대 log²d 또는 d² 요인까지. 이는 PUMS 데이터셋을 대상으로 한 실증적 검증을 통해 뒷받_UNDERLINE{받고 있다}.

ABSTRACT

Privacy-protected microdata are often the desired output of a differentially private algorithm since microdata is familiar and convenient for downstream users. However, there is a statistical price for this kind of convenience. We show that an uncertainty principle governs the trade-off between accuracy for a population of interest ("sum query") vs. accuracy for its component sub-populations ("point queries"). Compared to differentially private query answering systems that are not required to produce microdata, accuracy can degrade by a logarithmic factor. For example, in the case of pure differential privacy, without the microdata requirement, one can provide noisy answers to the sum query and all point queries while guaranteeing that each answer has squared error $O(1/ε^2)$. With the microdata requirement, one must choose between allowing an additional $\log^2(d)$ factor ($d$ is the number of point queries) for some point queries or allowing an extra $O(d^2)$ factor for the sum query. We present lower bounds for pure, approximate, and concentrated differential privacy. We propose mitigation strategies and create a collection of benchmark datasets that can be used for public study of this problem.

연구 동기 및 목표

• 다양한 차별적 비밀유지 알고리즘이 마이크로데이터를 출력하도록 요구할 경우, 단지 노이즈가 가미된 쿼리 답변만을 출력하는 것과의 통계적 비용을 규명하고 형식화하는 것.
• 이 요구사항이 전체 집단 수준의 합계 쿼리와 소집단 포인트 쿼리 간 정확성 간의 피할 수 없는 상충관계를 유도한다는 것을 보여주는 것.
• 마이크로데이터가 필수로 요구될 경우 순수, 약간의, 집중된 차별적 비밀유지 환경에서 오차 악화에 대한 이론적 하한을 설정하는 것.
• 다양한 노이즈 메커니즘을 사용하여 실제 PUMS 데이터셋에서 이론적 결과를 실증적으로 검증하는 것.
• 이 상충관계를 완화하기 위한 전략을 제안하고, 이 상충관계를 연구하는 데 사용할 수 있는 공개 벤치마크 데이터셋을 제공하는 것.

제안 방법

• 각 쿼리의 기대 제곱오차를 주요 측정지표로 사용하여 이전 연구에서 사용된 동시/이상치 오차와 구분되는 상충관계를 수립하는 것.
• d개의 상호배타적인 포인트 쿼리와 이를 종합하는 하나의 합계 쿼리를 정의하여, 인구 조사 데이터나 선거구 재편 등 실제 응용 사례를 모델링하는 것.
• 마이크로데이터 공개가 의무화된 경우 순수, 약간의, 집중된 차별적 비밀유지 환경에서 합계 쿼리와 포인트 쿼리에 대한 이론적 하한을 유도하는 것.
• ρ = 0.005인 가우스 메커니즘을 사용하여 개인정보 보호 마이크로데이터를 생성하고, 여러 알고리즘(olsalg, nnlsalg, maxalg, seqalg, weightalg) 간의 쿼리 오차를 비교하는 것.
• 각 쿼리 유형과 알고리즘에 대해 계산된 제곱오차와 표준편차를 포함한 PUMS 데이터셋의 공개 벤치마크 세트를 구축하는 것.
• 원래의 노이즈가 가미된 쿼리 측정값과 합성 마이크로데이터에서 유도된 쿼리 오차 간의 격차를 분석하여 오차 증폭 정도를 정량화하는 것.

실험 결과

연구 질문

• RQ1 다양한 차별적 비밀유지 알고리즘이 마이크로데이터를 출력하도록 요구할 경우, 단지 노이즈가 가미된 쿼리 답변만을 출력하는 것과의 기본 정확성 비용은 무엇인가?
• RQ2 마이크로데이터를 공개하도록 요구할 경우, 차별적 비밀유지 하에서 합계 쿼리의 오차 한계와 그 구성 포인트 쿼리의 오차 한계는 어떻게 영향을 받는가?
• RQ3 마이크로데이터가 요구될 경우 순수, 약간의, 집중된 차별적 비밀유지 환경에서 오차 악화에 대한 이론적 하한을 설정할 수 있는가?
• RQ4 실제 마이크로데이터 합성 방법은 직접 노이즈가 가미된 쿼리 공개에 비해 오차를 얼마나 악화시키는가?
• RQ5 집합적 쿼리와 소집단 쿼리 정확성 간의 오차 상충관계를 완화하기 위한 전략은 무엇인가?

주요 결과

• 마이크로데이터 출력을 요구할 경우 오차 한계가 로그 또는 다항식 수준으로 악화된다: 순수 차별적 비밀유지 하에서는 합계 쿼리 오차가 O(d²) 요인만큼 증가할 수 있고, 포인트 쿼리 오차는 log²d 정도로 증가할 수 있다.
• 마이크로데이터 요구사항이 없을 경우 각 쿼리(합계 및 포인트)는 O(1/ε²)의 제곱오차를 달성할 수 있지만, 마이크로데이터가 요구될 경우 한 쿼리 유형이 더 높은 오차 비용을 지불하지 않으면 이 보장을 잃게 된다.
• PUMS 데이터셋에 대한 실증 결과는 마이크로데이터 합성이 원래의 노이즈가 가미된 측정값보다 훨씬 높은 쿼리 오차를 유도함을 보여주며, 쿼리 및 알고리즘에 따라 제곱오차가 약 300에서 7,000 이상으로 변동한다.
• ρ = 0.005인 가우스 메커니즘은 합계 쿼리의 제곱오차를 323.4에서 1,661.8 사이로 생성하였고, 표준편차는 ±12.2에서 ±283.4까지 변동하여 데이터셋과 알고리즘 간의 상당한 변동성을 보였다.
• 원래 측정 오차와 합성 마이크로데이터에서 유도된 오차 간 격차는 마이크로데이터 합성 과정에서 체계적 오차 증폭이 발생함을 확인하며, 특히 포인트 쿼리에서 두드러진다.
• 본 연구에서 공개된 벤치마크 데이터셋은 오차 증폭이 무작위가 아니라 쿼리 구조와 사용된 개인정보 보호 메커니즘과 관련된 예측 가능한 패턴을 따름을 보여준다.