[논문 리뷰] Revisiting Differentially Private Hypothesis Tests for Categorical Data

Yue Wang, Jae Wook Lee외 1명|arXiv (Cornell University)|2015. 11. 11.

Privacy-Preserving Technologies in Data참고 문헌 19인용 수 44

한 줄 요약

이 논문은 전통적 접근 방식에서 발생하는 노이즈로 인한 p-값의 편향을 보정하는 범주형 데이터를 위한 차별적 비밀보장 히포테시스 검정을 제안한다. 새로운 渐近적 영역을 도입하고 라플라스 노이즈를 고려하여 검정 통계량을 조정함으로써, 정확한 p-값을 확보하는 신뢰할 수 있는卡-제곱 및 최대우도 비율 검정을 개발하였다. 다양한 개인정보 보호 예산 하에서 소규모 및 대규모 데이터셋에 대한 실험을 통해 검증되었다.

ABSTRACT

In this paper, we consider methods for performing hypothesis tests on data protected by a statistical disclosure control technology known as differential privacy. Previous approaches to differentially private hypothesis testing either perturbed the test statistic with random noise having large variance (and resulted in a significant loss of power) or added smaller amounts of noise directly to the data but failed to adjust the test in response to the added noise (resulting in biased, unreliable $p$-values). In this paper, we develop a variety of practical hypothesis tests that address these problems. Using a different asymptotic regime that is more suited to hypothesis testing with privacy, we show a modified equivalence between chi-squared tests and likelihood ratio tests. We then develop differentially private likelihood ratio and chi-squared tests for a variety of applications on tabular data (i.e., independence, sample proportions, and goodness-of-fit tests). Experimental evaluations on small and large datasets using a wide variety of privacy settings demonstrate the practicality and reliability of our methods.

연구 동기 및 목표

• 차별적 비밀보장 히포테시스 검정에서 단순한 노이즈 추가로 인해 발생하는 p-값의 편향을 해결하기 위해.
• 차별적 비밀보장 하에서 범주형 데이터에 대한 통계적으로 타당한 히포테시스 검정을 개발하여 정확한 제1종 오류 비율을 유지하기 위해.
• 개인정보 보호 히포테시스 검정에서 이론적 渐近 결과와 실증 성능를 조율하기 위해.
• 다양한 데이터 크기와 개인정보 보호 예산에서 적용 가능하고 확장 가능한 독립성, 적합도, 표본 비율 검정을 위한 실용적인 방법을 제공하기 위해.

제안 방법

• 히포테시스 검정에 특화된 새로운 渐近적 영역을 도입하여 기존의 대규모 표본 근사치를 대체한다.
• 노이즈 스케일을 渐近 분포에 통합하여 데이터 내 라플라스 노이즈를 고려한 수정된 검정 통계량을 유도한다.
• 델타 방법과 다변량 정규 근사치를 적용하여 노이즈가 존재하는 조건 하에서 검정 통계량의 渐近 분포를 유도한다.
• 표본 기반 p-값 계산을 사용: 노이즈가 첨부된 귀무가설 분포에서 기준 검정 통계량을 생성하여 p-값을 추정한다.
• 각 검정 유형(독립성, 비율, 적합도)에 대해 귀무가설 하에서 노이즈가 첨부된 검정 통계량의 渐近 분포를 유도한다.
• 노이즈 스케일링 인자 $ \kappa = 1/\sqrt{n_0} $ 를 사용하여 노이즈가 첨부된 데이터와 渐近 근사치 간의 일致성을 확보한다.

실험 결과

연구 질문

• RQ1 데이터에 직접 노이즈를 첨가할 경우, 차별적 비밀보장 히포테시스 검정이 정확한 p-값을 유지할 수 있는가?
• RQ2 범주형 데이터에서 차별적 비밀보장 노이즈를 고려하여 검정 통계량의 渐近 분포를 어떻게 조정할 수 있는가?
• RQ3 제안된 비밀보장 검정이 기존 방법보다 더 높은 통계적 검정력과 신뢰성을 확보할 수 있는가?
• RQ4 다양한 데이터 크기와 개인정보 보호 예산에서 적용 가능하고 확장 가능한 비밀보장 히포테시스 검정을 만들 수 있는가?

주요 결과

• 제안된 방법은 기존의 입력 편향 방법과는 달리 편향 없는 p-값을 생성한다. 예를 들어, 2×2 표에서 기존 방법은 p-값을 0.0876 대신 0.0084로 잘못 산출한다.
• 귀무가설 하에서 검정 통계량의 渐近 분포가 고전적인 카-제곱 또는 최대우도 비율 분포의 노이즈가 첨부된 형태와 동일하다는 것이 입증되었다.
• 실험을 통해 소규모 및 대규모 데이터셋에서 다양한 개인정보 보호 예산 하에서도 신뢰할 수 있는 제1종 오류 제어가 이루어짐을 입증하였다.
• 노이즈 인식 渐近 영역을 사용하면, 노이즈가 첨부된 데이터에 고전적 검정 통계량을 단순히 적용하는 것보다 p-값의 정확도가 크게 향상된다.
• 이론적 결과는 실증적으로 검증되었으며, 강한 개인정보 보호 제약(예: ε = 0.2) 하에서도 제안된 검정이 정확한 통계적 행동을 유지함을 보였다.