[논문 리뷰] Differentially Private Publication of Sparse Data

Graham Cormode, Cecilia M. Procopiuc외 2명|arXiv (Cornell University)|2011. 03. 04.

Privacy-Preserving Technologies in Data참고 문헌 19인용 수 37

한 줄 요약

이 논문은 대규모의 밀도가 낮은 데이터셋에 대한 비밀보장성 있는 게재를 위해, 거대한 교차표를 생성하지 않고도 노이즈가 섞인 데이터의 압축된 요약을 직접 생성함으로써 확장 가능한 방법을 제안한다. 이 방법은 필터링, 우선순위 샘플링, 일관성 검사를 통해 출력 크기를 수십만 분의 일 수준으로 줄이며, 강력한 비밀보장성과 낮은 노이즈를 가진 기존의 직접 노이즈 주입 기법과 비교해도 정확도를 유지하거나 초월한다.

ABSTRACT

The problem of privately releasing data is to provide a version of a dataset without revealing sensitive information about the individuals who contribute to the data. The model of differential privacy allows such private release while providing strong guarantees on the output. A basic mechanism achieves differential privacy by adding noise to the frequency counts in the contingency tables (or, a subset of the count data cube) derived from the dataset. However, when the dataset is sparse in its underlying space, as is the case for most multi-attribute relations, then the effect of adding noise is to vastly increase the size of the published data: it implicitly creates a huge number of dummy data points to mask the true data, making it almost impossible to work with. We present techniques to overcome this roadblock and allow efficient private release of sparse data, while maintaining the guarantees of differential privacy. Our approach is to release a compact summary of the noisy data. Generating the noisy data and then summarizing it would still be very costly, so we show how to shortcut this step, and instead directly generate the summary from the input data, without materializing the vast intermediate noisy data. We instantiate this outline for a variety of sampling and filtering methods, and show how to use the resulting summary for approximate, private, query answering. Our experimental study shows that this is an effective, practical solution, with comparable and occasionally improved utility over the costly materialization approach.

연구 동기 및 목표

• 밀도가 낮은 데이터셋에 대한 비밀보장성 게재에서, 직접 노이즈를 주입할 경우 기하급수적으로 커지는 교차표로 인한 확장성 문제를 해결하기 위해.
• 완전한 노이즈가 섞인 표를 생성하지 않고도 고차원적이고 밀도가 낮은 데이터에 대해 효율적인 비밀보장성 쿼리 응답을 가능하게 하기 위해.
• 원시 데이터로부터 직접 압축된, 비밀보장성 있는 요약을 생성하는 기법을 개발하여 계산 및 저장 부담을 최소화하기 위해.
• 필터링 및 샘플링 전략을 통해 노이즈 전파를 줄여 비밀보장성 데이터 게재의 기능성을 향상시키기 위해.
• 일관성 검사와 이항 범위 표현이 밀도가 낮은 데이터의 범위 쿼리 정확도 향상에 얼마나 기여하는지 평가하기 위해.

제안 방법

• 완전한 노이즈가 섞인 교차표를 생성하지 않고도 비밀보장성 있는 요약을 직접 생성하는 간편한 방법을 제안한다.
• 노이즈 주입 이전에 저가치 항목을 제거하기 위해 필터링을 적용하여 희박한 영역에서의 노이즈 영향을 줄인다.
• 크기가 큰 항목을 기반으로 대표적인 항목을 우선순위 샘플링을 통해 선택함으로써 신호를 유지하면서도 출력 크기를 최소화한다.
• 이항 범위에서의 일관성 검사를 통합하여 원래 값이 0이었던 항목에서의 노이즈를 제거함으로써, 희박하고 비균일한 데이터에서 정확도를 향상시킨다.
• 필터링과 우선순위 샘플링을 융합한 하이브리드 '필터-우선순위' 방법을 도입하여 데이터의 희박성과 쿼리 패턴에 적응한다.
• 기준 비교를 위해 기하학적 기반 노이즈를 사용하지만, 전체 표를 생성하는 것을 피하기 위해 요약 생성 과정을 최적화한다.

실험 결과

연구 질문

• RQ1 완전한 노이즈가 섞인 교차표를 생성하지 않고도, 희박하고 고차원적인 데이터셋에 대해 비밀보장성을 확보할 수 있는가?
• RQ2 저가치 항목을 필터링하는 것이 비밀보장성 쿼리 응답의 기능성과 정확도에 어떤 영향을 미치는가?
• RQ3 우선순위 샘플링이 균일한 샘플링이나 직접 노이즈 주입에 비해 기능성을 얼마나 향상시키는가?
• RQ4 일관성 검사가 희박한 데이터에서 원래 값이 0이었던 항목의 노이즈 제거에 얼마나 효과적인가?
• RQ5 이항 범위 표현 방식이 압축된 요약된 비밀보장성 데이터에 대한 범위 쿼리 정확도 향상에 기여하는가?

주요 결과

• 제안된 간편한 방법은 직접 노이즈 주입 방식 대비 출력 크기를 최대 1000배까지 줄여, 대규모 희박 데이터셋에 대한 비밀보장성 게재를 실현 가능하게 한다.
• 필터-우선순위 샘플링은 데이터 공간의 5퍼센트 이상을 포함하는 쿼리에서 상대 오차가 0.8퍼센트 이하로 유지되며, 전체 노이즈가 섞인 표의 정확도를 충족하거나 초월한다.
• 희박하고 비균일한 데이터에서는 일관성 검사로 오차를 30퍼센트에서 60퍼센트까지 줄일 수 있으며, 더 균일한 데이터셋에서는 10퍼센트의 오차 감소 효과를 기록한다.
• 유사한 비밀보장성 파rameter를 사용할 경우, 이 방법은 확률적 비밀보장성 기법들(예: Machanavajjhala 등)보다 쿼리 정확도에서 뛰어나며, 절대 오차가 그들의 방법보다 3배 이상 낮다.
• 대규모 쿼리(데이터 공간의 20퍼센트 이상)에서는 우선순위 샘플링이 다른 방법들보다 뛰어나며, 전체 기하학적 기반 노이즈 방법과 유사한 오차를 기록하지만 훨씬 작은 출력 크기를 유지한다.
• 압축된 요약 방식은 일관성 검사를 통해 허위로 0으로 기록된 항목에서의 노이즈를 제거함으로써 강력한 비밀보장성 보장을 유지하면서도 기능성을 향상시킨다.