[논문 리뷰] Boosting the Accuracy of Differentially-Private Histograms Through Consistency

Michael Hay, Vibhor Rastogi외 2명|arXiv (Cornell University)|2009. 04. 06.

Privacy-Preserving Technologies in Data참고 문헌 14인용 수 6

한 줄 요약

이 논문은 노이즈가 첨가된 쿼리 출력에 일관성 제약 조건을 적용함으로써 비밀성 보장 히스토그램의 정확도를 햖을 수 있는 후처리 기법을 제안한다. 계층적 또는 구조적 관계(예: 합 제약 조건)를 포함하는 쿼리를 정의하고, 제약 조건을 만족하는 가장 가능성이 높은 일관성 있는 추정치를 제약 조건이 있는 추론을 통해 계산함으로써, 표준적인 비밀성 보장 쿼리 메커니즘보다 훨씬 낮은 오차를 달성한다. 이는 원래 노이즈 스케일이 더 높을 때조차도 성립한다.

ABSTRACT

We show that it is possible to significantly improve the accuracy of a general class of histogram queries while satisfying differential privacy. Our approach carefully chooses a set of queries to evaluate, and then exploits consistency constraints that should hold over the noisy output. In a post-processing phase, we compute the consistent input most likely to have produced the noisy output. The final output is differentially-private and consistent, but in addition, it is often much more accurate. We show, both theoretically and experimentally, that these techniques can be used for estimating the degree sequence of a graph very precisely, and for computing a histogram that can support arbitrary range queries accurately.

연구 동기 및 목표

• 표준 노이즈 추가 메커니즘을 초월하여 비밀성 보장 히스토그램 쿼리의 정확도를 향상시키는 것.
• 다양한 쿼리가 독립적으로 응답될 때 발생하는 불일치 문제(예: 총계와 부분합의 충돌하는 카운트)를 해결하는 것.
• 알려진 구조적 제약 조건(예: 합 관계)을 강제하여 더 정확하고 일관성 있는 추정치를 생성하는 후처리 방법을 개발하는 것.
• 노이즈 스케일이 더 클 경우조차도 제약 조건이 있는 추론이 난이도 높은 노이즈가 첨가된 추정치보다 더 정확한 결과를 도출할 수 있음을 보여주는 것.
• 특히 계층적 및 차수 시퀀스 쿼리에 대해 효율적인 폐쇄형 해를 제공하는 제약 조건이 있는 추론을 위한 히스토그램 워크로드에 적합한 해법을 개발하는 것.

제안 방법

• 진짜 값이 알려진 일관성 제약 조건을 만족하도록 쿼리 집합을 정의한다(예: 총합 = 부분합의 합).
• 표준 비밀성 보장 메커니즘을 사용하여 쿼리 집합에 대한 노이즈가 첨가된 결과를 반환함으로써 비밀성 보장을 유지한다.
• 모든 제약 조건을 만족하면서 노이즈 출력에 가장 가까운 일관성 있는 추정치를 찾기 위해 제약 조건이 있는 추론을 적용한다.
• 계층적 히스토그램의 경우, 더 높은 수준의 노이즈가 첨가된 관측치를 통해 희박한 영역을 탐지할 수 있도록 트리 구조의 쿼리 집합(H)을 사용한다.
• 특정 히스토그램 유형(예: 차수 시퀀스, 계층적 범위)에 대해 제약 조건이 있는 추론의 폐쇄형 해를 활용하여 효율성을 확보한다.
• 변환 과정이 결정적이고 데이터에 의존하지 않기 때문에, 후처리를 통해 프라이버시를 위반하지 않고 불일치하는 노이즈가 첨가된 추정치를 조율한다.

실험 결과

연구 질문

• RQ1 노이즈가 첨가된 비밀성 보장 쿼리 출력에 일관성 제약 조건을 적용하는 것이 정확도 향상에 기여할 수 있는가?
• RQ2 계층적 또는 합 기반과 같은 구조적 제약 조건을 포함한 더 rich한 쿼리 집합이 최소한의 쿼리 집합보다 오차를 줄이는가?
• RQ3 원래 노이즈 스케일이 더 클 경우조차도 제약 조건이 있는 추론이 난이도 높은 노이즈가 첨가된 추정치를 능가할 수 있는가?
• RQ4 희박한 데이터 환경에서 제약 조건이 있는 추론의 정확도가 다른 비밀성 보장 히스토그램 방법과 비교해 어떻게 되는가?
• RQ5 일반적인 히스토그램 워크로드인 차수 시퀀스와 범위 쿼리에 대해 제약 조건이 있는 추론의 폐쇄형 해를 유도할 수 있는가?

주요 결과

• 제약 조건이 있는 추론 방법은 노이즈 스케일이 더 클지라도 원래의 노이즈가 첨가된 출력보다 훨씬 정확도가 높은 추정치를 생성한다.
• 희박한 히스토그램의 경우, 노이즈 스케일이 log n 증가하더라도 계층적 쿼리 전략(H)은 잎 단계 전략(L)보다 더 낮은 오차를 달성할 수 있다.
• 큰 그래프의 차수 시퀀스 추정에서 오차를 감소시켜 네트워크 구조의 정밀한 분석을 가능하게 한다.
• 제약 조건이 있는 추론 단계는 후처리 변환임으로써 비밀성 보장을 훼손하지 않으면서 정확도를 향상시킨다.
• 데이터베이스 크기가 증가할수록 Blum 등이 제안한 합성 데이터 공개 방법과 비교해 안정적인 오차 증가 추세를 보이며 기존 방법을 능가한다.
• 계층적 쿼리 구조와 일관성 강제를 활용하여 임의의 범위 쿼리에 대해 정확한 지원이 가능해진다.