[논문 리뷰] Differentially Private Linear Sketches: Efficient Implementations and Applications

Fuheng Zhao, Dan Qiao외 4명|arXiv (Cornell University)|2022. 05. 19.

Privacy-Preserving Technologies in Data인용 수 11

한 줄 요약

이 논문은 초기화 시 가우시안 노이즈를 추가하여 미분적 보안성 있는 선형 스케치를 제안하며, 터널스테이트 모델에서 프라이버시 보장된 빈도 추정, 상위-K 항목 식별, 분위수 근사화를 가능하게 한다. 이 방법은 오차 증가를 거의 느끼지 않으며 높은 유틸리티를 유지하고, 집중적 미분적 보안성을 달성하며, 이론적 오차 한계가 보장된 터널스테이트 모델에서 최초의 미분적 보안 분위수 스케치를 도입한다.

ABSTRACT

Linear sketches have been widely adopted to process fast data streams, and they can be used to accurately answer frequency estimation, approximate top K items, and summarize data distributions. When data are sensitive, it is desirable to provide privacy guarantees for linear sketches to preserve private information while delivering useful results with theoretical bounds. We show that linear sketches can ensure privacy and maintain their unique properties with a small amount of noise added at initialization. From the differentially private linear sketches, we showcase that the state-of-the-art quantile sketch in the turnstile model can also be private and maintain high performance. Experiments further demonstrate that our proposed differentially private sketches are quantitatively and qualitatively similar to noise-free sketches with high utilization on synthetic and real datasets.

연구 동기 및 목표

• 선형 스케치의 핵심 성질인 효율성과 정확성을 유지하면서도, 이를 미분적 보안성으로 가능하게 하기 위해.
• 이전 연구들이 삽입 전용 또는 제한된 삭제 모델에 국한된 것과는 달리, 터널스테이트 모델에서 삽입과 삭제를 모두 지원하기 위해.
• 이론적 오차 한계가 보장된 터널스테이트 모델에서 최초의 미분적 보안 분위수 스케치를 개발하기 위해.
• 모든 쿼리 연산에 대해 프라이버시를 유지하는 후처리 면역성을 확보하기 위해.
• 실제 데이터셋과 시뮬레이션 데이터셋에서, 프라이버시 보장 스케치가 노이즈가 없는 기준과 유사한 유틸리티를 달성함을 보여주기 위해.

제안 방법

• 업데이트 또는 쿼리 절차를 수정하지 않고도, 초깃값 설정 시 가우시안 노이즈를 추가하여 집중적 미분적 보안성을 달성하기 위해.
• 원래 스케치의 구조와 성질을 유지하면서도 강력한 프라이버시 보장을 제공하기 위해 가우시안 메커니즘을 활용하기 위해.
• 퍼블릭 카운트스케치를 기반으로 하여 터널스테이트 모델용 미분적 보안 분위수 스케치(DP DCS)를 구성하기 위해.
• 모든 항목에 대해 추정 오차의 상한값에 대한 균일한 오차 한계를 유도하여, 모든 쿼리에 대해 강건한 성능을 확보하기 위해.
• 실제 구현에서는 암호학적 해시 함수로 대체하는 이상적인 무작위 해시 함수를 사용하여 무작위성과 프라이버시를 보장하기 위해.
• 후처리 면역성을 적용하여, 프라이버시 보장이 약화되지 않도록 무제한의 쿼리 수를 허용하기 위해.

실험 결과

연구 질문

• RQ1 초기화 시에만 노이즈를 추가함으로써 유틸리티에 최소한의 영향을 미치면서 선형 스케치를 미분적 보안성으로 만들 수 있는가?
• RQ2 제안된 방법은 프라이버시와 정확성을 유지하면서도 터널스테이트 모델에서 삽입과 삭제를 모두 지원할 수 있는가?
• RQ3 개인정보 보호를 위한 선형 스케치를 활용하여 터널스테이트 모델에서 최초의 미분적 보안 분위수 스케치를 구성할 수 있는가?
• RQ4 프라이버시 보장 스케치의 오차는 데이터베이스 크기, 프라이버시 예산, 유니버스 크기에 따라 어떻게 변화하는가?
• RQ5 프라이버시 보장 스케치는 카운트민 스케치의 '오차를 낮추지 않음' 성질을 유지하면서도, 동시에 미분적 보안성을 확보할 수 있는가?

주요 결과

• 제안된 미분적 보안 선형 스케치는 높은 유틸리티를 유지하며, 평균 순위 오차가 이론적 상한값 γ·N = 10³ 보다 한 단계 낮게 유지된다. 여기서 N = 10⁵이다.
• DP DCS의 경우, 균일하게 배치된 분위수의 수가 증가하더라도 평균 순위 오차가 증가하지 않아, 분위수 해상도에 관계없이 안정적인 성능을 보인다.
• 프라이버시 예산이 감소함에 따라(예: ρ = 0.1) 평균 순위 오차가 증가하지만, 특히 큰 N에 대해선 데이터베이스 크기 대비 증가 폭이 매우 작다.
• 프라이버시 보장 카운트민 스케치는 높은 확률로 '오차를 낮추지 않음' 성질을 유지하며, 이는 라플라스 기반 방법이 이 성질을 깨뜨리는 것과 대조된다.
• supₓ|f̂(x)−f̃(x)|에 대해 도출된 균일한 오차 한계는 더 엄격한 전체 오차 제어를 가능하게 하며, 삼각 부등식을 통해 점별 오차 한계와 조합할 수 있다.
• 가우시안 메커니즘을 통해 집중적 미분적 보안을 달성하여, 이항 노이즈로 인한 약간의 미분적 보안보다 더 강력한 보장을 제공하며, 유틸리티와 성질 유지 측면에서 라플라스 기반 접근보다 뛰어난 성능을 보인다.