[논문 리뷰] Calibrate: Frequency Estimation and Heavy Hitter Identification with Local Differential Privacy via Incorporating Prior Knowledge
이 논문은 통계적 추론을 통해 노이즈와 진짜 항목 빈도에 대한 사전 지식을 통합함으로써 국소적 차별적 프라이버시(LDP) 환경에서 빈도 추정과 헤비 히터 식별을 향상시키는 후처리 방법 Calibrate를 제안한다. 사전 지식을 확률 분포로 모델링하고 베이지안 업데이트를 사용하여 校정된 빈도 추정치를 계산함으로써 Calibrate는 추정 오차를 크게 감소시킨다—최대 97%의 상대적 향상도 달성하여 ε=5일 때 기존 최고 수준의 방법인 OUE-Zero보다 뛰어나다.
Estimating frequencies of certain items among a population is a basic step in data analytics, which enables more advanced data analytics (e.g., heavy hitter identification, frequent pattern mining), client software optimization, and detecting unwanted or malicious hijacking of user settings in browsers. Frequency estimation and heavy hitter identification with local differential privacy (LDP) protect user privacy as well as the data collector. Existing LDP algorithms cannot leverage 1) prior knowledge about the noise in the estimated item frequencies and 2) prior knowledge about the true item frequencies. As a result, they achieve suboptimal performance in practice. In this work, we aim to design LDP algorithms that can leverage such prior knowledge. Specifically, we design ${Calibrate}$ to incorporate the prior knowledge via statistical inference. ${Calibrate}$ can be appended to an existing LDP algorithm to reduce its estimation errors. We model the prior knowledge about the noise and the true item frequencies as two probability distributions, respectively. Given the two probability distributions and an estimated frequency of an item produced by an existing LDP algorithm, our ${Calibrate}$ computes the conditional probability distribution of the item's frequency and uses the mean of the conditional probability distribution as the calibrated frequency for the item. It is challenging to estimate the two probability distributions due to data sparsity. We address the challenge via integrating techniques from statistics and machine learning. Our empirical results on two real-world datasets show that ${Calibrate}$ significantly outperforms state-of-the-art LDP algorithms for frequency estimation and heavy hitter identification.
연구 동기 및 목표
- 기존 LDP 알고리즘이 사전 지식을 활용하지 못함으로써 빈도 추정과 헤비 히터 식별에서 최적의 성능을 내지 못하는 문제를 해결하기 위해.
- 추정 빈도에 대한 노이즈와 진짜 항목 빈도 분포에 대한 사전 지식을 통합하여 LDP에서의 추정 오차를 줄이기 위해.
- 기존 LDP 알고리즘의 핵심 메커니즘을 수정하지 않고도 적용 가능한 후처리 프레임워크를 설계하기 위해.
- 노이즈와 진짜 빈도에 대한 사전 지식을 확률 분포로 모델링하고 베이지안 추론을 사용하여 校정된 빈도 추정치를 계산하기 위해.
- 실세계 데이터셋에서 다양한 프라이버시 예산 하에 Calibrate가 기존 최고 수준의 LDP 알고리즘을 능가하는지 경험적으로 검증하기 위해.
제안 방법
- 기존 LDP 알고리즘에서 추정한 빈도에 추가된 노이즈 $ \delta $ 의 분포를 나타내는 확률 분포 $ p_s(\delta) $ 로 추정 빈도의 노이즈에 대한 사전 지식을 모델링한다.
- 진짜 빈도 $ k $ 의 가능성에 대한 확률 분포 $ p_f(k) $ 로 진짜 항목 빈도에 대한 사전 지식을 모델링한다.
- 베이지안 추론을 사용하여 조건부 확률 분포 $ p(f|\hat{f}) $ 를 계산한다. 여기서 $ \hat{f} $ 는 기존 LDP 알고리즘으로부터 얻은 추정 빈도이다.
- 조건부 분포 $ p(f|\hat{f}) $ 의 평균을 계산하여 校정된 빈도를 산출하며, 이는 최종 추정치가 된다.
- 실세계 환경에서의 데이터 희소성 문제를 다루기 위해 통계적 및 머신러닝 기법을 사용하여 두 사전 분포 $ p_s $ 와 $ p_f $ 를 추정한다.
- 모든 LDP 알고리즘의 집계 단계 이후에 Calibrate를 후처리 단계로 통합하여 즉시 적용 가능한 방식으로 개선을 가능하게 한다.
실험 결과
연구 질문
- RQ1LDP 추정 빈도의 노이즈에 대한 사전 지식이 빈도 추정 정확도를 향상시킬 수 있는가?
- RQ2진짜 항목 빈도 분포에 대한 사전 지식이 LDP에서의 추정 오차를 추가로 줄일 수 있는가?
- RQ3통계적 추론을 통해 노이즈와 진짜 빈도의 사전 지식을 모두 통합한 방법이 OUE-Zero와 같은 기존 후처리 방법보다 나은가?
- RQ4다양한 프라이버시 예산과 임계값에서 Calibrate는 헤비 히터 식별 성능을 얼마나 향상시키는가?
- RQ5초기 추정치에서 노이즈가 감소함에 따라 더 높은 프라이버시 예산에서 Calibrate의 성능 향상이 더 크게 나타나는가?
주요 결과
- Kosarak 데이터셋에서 ε=5일 때 OUE- Calibrate는 OUE-Zero 대비 추정 오차에서 97%의 상대적 향상을 보였으며, ε=1일 땐 16%에 그쳤다.
- Retail Market Basket 데이터셋에서 ε=5일 때 OUE- Calibrate는 OUE-Zero 대비 65%의 상대적 향상을 보였으며, ε=1일 땐 2.4%에 그쳤다.
- 특히 임계값 이하의 영역에서의 신뢰도가 낮은 저빈도 추정치를 더 잘 다루기 때문에 Calibrate는 OUE-Zero보다 헤비 히터 식별에서 뚜렷한 성능 향상을 보였다.
- OUE- Calibrate는 특히 작은 임계값에서 OUE와 OUE-Zero보다 높은 정밀도(Precision)를 확보했으며, 이는 사전 지식을 활용한 저빈도 항목에 대한 보다 정확한 재보정 덕분이었다.
- 초기 노이즈가 적은 더 높은 프라이버시 예산(예: ε=5)에서 Calibrate의 성능 향상이 더 두드러졌는데, 이는 데이터로부터 사전 분포를 더 잘 추정할 수 있었기 때문이다.
- 논문의 정리 2에 의해 증명된 lin, Calibrate는 주어진 가정 하에서 최적의 후처리 방법임을 입증했다.
더 나은 연구,지금 바로 시작하세요
논문 읽기부터 검토까지, 연구 시간을 획기적으로 줄여보세요.
카드 등록 없음 · 무료 플랜 제공
이 리뷰는 AI가 만들고, 인간 에디터가 검토했습니다.