[논문 리뷰] BLENDER: Enabling Local Search with a Hybrid Differential Privacy Model

Brendan Avent, Aleksandra Korolova외 3명|arXiv (Cornell University)|2017. 05. 02.

Privacy-Preserving Technologies in Data참고 문헌 29인용 수 49

한 줄 요약

이 논문은 국지적 검색 애플리케이션에서 데이터 유용성을 향상시키기 위해 국지적 및 신뢰할 수 있는 캘리브레이터 개인정보 보호 모델을 결합한 하이브리드 차별적 비밀보장 모델 BLENDER를 제안한다. 옵트인 사용자를 활용해 높은 유용성 추정을 하고, 클라이언트를 통해 강력한 국지적 편향을 적용함으로써 BLENDER는 다양한 개인정보 보호 예산에서 두 개의 대규모 검색 클릭 데이터셋에서 NDCG 점수를 95% 이상 달성한다.

ABSTRACT

We propose a hybrid model of differential privacy that considers a combination of regular and opt-in users who desire the differential privacy guarantees of the local privacy model and the trusted curator model, respectively. We demonstrate that within this model, it is possible to design a new type of blended algorithm for the task of privately computing the head of a search log. This blended approach provides significant improvements in the utility of obtained data compared to related work while providing users with their desired privacy guarantees. Specifically, on two large search click data sets, comprising 1.75 and 16 GB respectively, our approach attains NDCG values exceeding 95% across a range of privacy budget values.

연구 동기 및 목표

• 대규모 데이터 수집에서 사용자 프라이버시와 데이터 유용성 간의 갈등을 해결하기 위해.
• 국지적 모델에서의 유용성을 향상시켜 소규모 기관이 차별적 비밀보장을 도입할 수 있도록 하기 위해.
• 데이터 캘리브레이터에 대한 사용자 신뢰 수준의 다양성을 고려한 하이브리드 개인정보 보호 모델을 설계하기 위해.
• 혼합 접근 방식을 사용해 국지적 검색 로그 구축에서 상당한 유용성 향상을 입증하기 위해.

제안 방법

• 사용자를 두 그룹으로 분리: 국지적 차별적 비밀보장 모델을 사용하는 '클라이언트'와 캘리브레이터를 신뢰하는 '옵트인' 사용자.
• 랜덤라이즈드 리스폰스 또는 유사 메커니즘을 사용해 클라이언트 데이터에 국지적 비밀보장을 적용한다.
• 더 높은 데이터 정밀도를 확보하기 위해 신뢰할 수 있는 캘리브레이터 모델을 사용해 옵트인 사용자로부터 편향된 통계를 수집하고 공개한다.
• 더 정확한 옵트인 그룹을 우선시하는 가중 평균 기반 메커니즘을 통해 두 그룹의 추정치를 혼합한다.
• 유용성을 국지적 모델 구성 요소에서 향상시키기 위해 애플리케이션 특화 국지 알고리즘을 설계한다.
• 분산과 표본 크기를 기반으로 혼합 가중치를 최적화하여 헤드 검색 로그의 정확도를 극대화한다.

실험 결과

연구 질문

• RQ1 국지적 모델과 신뢰할 수 있는 캘리브레이터 모델을 결합함으로써 개인정보 보호 보장을 훼손하지 않으면서도 차별적 비밀보장에서 유용성을 향상시킬 수 있는가?
• RQ2 순수하게 국지적 또는 캘리브레이터 기반 접근 방식과 비교했을 때, 하이브리드 모델은 사생활 보장된 헤드 검색 로그 구축에서 어떻게 성능을 발휘하는가?
• RQ3 옵트인 그룹 크기와 클라이언트 그룹 크기가 혼합 출력의 유용성에 미치는 영향은 무엇인가?
• RQ4 하이브리드 모델은 소규모 사용자 기반을 가진 조직에서 차별적 비밀보장의 실용적 구현을 가능하게 할 수 있는가?
• RQ5 오차를 최소화하면서도 차별적 비밀보장 보장을 유지하기 위해 혼합 과정을 어떻게 최적화할 수 있는가?

주요 결과

• BLENDER는 다양한 개인정보 보호 예산에서 1.75 GB 및 16 GB의 검색 클릭 데이터셋 모두에서 NDCG 값이 95%를 초과한다.
• 혼합 메커니즘이 옵트인 그룹 추정치의 높은 정확도를 효과적으로 활용하면서도 모든 사용자에 대한 강력한 프라이버시 보장을 유지한다.
• 국지적 검색 로그 구축 측면에서 이전 연구인 [QYY+16]과 비교해 상당한 유용성 향상을 보였다.
• 작은 표본 크기로 인해 변동성이 더 큰 옵트인 그룹의 추정치는 적절히 가중치를 적용하면 혼합 과정에서 의미 있는 기여를 한다.
• 프라이버시를 희생시키지 않고도 유용성을 향상시킴으로써, 소규모 사용자 기반을 가진 조직에서 차별적 비밀보장의 실용적 도입을 가능하게 한다.
• 신뢰 기반 데이터 수집 모델을 결합함으로써 실생활 응용에서 상당한 유용성 향상을 이룰 수 있음을 모델이 입증했다.