[논문 리뷰] Privacy Preserving Stream Analytics: The Marriage of Randomized Response and Approximate Computing

Do Le Quoc, Martín Beck외 4명|arXiv (Cornell University)|2017. 01. 19.

Privacy-Preserving Technologies in Data참고 문헌 74인용 수 15

한 줄 요약

PrivApprox는 클라이언트 측 샘플링과 현지 노이즈 주입을 통해 랜덤화된 응답과 근사 계산을 통합하는 프라이버시 보장 스트림 분석 시스템을 소개한다. 이는 차별적 프라이버시보다 더 강력한 제로지식 프라이버시를 달성하고, 거의 실시간의 저지연 처리를 구현하며, 동기화가 없는 분산 아키텍처를 통해 유용성-균형 제어를 체계적으로 가능하게 한다.

ABSTRACT

How to preserve users' privacy while supporting high-utility analytics for low-latency stream processing? To answer this question: we describe the design, implementation, and evaluation of PRIVAPPROX, a data analytics system for privacy-preserving stream processing. PRIVAPPROX provides three properties: (i) Privacy: zero-knowledge privacy guarantees for users, a privacy bound tighter than the state-of-the-art differential privacy; (ii) Utility: an interface for data analysts to systematically explore the trade-offs between the output accuracy (with error-estimation) and query execution budget; (iii) Latency: near real-time stream processing based on a scalable "synchronization-free" distributed architecture. The key idea behind our approach is to marry two existing techniques together: namely, sampling (used in the context of approximate computing) and randomized response (used in the context of privacy-preserving analytics). The resulting marriage is complementary - it achieves stronger privacy guarantees and also improves performance, a necessary ingredient for achieving low-latency stream analytics.

연구 동기 및 목표

• 데이터 스트림 처리에서 강력한 사용자 프라이버시와 고유용성 실시간 분석 간의 갈등을 해결한다.
• 기존 시스템이 실시간 지원이 없거나 중앙집중식으로 신뢰할 수 있는 데이터를 전제로 하는 한계를 극복한다.
• 조정자나 프oxy에 대한 신뢰가 필요 없이 프라이버시 보장 분석을 가능하게 하는 시스템을 설계한다.
• 결합된 샘플링과 노이즈 주입을 통해 제로지식 프라이버시를 도입함으로써, 차별적 프라이버시보다 더 강력한 프라이버시 보장을 달성한다.
• 분석가가 출력 정확도, 오차 추정, 계산 예산 간의 트레이드오프를 탐색할 수 있도록 조정 가능한 인터페이스를 제공한다.

제안 방법

• 각 사용자가 구성 가능한 샘플링 확률 $ s $ 에 따라 쿼리 에포크에 참여할지 여부를 독립적으로 결정하는 데이터 소스 측 샘플링을 적용한다.
• 클라이언트에서 현지 랜덤화된 응답을 사용하여 전송 전에 진실된 답변을 왜곡함으로써 현지 차별적 프라이버시를 보장하고, 집계자 측에서 신뢰할 수 있는 노이즈 추가가 필요 없도록 한다.
• 프록시가 조율 없이 암호화된 익명 스트림을 전달하는 동기화가 없는 분산 아키텍처를 활용하여 지연 시간과 신뢰 가정을 감소시킨다.
• 프록시에서 소스 재작성 기법을 구현하여 연결 불가능성과 익명성을 확보함으로써, 어떤 구성 요소도 응답을 특정 사용자와 연결할 수 없도록 한다.
• 샘플링 비율과 노이즈 파rameter를 구성 가능하게 하여 정확도와 자원 사용량 간의 균형을 조정할 수 있는 프라이버시-유용성 트레이드오프 인터페이스를 통합한다.
• 결합된 접근 방식이 제로지식 프라이버시를 달성함을 증명하며, $ rac{ ho_{zk}}{ ho_{dp}} > 1 $ 이 모든 $ s \neq 0 $ 에 대해 성립함으로써 제로지식 모델에서의 적대자 이득이 더 크다는 것을 나타낸다.

실험 결과

연구 질문

• RQ1 샘플링과 랜덤화된 응답을 공동으로 활용하여 실시간 스트림 분석에서 더 강력한 프라이버시 보장을 달성할 수 있는가?
• RQ2 동기화가 없는 탈중앙화 아키텍처는 프라이버시를 유지하면서도 저지연 스트림 처리를 어떻게 지원할 수 있는가?
• RQ3 샘플링과 현지 노이즈 주입을 조합함으로써 차별적 프라이버시를 초월해 프라이버시를 얼마나 향상시킬 수 있는가?
• RQ4 분석가가 프라이버시 보장 스트림 분석 시스템에서 출력 정확도와 실행 비용 간의 효과적인 트레이드오프를 설정할 수 있는가?
• RQ5 제안된 시스템의 공식적 프라이버시 경계는 무엇이며, 기존 모델인 차별적 프라이버시와 비교해 어떻게 다른가?

주요 결과

• 시스템은 $ rac{ ho_{zk}}{ ho_{dp}} > 1 $ 를 만족하는 불등식에 의해 증명된 바와 같이, 차별적 프라이버시보다 더 강력한 제로지식 프라이버시를 달성한다. 이는 모든 $ s \neq 0 $ 에 대해 성립한다.
• $ rac{ ho_{zk}}{ ho_{dp}} $ 비율은 샘플링 비율 $ s $ 가 감소할수록 증가하며, 이는 낮은 샘플링 비율일수록 제로지식 모델의 프라이버시 이점이 증폭됨을 나타낸다.
• 프록시 및 집계자 간의 조율 오버헤드를 피하는 동기화가 없는 아키텍처 덕분에 시스템은 거의 실시간 스트림 처리를 지원한다.
• 소스 재작성과 암호화를 통해 익명성과 연결 불가능성이 확보되어, 위협 모델 가정 하에 어떤 구성 요소도 응답을 특정 사용자와 연결할 수 없다.
• 분석가가 샘플링 및 노이즈 파rameter를 구성 가능하게 하여 출력 정확도(오차 추정 포함)와 계산 예산 간의 균형을 탐색할 수 있는 실용적인 인터페이스를 제공한다.
• 샘플링과 랜덤화된 응답의 조합은 분산 스트림 분석에서 프라이버시, 성능, 유용성 모두를 동시에 향상시키는 시스템을 만든다.