[논문 리뷰] Fast Private Data Release Algorithms for Sparse Queries

Avrim Blum, Aaron Roth|arXiv (Cornell University)|2011. 11. 29.

Privacy-Preserving Technologies in Data인용 수 7

한 줄 요약

이 논문은 데이터 유니버스의 원소 수가 다항수준에만 의존하는 희소 통계 쿼리에 대한 효율적인, 차별적(private) 알고리즘을 제시한다. 무작위 투영과 노이즈 주입을 통해, 실행 시간이 데이터 크기 n과 쿼리 희소성 m에 대해 다항식이며, 유니버스 크기 |X|에 독립적인 정확도를 달성함으로써, 무한 유니버스 환경에서도 실용적인 구현이 가능하다.

ABSTRACT

We revisit the problem of accurately answering large classes of statistical queries while preserving differential privacy. Previous approaches to this problem have either been very general but have not had run-time polynomial in the size of the database, have applied only to very limited classes of queries, or have relaxed the notion of worst-case error guarantees. In this paper we consider the large class of <em>sparse</em> queries, which take non-zero values on only polynomially many universe elements. We give efficient query release algorithms for this class, in both the interactive and the non-interactive setting. Our algorithms also achieve better accuracy bounds than previous general techniques do when applied to sparse queries: our bounds are independent of the universe size. In fact, even the runtime of our interactive mechanism is independent of the universe size, and so can be implemented in the “infinite universe” model in which no finite universe need be specified by the data curator.

연구 동기 및 목표

• 큰 클래스의 희소 통계 쿼리에 대해 효율적이고 차별적(private)인 알고리즘을 개발하기 위해.
• 이전의 일반 목적의 차별적(private) 메커니즘들이 데이터 유니버스 크기 |X|에 따라 확장되는 데서 비롯되는 실행 시간 및 정확도 제약을 극복하기 위해.
• 분야 전문가들이 데이터에 대해 도메인 지식을 지닌 경우, 맥락상 의미 있는 희소 쿼리에 집중함으로써 실용적인 비밀 보장 데이터 분석을 가능하게 하기 위해.
• 인터랙티브 및 비인터랙티브 쿼리 공개 환경에서 모두 계산 효율성과 강력한 정확도 보장을 동시에 달성하기 위해.

제안 방법

• 데이터베이스를 저차원 표현으로 압축하기 위해 r-독립적인 요소를 가진 무작위 투영 행렬을 사용한다.
• 투영된 데이터에 라플라스 노이즈를 추가하여 (ε, δ)-차별적(private) 보장을 확보한다.
• 무작위 투영에 의한 왜곡을 제어하기 위해 존슨-린든스트라우스 유형의 농도 경계를 적용한다.
• 라플라스 및 라데마처 랜덤 변수 합의 尾 꼬리 경계를 사용하여 비밀 보장 오차를 제한한다.
• 모든 쿼리에 대한 답을 모두 코딩한 비인터랙티브 데이터 구조를 구성하여 빠른 평가를 가능하게 한다.
• 쿼리의 희소성(m-희소)을 활용하여 정확도를 |X|에서 분리함으로써, m, n, k에만 의존하는 경계를 달성한다.

실험 결과

연구 질문

• RQ1 큰 클래스의 희소 쿼리에 대해 효율적(다항 시간)이고 정확한 차별적(private) 쿼리 공개 알고리즘을 설계할 수 있는가?
• RQ2 특히 |X|가 지수적으로 클 경우, 데이터 유니버스 크기 |X|에 독립적인 정확도를 달성할 수 있는가?
• RQ3 초다항 수의 쿼리를 지원하면서도 비잔성 정확도와 다항 실행 시간을 동시에 확보할 수 있는 비인터랙티브 메커니즘을 설계할 수 있는가?
• RQ4 유한한 속성 값의 상한이 없는 무한 유니버스 모델에서도 알고리즘이 작동할 수 있는가?
• RQ5 희소 쿼리의 보존을 위해 차원을 줄이면서도 비밀 보장과 정확도를 효과적으로 유지할 수 있는가?

주요 결과

• 인터랙티브 메커니즘은 쿼리당 실행 시간이 Õ(m/α²)로 |X|에 독립적이며, 이는 무한 유니버스 환경에서도 사용 가능하게 한다.
• 비인터랙티브 메커니즘은 n, m, log|X|에 대해 다항식 시간 내에 실행되며, α-정확도는 Õ(√(log k / (m log(1/δ)) / (εn))))로 제한된다.
• 정확도 경계가 |X|에 독립적이므로, 오차가 log|X|에 비례하는 일반 메커니즘에 비해 크게 향상된다.
• 비인터랙티브 메커니즘은 초다항 수의 콧갈린 쿼리(예: Cd−log n)를 지원하며, 크기가 dk인 클래스에 대해 비잔성 정확도와 다항 시간을 확보한다.
• 알고리즘은 적응적 쿼리 선택에 대해 강건하며, 복합성 하에서도 비밀 보장을 유지한다.
• 이 프레임워크는 쿼리가 희소하고 데이터 유니버스가 크거나 무한한 경우에도 도메인 전문가가 유용하게 사용할 수 있는 비밀 보장 데이터 공개를 가능하게 한다.