[논문 리뷰] Interactive Privacy via the Median Mechanism

Aaron Roth, Tim Roughgarden|arXiv (Cornell University)|2009. 11. 10.

Privacy-Preserving Technologies in Data참고 문헌 9인용 수 9

한 줄 요약

이 논문은 대량의 조건 쿼리에 대해 온라인으로 응답하는 데 사용할 수 있는 새로운 상호작용형 차별적 비밀보장 알고리즘인 중앙값 기반 메커니즘을 소개한다. 쿼리 간 상관관계를 중앙값 기반 노이즈 할당 전략을 통해 활용함으로써, 쿼리 수에 대해 로그적 의존도를 가지며 기존 비상호작용 메커니즘과 동일한 수준의 비밀보장 성능을 달성한다. 이와 동시에 대부분의 데이터베이스에서 높은 유틸리티를 제공하는 다항시간 구현이 가능하다.

ABSTRACT

We define a new interactive differentially private mechanism -- the median mechanism -- for answering arbitrary predicate queries that arrive online. Relative to fixed accuracy and privacy constraints, this mechanism can answer exponentially more queries than the previously best known interactive privacy mechanism (the Laplace mechanism, which independently perturbs each query result). Our guarantee is almost the best possible, even for non-interactive privacy mechanisms. Conceptually, the median mechanism is the first privacy mechanism capable of identifying and exploiting correlations among queries in an interactive setting. We also give an efficient implementation of the median mechanism, with running time polynomial in the number of queries, the database size, and the domain size. This efficient implementation guarantees privacy for all input databases, and accurate query results for almost all input databases. The dependence of the privacy on the number of queries in this mechanism improves over that of the best previously known efficient mechanism by a super-polynomial factor, even in the non-interactive setting.

연구 동기 및 목표

• 쿼리 수가 증가함에 따라 선형적으로 악화되는 기존 상호작용형 차별적 비밀보장 메커니즘의 한계를 해결하기 위해.
• 온라인 쿼리 환경에서 상관관계 인식 노이즈 할당이 가능한 상호작용형 메커니즘과 비상호작용형 메커니즘 간 격차를 좁히기 위해.
• 쿼리 수, 데이터베이스 크기, 도메인 크기의 다항시간에 비례하는 실행 시간을 가지는 차별적 비밀보장 메커니즘의 효율적 구현을 설계하기 위해.
• 쿼리 수에 대해 거의 최적의 비밀보장 성능을 확보함으로써, 가장 잘 알려진 비상호작용 메커니즘과 동일한 성능을 달성하기 위해.
• 최악의 경우 유틸리티가 손상되더라도, 거의 모든 입력 데이터베이스에 대해 강력한 유틸리티 보장을 제공하기 위해.

제안 방법

• 중앙값 기반 노이즈 할당 전략을 사용하여 쿼리 간 편향을 상관관계화함으로써, 독립적인 라플라스 노이즈 편향보다 전체 노이즈를 감소시킨다.
• 균일성과 비밀보장을 보장하기 위해, $β(1, |X|-1)$-분포를 따르는 확률 단체에서 데이터베이스를 추출하는 새로운 샘플링 절차인 DatabaseSample을 도입한다.
• 연속형 BLR 메커니즘의 변형을 사용하며, 노이즈 할당의 상관관계를 고려할 수 있도록 분포에서 선택된 임계값을 적용한다.
• 쿼리 공간의 구조적이고 저차원적인 표현에서 샘플링하는 다항시간 알고리즘을 사용하여 효율적인 구현을 달성한다.
• 특정 조건에서 $δ = k \cdot \exp(-\Omega(\epsilon n \alpha'))$를 만족하는 $(\epsilon, \delta)$-유용성 보장을 제공함으로써, 대부분의 데이터베이스에서 높은 정확도를 확보한다.
• 적절히 구성된 샘플링 분포와 농도 분석을 통해, 적대적 데이터베이스 복원 가능성을 제한함으로써 비밀보장을 유지한다.

실험 결과

연구 질문

• RQ1 상호작용형 차별적 비밀보장 메커니즘이 쿼리 수에 대해 로그적 의존도를 가지며, 최적의 비상호작용 메커니즘과 동일한 비밀보장 성능을 달성할 수 있는가?
• RQ2 쿼리 간 노이즈 상관관계를 고려한 온라인 환경에서 상호작용형 메커니즘의 효율적이고 다항시간 구현이 가능한가?
• RQ3 이러한 메커니즘의 유틸리티-비밀보장 트레이드오프는 다양한 입력 데이터베이스 분포에서 어떻게 나타나는가?
• RQ4 최악의 경우 유틸리티 보장이 없더라도, 거의 모든 데이터베이스에서 높은 정확도를 달성하면서도 강력한 비밀보장을 유지할 수 있는가?
• RQ5 쿼리 수가 다항식 크기 이상으로 증가할 경우, 메커니즘의 성능이 크게 떨어지는가?

주요 결과

• 중앙값 기반 메커니즘은 쿼리 수 $k$에 대해 로그적 의존도를 가지며, 기존 비상호작용 메커니즘과 동일한 비밀보장 성능을 달성함과 동시에 완전히 상호작용형임을 입증한다.
• 비상호작용 환경에서도 쿼리 수에 대해 초다항적 요소로 라플라스 메커니즘보다 유틸리티-비밀보장 트레이드오프를 향상시킨다.
• 쿼리 수, $|X|$, $n$에 대해 다항시간에 실행되는 효율적 구현이 가능하여 대규모 응용에 실용적이다.
• DatabaseSample을 통해 추출된 데이터베이스 중 근소한 비율을 제외한 전부에 대해 $(\epsilon, \delta)$-유용성 보장을 확보한다. 이때 $\delta = k \cdot \exp(-\Omega(\epsilon n \alpha'))$이다.
• 균일하게 무작위로 생성된 데이터베이스의 경우, $\delta = k \cdot \exp(-\Omega(\epsilon n \alpha'))$를 만족하며, 전체 데이터베이스의 약 $O(n^2 / |X|)$ 비율을 제외한 대부분의 경우 높은 유틸리티를 유지한다.
• 상호작용성 자체가 비밀보장 성능을 제한하지 않음을 입증하였으며, 쿼리 수에 대한 $\log k$ 의존도 이론적 하한선에 거의 도달한다.