[논문 리뷰] Impossibility of Differentially Private Universally Optimal Mechanisms

Hai Brenner, Kobbi Nissim|arXiv (Cornell University)|2010. 08. 02.

Privacy-Preserving Technologies in Data참고 문헌 7인용 수 5

한 줄 요약

이 논문은 일반화된 카운트 쿼리—예를 들어 합계 쿼리, 히스토GRAM, 다중 카운트 쿼리—에 대해 베이지안 및 리스크 회피 소비자 모델 하에서 보편적으로 최적인 비밀유지 메커니즘이 존재하지 않음을 증명한다. 핵심 결과는 보편적 최적성이 단일 카운트 쿼리에 대해서만 가능하며, 이는 다중 쿼리 유형이 포함될 경우 비밀유지 메커니즘의 구조적 제약 때문임을 보여주는 특성화이다.

ABSTRACT

The notion of a universally utility-maximizing privacy mechanism was recently introduced by Ghosh, Roughgarden, and Sundararajan [STOC 2009]. These are mechanisms that guarantee optimal utility to a large class of information consumers, simultaneously, while preserving Differential Privacy [Dwork, McSherry, Nissim, and Smith, TCC 2006]. Ghosh et al. have demonstrated, quite surprisingly, a case where such a universally-optimal differentially-private mechanisms exists, when the information consumers are Bayesian. This result was recently extended by Gupte and Sundararajan [PODS 2010] to risk-averse consumers. Both positive results deal with mechanisms (approximately) computing a single count query (i.e., the number of individuals satisfying a specific property in a given population), and the starting point of our work is a trial at extending these results to similar settings, such as sum queries with non-binary individual values, histograms, and two (or more) count queries. We show, however, that universally-optimal mechanisms do not exist for all these queries, both for Bayesian and risk-averse consumers. For the Bayesian case, we go further, and give a characterization of those functions that admit universally-optimal mechanisms, showing that a universally-optimal mechanism exists, essentially, only for a (single) count query. At the heart of our proof is a representation of a query function $f$ by its privacy constraint graph $G_f$ whose edges correspond to values resulting by applying $f$ to neighboring databases.

연구 동기 및 목표

• 단일 카운트 쿼리 이외의 일반화된 쿼리 유형에 대해 보편적으로 최적인 비밀유지 메커니즘을 구성할 수 있는지 조사하기 위해.
• 기존의 카운트 쿼리에 대한 보편적으로 최적인 메커니즘에 대한 긍정적 결과를 더 복잡한 쿼리 유형—예를 들어 합계 쿼리, 히스토GRAM, 카운트 쿼리의 조합—으로 확장하기 위해.
• 베이지안 유틸리티 모델 하에서 보편적으로 최적인 메커니즘이 존재할 수 있는 조건을 특성화하기 위해.
• 비밀유지와 유틸리티 최적화의 구조적 제약을 바탕으로, 이러한 메커니즘이 모든 기본 쿼리 유형 이외에는 불가능하다는 것을 입증하기 위해.

제안 방법

• 저자는 쿼리 함수 $ f $ 에 대해 이웃하는 데이터베이스에서의 값을 나타내는 간선을 가진 비밀유지 제약 그래프 $ G_f $ 를 정의한다.
• 특정 사전 분포와 손실 함수를 가진 합리적인 정보 소비자로부터 유도된 제약 조건을 바탕으로 보편적으로 최적인 메커니즘의 구조를 분석한다.
• 이웃 쿼리 출력의 트리플릿에 대해 균일한 사전 분포를 가진 다수의 소비자를 고려하여, 메커니즘의 전이 행렬에 대한 겹치는 열 분할 제약 조건을 유도한다.
• 유도된 메커니즘은 비밀유지와 행 스토하스틱성 제약 조건에서 유도된 계수 $ c_i $ 와 스케일링 요소 $ \alpha $ 를 포함하는 특정 대칭적 구조를 가져야 한다고 보여준다.
• 메커니즘의 타당성은 계수의 음수 여부에 의해 결정되며, 특히 $ c_0 = (1 - (k-1)\alpha)/(\alpha + 1) $ 는 $ k $ 개의 이웃에 대해 $ \alpha \leq 1/(k-1) $ 를 요구한다.
• 점차로 더 복잡해지는 소비자 사전 분포를 고려함으로써, 모든 유도된 제약 조건을 동시에 만족해야 하는 보편적 메커니즘의 구조를 도출하며, 이는 $ k > 3 $ 일 때 모순을 초래한다.

실험 결과

연구 질문

• RQ1 단일 카운트 쿼리 이외의 합계 쿼리에 대해 보편적으로 최적인 비밀유지 메커니즘을 구성할 수 있는가?
• RQ2 베이지안 유틸리티 모델 하에서 히스토GRAM 쿼리에 대해 보편적 최적성이 가능한가?
• RQ3 두 개 이상의 카운트 쿼리 조합에 대해 보편적으로 최적인 메커니즘을 설계할 수 있는가?
• RQ4 쿼리 함수 $ f $ 에 어떤 구조적 조건이 존재할 경우 보편적으로 최적인 비밀유지 메커니즘이 존재할 수 있는가?
• RQ5 쿼리 함수 $ f $ 의 비밀유지 제약 그래프 $ G_f $ 는 어떤 조건에서 타당한 보편적 메커니즘을 허용하는가?

주요 결과

• 비이진 값의 합계 쿼리에 대해서조차 보편적으로 최적인 비밀유지 메커니즘이 존재하지 않으며, 이는 쿼리가 선형인 경우에도 마찬가지이다.
• 이 불가능성은 베이지안 및 리스크 회피 소비자 모델 하에서 히스토GRAM 쿼리와 다중 카운트 쿼리의 조합에도 확장된다.
• 보편적으로 최적인 메커니즘이 존재하는 것은 비밀유지 제약 그래프 $ G_f $ 가 사이클이거나 최대 차수 $ \Delta(G_f) \leq 2 $ 인 경우에만 가능하며, 이마저도 엄격한 조건을 충족해야 한다.
• 쿼리에 $ G_f $ 에서 $ k > 3 $ 개의 이웃이 존재할 경우, 메커니즘 계수는 $ \alpha \leq 1/(k-1) $ 를 만족해야 타당해지며, 이는 모든 소비자가 동시에 만족시킬 수 없다.
• 보편적 메커니즘의 유일한 타당한 해는 $ c_0 \geq 0 $ 를 요구하며, 이 조건은 $ k > 3 $ 일 때 실패하므로 이러한 경우의 불가능성을 입증한다.
• 논문은 완전한 특성화를 수립한다: 보편적으로 최적인 메커니즘이 존재하는 것은 단일 카운트 쿼리에 대해서만 가능하며, 이는 다수의 소비자 사전 분포 하에서 메커니즘의 열 구조에 기인한 구조적 불일치 때문이므로.