[논문 리뷰] The Power of Synergy in Differential Privacy: Combining a Small Curator with Local Randomizers

Amos Beimel, Aleksandra Korolova외 3명|arXiv (Cornell University)|2019. 12. 18.

Privacy-Preserving Technologies in Data참고 문헌 51인용 수 5

한 줄 요약

이 논문은 소수의 신뢰할 수 있는 총괄자와 다수의 현지 사용자 간의 하이브리드 차별적 프라이버시 모델을 소개하고 분석하며, 이 두 모델의 융합이 개별적으로는 불가능한 작업을 가능하게 한다고 보여준다. m ≪ n 사용자가 존재할 때 하이브리드 모델이 국지적 모델에 비해 유용성 측면에서 뚜렷이 향상됨을 입증하며, 특히 가설 검정에서 두드러진다. 또한 총괄자와 현지 에이전트 간의 상호작용이 특정 작업을 해결하는 데 필수적임을 보여준다.

ABSTRACT

Motivated by the desire to bridge the utility gap between local and trusted curator models of differential privacy for practical applications, we initiate the theoretical study of a hybrid model introduced by "Blender" [Avent et al., USENIX Security '17], in which differentially private protocols of n agents that work in the local-model are assisted by a differentially private curator that has access to the data of m additional users. We focus on the regime where m ≪ n and study the new capabilities of this (m,n)-hybrid model. We show that, despite the fact that the hybrid model adds no significant new capabilities for the basic task of simple hypothesis-testing, there are many other tasks (under a wide range of parameters) that can be solved in the hybrid model yet cannot be solved either by the curator or by the local-users separately. Moreover, we exhibit additional tasks where at least one round of interaction between the curator and the local-users is necessary - namely, no hybrid model protocol without such interaction can solve these tasks. Taken together, our results show that the combination of the local model with a small curator can become part of a promising toolkit for designing and implementing differential privacy.

연구 동기 및 목표

• 소수의 신뢰할 수 있는 총괄자가 많은 현지 사용자들을 돕는 하이브리드 차별적 프라이버시 모델의 이론적 능력을 연구하기 위해.
• 국지적 모델과 신뢰할 수 있는 총괄자 모델 간의 유용성 격차를 해소하기 위해 두 모델의 강점을 융합하기 위해.
• 국지적 모델이나 총괄자 전용 모델에서는 해결할 수 없지만 하이브리드 모델에서는 해결 가능한 작업을 특정하기 위해.
• 특정 작업을 해결하기 위해 총괄자와 현지 에이전트 간의 상호작용이 필수적인지 입증하기 위해.
• 하이브리드 모델이 국지적 접근 방식보다 더 뛰어난 유용성을 확보하는 조건을 정량화하기 위해.

제안 방법

• m명의 사용자가 신뢰할 수 있는 총괄자를 통해 기여하고, n명의 사용자가 국지적 차별적 프라이버시를 통해 기여하는 (m,n)-하이브리드 모델을 제안한다.
• 통계적 불가분성 정도를 측정하기 위해 총변동 거리(dTV)와 헬링거 거리(dH2)를 사용하여 모델을 분석한다.
• 기존 연구에서 알려진 결과를 적용한다: 국지적 모델의 표본 복잡도에 대한 Fact 6.3과 총괄자 모델의 표본 복잡도에 대한 Fact 6.4.
• 감소 추론 기법을 사용한다: 만약 하이브리드 프로토콜이 높은 확률로 성공한다면, 국지적 모델 또는 총괄자 모델도 비현저한 확률로 성공해야 한다.
• 성능 평가를 위해 편향 α를 가진 두 베르누이 분포 간의 가설 검정 작업을 구성한다.
• 하이브리드 모델이 유한한 m과 n에서 확률 ≥0.75로 성공할 경우 모순이 발생함을 도출하여, 특정 매개변수 영역에서는 불가능함을 보여준다.

실험 결과

연구 질문

• RQ1 하이브리드 모델은 국지적 모델이나 총괄자 전용 모델에서는 해결할 수 없는 작업을 해결할 수 있는가?
• RQ2 국지적 모델의 유용성을 크게 향상시키기 위해 필요한 최소한의 총괄자 사용자 수(m)는 얼마인가?
• RQ3 특정 차별적 프라이버시 작업을 해결하기 위해 총괄자와 현지 에이전트 간의 상호작용이 필수적인가?
• RQ4 가설 검정의 표본 복잡도 측면에서 하이브리드 모델의 성능은 국지적 모델과 총괄자 모델에 비해 어떻게 비교되는가?
• RQ5 하이브리드 모델이 국지적 모델만으로는 더 강력한 성능을 보이는 매개변수 영역(m, n, ε, α)은 어떤가?

주요 결과

• 특정 작업—즉, 편향 α를 가진 두 베르누이 분포 간의 단순 가설 검정—은 m ≤ c₀(1/α² + 1/(εα)) 이며 n ≤ c₁/(ε²α²)일 경우 (m,n)-하이브리드 모델에서 해결이 불가능하다. 여기서 c₀, c₁는 절대적인 상수이다.
• 하이브리드 모델은 국지적 모델만을 사용하는 경우보다 더 뛰어난 유용성을 달성하며, 특히 m이 작지만 0이 아닌 경우 총괄자와 현지 에이전트 간의 상호작용으로 인해 성능 향상이 발생한다.
• 일부 작업을 해결하기 위해 총괄자와 현지 에이전트 간의 상호작용이 필수적이다: 이러한 상호작용이 없는 프로토콜은 이러한 작업을 해결할 수 없다.
• 불가능성 결과는 하이브리드 프로토콜이 확률 0.75 이상으로 성공할 경우, 국지적 모델 또는 총괄자 모델도 비현저한 확률로 성공해야 한다는 점을 보여줌으로써 유도된다. 이는 기존의 표본 복잡도 하한값과 모순된다.
• 결과는 하이브리드 모델이 단순한 개선이 아니라, 고립된 모델에서는 확보할 수 없는 본질적인 새로운 기능을 가능하게 한다는 것을 보여준다.
• 분석 결과 하이브리드 모델은 총괄자가 원시 데이터를 차별적 프라이버시로 처리할 수 있는 능력을 활용하여, 특히 낮은 프라이버시 손실 영역에서 국지 프로토콜보다 더 높은 정확도를 달성할 수 있음을 보여준다.