[논문 리뷰] Differential Privacy in a Bayesian setting through posterior sampling

Christos Dimitrakakis, Blaine Nelson외 4명|arXiv (Cornell University)|2013. 06. 05.

Privacy-Preserving Technologies in Data참고 문헌 26인용 수 4

한 줄 요약

이 논문은 베이지안 추론에서 일반화된 차별적 프라이버시를 통해 균일한 프라이버시 및 유틸리티 보장을 달성하는 사후 표본 추출 메커니즘을 제안한다. 이는 표준 거리, 결과 공간, 분포 가족 외의 임의의 데이터셋 거리로 차별적 프라이버시를 일반화함으로써 이루어지며, 강력한 적대 모델 하에서 유한 표본 프라이버시 경계를 증명한다. 이는 단순한 사후 표본 추출이 베이지안 프레임워크를 수정하지 않고도 강력한 차별적 프라이버시를 제공한다는 것을 보여준다.

ABSTRACT

We examine the robustness and privacy properties of Bayesian inference, under assumptions on the prior. With no modifications to the Bayesian framework, we show that a simple posterior sampling algorithm results in uniform utility and privacy guarantees. In more detail, we generalise the concept of differential privacy to arbitrary dataset distances, outcome spaces and distribution families. We then prove bounds on the robustness of the posterior, introduce a posterior sampling mechanism, show that it is differentially private and provide finite sample bounds for distinguishability-based privacy under a strong adversarial model. Finally, we give examples satisfying our assumptions.

연구 동기 및 목표

• 사전 가정 하에서 베이지안 추론의 프라이버시 및 강건성 성질을 탐구하는 것.
• 표준 거리 외의 임의의 데이터셋 거리와 분포 가족으로 차별적 프라이버시를 일반화하는 것.
• 사후 표본 추출이 베이지안 프레임워크를 수정하지 않고도 본질적으로 차별적 프라이버시를 제공한다는 것을 보여주는 것.
• 강력한 적대 모델 하에서 구별 가능성 기반 프라이버시에 대한 유한 표본 경계를 수립하는 것.
• 제안된 가정을 만족시키는 구체적인 예시를 제공하고 프레임워크의 적용 가능성을 설명하는 것.

제안 방법

• 분포 가족 기반의 유연한 프레임워크를 사용하여 차별적 프라이버시를 임의의 데이터셋 거리와 결과 공간으로 일반화하는 것.
• 사전에 약한 가정을 두고 데이터셋의 변형에 대한 사후 분포의 강건성 경계를 증명하는 것.
• 사후 분포에서 직접적으로 비공개 추정치를 출력하는 사후 표본 추출 메커니즘을 도입하는 것.
• 사후 우도 비율에 기반한 데이터셋의 구별 가능성에 대한 유한 표본 경계를 유도하는 것.
• 강력한 적대 모델을 사용하여 적대자가 출력을 통해 두 데이터셋을 구별할 확률을 제한하는 것.
• 이론적 경계와 가정을 검증하기 위해 특정 예시에 프레임워크를 적용하는 것.

실험 결과

연구 질문

• RQ1 표준 거리 외의 임의의 데이터셋 거리와 결과 공간으로 차별적 프라이버시를 베이지안 맥락에서 의미 있게 일반화할 수 있는가?
• RQ2 약한 사전 가정 하에서 베이지안 추론의 사후 표본 추출이 본질적으로 차별적 프라이버시를 제공하는가?
• RQ3 강력한 적대 모델 하에서 구별 가능성 기반 프라이버시에 대해 어떤 유한 표본 경계를 수립할 수 있는가?
• RQ4 사후 분포의 강건성은 표본 추출 메커니즘의 프라이버시 보장과 어떻게 관련되는가?
• RQ5 어떤 통계 모델의 클래스가 제안된 프라이버시 및 유틸리티 보장에 필요한 가정을 만족하는가?

주요 결과

• 약한 사전 가정 하에서 사후 표본 추출은 모든 데이터셋에 대해 균일한 프라이버시 및 유틸리티 보장을 제공한다.
• 논문은 차별적 프라이버시를 표준 설정 외의 임의의 데이터셋 거리와 결과 공간으로 일반화하여 적용 범위를 넓혔다.
• 구별 가능성에 대한 유한 표본 경계가 도출되었으며, 이는 적대자가 두 데이터셋을 구별할 확률이 사후 우도 비율의 함수로 제한됨을 보여준다.
• 제안된 메커니즘은 베이지안 추론 과정을 수정하지 않고도 차별적 프라이버시를 달성한다. 이는 오직 사후 표본 추출에 의존한다.
• 필요한 가정을 만족하는 예시를 통해 이론적 경계가 검증되었으며, 실용적 타당성이 입증되었다.
• 사후 분포의 강건성이 공식적으로 프라이버시와 연결되었으며, 데이터에 대한 소규모 변화가 사후 출력 분포에 대해 유계된 변화를 초래한다는 것을 보여준다.