[논문 리뷰] Attribute Privacy: Framework and Mechanisms

Wanrong Zhang, Olga Ohrimenko외 1명|arXiv (Cornell University)|2020. 09. 08.

Privacy-Preserving Technologies in Data인용 수 7

한 줄 요약

이 논문은 개인 기록이 아닌 데이터셋의 전반적 성질—예를 들어 분포 매개수나 집계 통계—를 보호하는 데 초점을 맞춘 새로운 개인정보 보호 범주인 속성 프라이버시를 제안한다. Pufferfish 프레임워크를 사용하여 데이터셋 및 분포 속성 프라이버시를 형식화하고, 조건부 분포 간 최악의 워셔스타인 거리에 비례하는 노이즈를 추가하는 효율적인 워셔스타인 기반 메커니즘을 제안하며, 이러한 메커니즘이 유틸리티를 유지하면서도 강력한 프라이버시 보장을 제공함을 입증한다. 일부 경우에서는 그룹 차별적 프라이버시보다 성능이 뛰어나다.

ABSTRACT

Ensuring the privacy of training data is a growing concern since many machine learning models are trained on confidential and potentially sensitive data. Much attention has been devoted to methods for protecting individual privacy during analyses of large datasets. However in many settings, global properties of the dataset may also be sensitive (e.g., mortality rate in a hospital rather than presence of a particular patient in the dataset). In this work, we depart from individual privacy to initiate the study of attribute privacy, where a data owner is concerned about revealing sensitive properties of a whole dataset during analysis. We propose definitions to capture \emph{attribute privacy} in two relevant cases where global attributes may need to be protected: (1) properties of a specific dataset and (2) parameters of the underlying distribution from which dataset is sampled. We also provide two efficient mechanisms and one inefficient mechanism that satisfy attribute privacy for these settings. We base our results on a novel use of the Pufferfish framework to account for correlations across attributes in the data, thus addressing "the challenging problem of developing Pufferfish instantiations and algorithms for general aggregate secrets" that was left open by \cite{kifer2014pufferfish}.

연구 동기 및 목표

• 개인 데이터는 보호되지만 여전히 민감한 데이터셋의 전반적 속성(예: 분포 매개수 또는 집계 통계)에 대한 프라이버시 보호의 격차를 해결하기 위해.
• 두 가지 구분된 프라이버시 개념을 형식화하기 위해: 데이터셋 속성 프라이버시(표본 수준의 성질 보호)와 분포 속성 프라이버시(기본 분포 매개수 보호).
• 특히 속성 간 상관관계가 존재하는 상황에서도 이러한 정의에 따라 속성 프라이버시를 보장하는 실용적인 메커니즘을 개발하기 위해.
• 일반적인 집계 비밀에 대해 Pufferfish 프레임워크를 구현하는 데 도전하는 문제를 해결하기 위해, 특히 비밀이 기록 간 상관관계가 있는 속성에 의존할 경우에 대비하여.

제안 방법

• Pufferfish 프레임워크를 사용하여 속성 프라이버시를 정의하며, 비밀은 데이터셋 내 모든 속성 값에 대한 함수 또는 분포 매개수로 표현된다.
• 데이터셋 속성 프라이버시의 경우, 민감한 속성의 합이 특정 값이 되는 사건을 비밀로 정의하고, 불확실성을 매개수화된 분포 가중치 Θ의 가족으로 모델링한다.
• 분포 속성 프라이버시의 경우, 기본 분포 매개수(예: 베르누이 성공 확률)를 비밀로 간주하고, 서로 다른 매개수 값에 따라 출력 함수의 조건부 분포를 고려한다.
• 다른 비밀 값에 대응하는 출력 함수의 조건부 확률 분포 간 워셔스타인 거리를 프라이버시 측도로 사용하여, 최악의 매개수 구성에 대한 강건성을 확보한다.
• 최악의 조건부 분포 간 워셔스타인 거리에 비례하여 라플라스 노이즈를 추가하는 워셔스타인 메커니즘을 제안하며, 이는 프라이버시 보장을 제공한다.
• 이 메커니즘이 속성 간 상관관계의 구조와 출력의 실제 민감도를 활용함으로써, 그룹 차별적 프라이버시보다 더 높은 유틸리티를 달성할 수 있음을 입증한다.

실험 결과

연구 질문

• RQ1 데이터셋의 전반적 성질(예: 민감한 속성의 분포 또는 집계 통계)에 대해 어떻게 공식적으로 프라이버시를 정의할 수 있는가?
• RQ2 속성 간 상관관계가 데이터셋 수준의 비밀을 위한 프라이버시 메커니즘 설계에 미치는 영향는 무엇인가?
• RQ3 분포 매개수(예: 베르누이 확률)를 보호하면서도 높은 유틸리티를 유지할 수 있는 효율적인 메커니즘을 개발할 수 있는가?
• RQ4 Pufferfish 프레임워크에서 조건부 출력 분포 간 최악의 워셔스타인 거리가 프라이버시 보장과 어떻게 관련되는가?
• RQ5 기존 메커니즘인 그룹 차별적 프라이버시보다 유틸리티 측면에서 뛰어나면서도 여전히 전반적 속성에 대해 강력한 프라이버시 보장을 제공할 수 있는가?

주요 결과

• 최악의 조건부 분포 간 워셔스타인 거리가 1일 경우, 출력 함수에 Lap(1/ε) 노이즈를 추가함으로써, 데이터셋 및 분포 설정 모두에서 속성 프라이버시를 보장한다.
• 네 개의 이진 속성과 유계 조건부 확률(0.4 ≤ p₁, p₂ ≤ 0.6)이 존재하는 설정에서 최악의 워셔스타인 거리는 1이 되며, 이는 Lap(1/ε) 노이즈의 최적 추가를 이끈다.
• 매개수 공간 Θ가 확장될 경우(예: 0.3 ≤ p₁, p₂ ≤ 0.7), 최악의 거리는 2로 증가하여 Lap(2/ε) 노이즈가 필요함을 보여주며, 이는 모델의 불확실성에 민감함을 시사한다.
• 분포 속성 프라이버시의 경우, 진짜 매개수 φ₂가 0.2에서 0.8 사이이고 φ₁ = 0.6 − 0.2φ₂일 때 최악의 워셔스타인 거리는 再 1이 되며, 이는 프라이버시를 위해 Lap(1/ε) 노이즈의 정당화를 제공한다.
• 제안된 메커니즘이 그룹 차별적 프라이버시보다 더 높은 유틸리티를 달성한다. 동일한 설정에서 그룹 차별적 프라이버시는 Lap(4/ε) 노이즈가 필요하지만, 본 메커니즘은 민감도 추정이 더 정밀하기 때문이다.
• 이 프레임워크는 비밀을 모든 기록을 포함한 함수로 모델링하고 최악의 분포 민감도를 사용함으로써, 집계 비밀에 대해 Pufferfish 프레임워크의 구현 과제를 성공적으로 해결한다.