[논문 리뷰] Information Theory of Data Privacy

Genqiang Wu, Xianyao Xia외 1명|arXiv (Cornell University)|2017. 03. 22.

Privacy-Preserving Technologies in Data참고 문헌 35인용 수 3

한 줄 요약

이 논문은 샤논 암호 이론 프레임워크를 베이지안 추론 기반의 프라이버시 모델과 융합하여, 적대자에 대한 불확실성의 하한을 도입함으로써 프라이버시 손실을 정량화한다. 적대자의 불확실성이 이 하한을 초과할 경우, 특히 대규모 데이터셋에서 개인당 정보를 최소한도로 얻게 되도록 보장함으로써, 프라이버시 메트릭에서 베이지안 리스크 요소를 사용하는 데에 체계적인 정당성을 부여한다. 또한 네 가지 조정 가능한 매개변수를 통해 프라이버시와 유틸리티 사이의 민감한 트레이드오프를 가능하게 한다.

ABSTRACT

By combining Shannon's cryptography model with an assumption to the lower bound of adversaries' uncertainty to the queried dataset, we develop a secure Bayesian inference-based privacy model and then in some extent answer Dwork et al.'s question [1]: why Bayesian risk factors are the right measure for privacy loss. This model ensures an adversary can only obtain little information of each individual from the model's output if the adversary's uncertainty to the queried dataset is larger than the lower bound. Importantly, the assumption to the lower bound almost always holds, especially for big datasets. Furthermore, this model is flexible enough to balance privacy and utility: by using four parameters to characterize the assumption, there are many approaches to balance privacy and utility and to discuss the group privacy and the composition privacy properties of this model.

연구 동기 및 목표

• 드워크 등이 제기한 열린 질문에 대해, 왜 베이지안 리스크 요소가 데이터 공개 시 프라이버시 손실을 측정하는 데 적합한지 설명하는 것.
• 정보 이론에 기반한 프라이버시 모델을 체계화하여, 데이터셋 내 개인에 대한 적대자의 지식을 제한하는 것.
• 특히 대규모 데이터셋에서 거의 항상 만족되는, 적대자 불확실성에 대한 하한을 설정하는 것.
• 네 가지 설정 가능한 매개변수를 통해 프라이버시와 유틸리티 사이의 조정 가능한 균형을 제공하는 것.
• 모델 프레임워크 내에서 그룹 프라이버시 및 복합 쿼리 성질 분석을 지원하는 것.

제안 방법

• 샤논 암호 모델을 베이지안 추론과 융합하여, 프라이버시를 적대자 불확실성의 함수로 모델링한다.
• 쿼리된 데이터셋에 대한 적대자의 불확실성에 하한을 도입함으로써 핵심 가정으로 삼는다.
• 네 가지 매개변수를 사용해 불확실성 가정을 특성화함으로써, 프라이버시-유틸리티 트레이드오프에 대한 민감한 제어를 가능하게 한다.
• 베이지안 리스크의 함수로서 프라이버시 손실을 유도하며, 적대자 불확실성이 하한을 초과할 경우 정보 획득이 최소화됨을 보여준다.
• 모델을 활용해 그룹 프라이버시 및 복합 쿼리 성질을 분석함으로써, 확장성과 강건성을 입증한다.
• 특히 대규모 데이터셋에서 하한이 거의 항상 성립하므로, 이 가정에 기반해 이론적 보장을 확보한다.

실험 결과

연구 질문

• RQ1 왜 베이지안 리스크 요소가 데이터 공개 시 프라이버시 손실을 측정하는 데 적합한가?
• RQ2 적대자 불확실성이 하한으로 제약받을 경우, 개인의 정보 泄露 를 최소화하는 프라이버시 모델을 어떻게 구성할 수 있는가?
• RQ3 이 모델이 그룹 프라이버시 및 다중 쿼리의 복합성에 미치는 영향은 무엇인가?
• RQ4 모델은 매개변수화를 통해 어떻게 프라이버시와 유틸리티 사이의 유연한 균형을 달성할 수 있는가?
• RQ5 적대자 불확실성의 하한이 성립하는 조건는 무엇이며, 이는 모델의 타당성에 어떤 영향을 미치는가?

주요 결과

• 모델은 적대자가 데이터셋에 대해 느끼는 불확실성과 연결지어 베이지안 리스크 요소를 프라이버시 손실의 자연스러운 측정 기준으로 정당화한다.
• 적대자 불확실성이 하한을 초과할 경우, 모델은 출력에서 각 개인의 정보가 최소한으로 노출됨을 보장한다.
• 하한 가정은 대규모 데이터셋에서 거의 항상 성립하므로, 모델은 실용적으로 타당하고 강건하다.
• 네 가지 조정 가능한 매개변수를 통해 프라이버시-유틸리티 트레이드오프를 민감하게 제어할 수 있어, 다양한 위협 모델에 맞게 맞춤화할 수 있다.
• 모델 프레임워크는 그룹 프라이버시 및 쿼리 복합성 분석을 자연스럽게 수용하여, 실제 시스템에의 적용 가능성을 높인다.
• 이론적 기반 덕분에, 적대자 지식에 대한 현실적인 가정 하에서 프라이버시 손실이 유계이자 예측 가능함을 보장한다.