[논문 리뷰] Plausible Deniability for Privacy-Preserving Data Synthesis

Vincent Bindschaedler, Reza Shokri외 1명|arXiv (Cornell University)|2017. 08. 26.

Privacy-Preserving Technologies in Data참고 문헌 30인용 수 10

한 줄 요약

이 논문은 유용성 최적화된 모델을 사용해 합성 기록을 생성하고, 이를 다수의 실제 기록과 구분할 수 없도록 보장하는 보편적 부인 가능성( plausible deniability) 기반으로 개인정보 보호를 위한 새로운 프레임워크를 제안한다. 이 방법은 생성 모델과 개인정보 보장 기능을 분리함으로써 유용성 손실 없이 차별적 비밀유지(differential privacy)를 달성하며, 이론적으로 강력한 보장과 높은 데이터 유용성을 확보한 효율적이고 병렬 처리 가능한 합성 기법을 제공한다.

ABSTRACT

Releasing full data records is one of the most challenging problems in data privacy. On the one hand, many of the popular techniques such as data de-identification are problematic because of their dependence on the background knowledge of adversaries. On the other hand, rigorous methods such as the exponential mechanism for differential privacy are often computationally impractical to use for releasing high dimensional data or cannot preserve high utility of original data due to their extensive data perturbation. This paper presents a criterion called plausible deniability that provides a formal privacy guarantee, notably for releasing sensitive datasets: an output record can be released only if a certain amount of input records are indistinguishable, up to a privacy parameter. This notion does not depend on the background knowledge of an adversary. Also, it can efficiently be checked by privacy tests. We present mechanisms to generate synthetic datasets with similar statistical properties to the input data and the same format. We study this technique both theoretically and experimentally. A key theoretical result shows that, with proper randomization, the plausible deniability mechanism generates differentially private synthetic data. We demonstrate the efficiency of this generative technique on a large dataset; it is shown to preserve the utility of original data with respect to various statistical analysis and machine learning measures.

연구 동기 및 목표

• 완전하고 고차원적인 데이터 세트를 공개하면서도 강력한 개인정보 보호 보장을 유지하는 데 도전하는 것.
• 기존의 차별적 비밀유지 기법이 과도한 노이즈로 인해 데이터 유용성이 떨어지는 한계를 극복하는 것.
• 유용성 최적화된 생성 모델과 개인정보 보장 기능을 분리하여 고유용성 합성 데이터를 생성하는 것.
• 합성 기록에 대해 보편적 부인 가능성을 보장하는 공식화된 개인정보 테스트를 정의하고 구현하는 것.
• 보편적 부인 가능성이 최소한의 유용성 비용으로 차별적 비밀유지를 달성하는 데 사용될 수 있음을 보여주는 것.

제안 방법

• 프레임워크는 실제 데이터 시드에서 유용성 최적화된 일반적인 생성 모델을 사용해 합성 데이터 기록을 생성한다.
• 각 합성 기록에 대해 개인정보 테스트를 적용하여, 비밀유지 파rameter까지 다수의 실제 기록으로부터 유추될 수 있을 정도로 타당하게 생성되었는지 확인한다.
• 테스트에 통과하지 못한 합성 기록은 거부되어 입력 기록과 출력 기록 간 유일한 연결 고리가 생기지 않도록 하며, 이로써 동일시성(indistinguishability)을 강제한다.
• 이 프레임워크는 수백만 개의 기록을 병렬로 생성하고 테스트할 수 있어 기존의 지수적 기법 대비 효율성이 크게 향상된다.
• 동일시성 임계값을 무작위화하면 차별적 비밀유지 기법이 되며, 이는 보편적 부인 가능성과 차별적 비밀유지 간의 수학적 연결 고리를 입증한다.
• 생성 모델과 개인정보 보장 기능을 분리함으로써, 개인정보 설계 기반 제약 없이 최신 기술의 생성 모델을 사용할 수 있다.

실험 결과

연구 질문

• RQ1 보편적 부인 가능성은 합성 데이터 생성을 위한 강력하고 공격자에 의존하지 않는 개인정보 보장 보장으로서 공식화될 수 있는가?
• RQ2 고유용성과 강력한 개인정보 보장을 동시에 확보하는 개인정보 보존 데이터 합성 프레임워크를 구축할 수 있는가?
• RQ3 합성 기록을 테스트하고 걸러내는 방식으로 출력 데이터를 변형하지 않고도 차별적 비밀유지를 달성할 수 있는가?
• RQ4 보편적 부인 가능성은 대규모 고차원 데이터 세트에 대해 얼마나 효율적으로 스케일링될 수 있는가?
• RQ5 합성 데이터 맥락에서 보편적 부인 가능성과 차별적 비밀유지는 어떤 관계가 있는가?

주요 결과

• 제안된 프레임워크는 개인정보 테스트를 통해 강력한 개인정보 보장을 확보한 채 효율적이고 병렬 처리 가능한 합성 기록 생성을 가능하게 한다.
• 기존의 차별적 비밀유지 기법과 달리 생성 모델을 변형하지 않기 때문에 유용성 저하를 방지한다.
• ACS 데이터 세트에 대한 합성은 제안된 방법을 통해 계산적으로 가능하며, 지수적 기법이 요구하는 2TB 메모리 요구 조건을 피할 수 있다.
• 동일시성 임계값을 무작위화할 경우 프레임워크는 차별적 비밀유지를 달성하며, 이는 보편적 부인 가능성과 차별적 비밀유지 간의 공식적 연결 고리를 입증한다.
• 개인정보 테스트는 각 공개된 합성 기록이 다수의 실제 기록과 구분할 수 없도록 보장하여 배경 지식에 영향을 받지 않는 강력한 개인정보 보장 보장을 제공한다.
• 개인정보 테스트를 충족시키는 한, 어떤 고유용성 생성 모델이라도 개인정보를 훼손하지 않고 사용할 수 있다.