[논문 리뷰] Synthetic Data -- A Privacy Mirage

Theresa Stadler, Bristena Oprisanu외 1명|arXiv (Cornell University)|2020. 11. 13.

Privacy-Preserving Technologies in Data참고 문헌 57인용 수 22

한 줄 요약

이 논문은 합성 데이터에서의 프라이버시 향상 정도를 정량화하기 위한 철저한 평가 프레임워크를 제안하며, 블랙박스 공격 하에서 심층적으로 프라이버시된 GAN과 같은 고급 생성 모델조차도 재식별 및 속성 유출에 대해 거의 보호하지 못함을 입증한다. 이 연구는 합성 데이터가 실제 프라이버시 이점을 거의 제공하지 않으며, 특히 모델 복잡도가 증가함에 따라 일부 기록이 다른 기록보다 훨씬 더 취약하다는 점을 드러낸다.

ABSTRACT

Synthetic datasets produced by generative models are advertised as a silver-bullet solution to privacy-preserving data sharing. Claims about the privacy benefits of synthetic data, however, have not been supported by a rigorous privacy analysis. In this paper, we introduce an evaluation framework that enables data holders to (I) quantify the privacy gain of publishing a synthetic dataset instead of the raw data, and (II) compare the privacy properties of generative model training algorithms. We illustrate the utility of the framework and quantify privacy gain with respect to two concerns, the risk of re-identification via linkage and the risk of attribute disclosure, on synthetic data produced by a range of generative models, from simple independent histograms to differentially private GANs. We find that, across the board, synthetic data provides little privacy gain even under a black-box adversary with access to a single synthetic dataset only. Moreover, we observe that some target records receive substantially less protection than others and that the more complex the generative model, the more difficult it is to predict which targets will remain vulnerable to privacy attacks. Our findings highlight the need to re-consider whether synthetic data is an appropriate strategy to privacy-preserving data publishing.

연구 동기 및 목표

• 합성 데이터에 대한 철저한 프라이버시 분석의 부족을 해결하기 위해, 이는 널리 프라이버시 보존 솔루션으로 홍보되고 있다.
• 원본 데이터 대신 합성 데이터셋을 배포할 때의 프라이버시 향상 정도를 정량화하기 위한 체계적인 프레임워크를 개발하기 위해.
• 단순 히스토GRAM에서부터 차등 프라이버시 GAN에 이르기까지 다양한 생성 모델링 알고리즘의 프라이버시 특성을 비교하기 위해.
• 합성 데이터가 민감한 기록을 재식별 및 속성 유출 공격으로부터 진정으로 보호하는지 조사하기 위해.
• 특히 복잡한 생성 모델 하에서의 개별 기록의 취약성을 평가하고, 노출 위험 패턴을 식별하기 위해.

제안 방법

• 저자는 원본 데이터 대신 합성 데이터셋을 배포할 때의 프라이버시 향상 정도를 측정하기 위해, 단 하나의 합성 데이터셋에만 액세스할 수 있는 블랙박스 공격자 시뮬레이션을 포함한 평가 프레임워크를 설계한다.
• 이 프레임워크는 두 가지 핵심 프라이버시 위협을 평가한다: 기록 연결을 통한 재식별 및 추론 공격을 통한 속성 유출.
• 이 방법은 독립 히스토GRAM, 표준 GAN, 차등 프라이버시 GAN을 포함한 다양한 생성 모델에 적용 가능하다.
• 재식별 확률과 여러 대상 기록에 대한 속성 유출 가능성과 같은 지표를 사용하여 프라이버시 위험을 정량화한다.
• 이 프레임워크를 통해 다양한 학습 알고리즘과 모델 아키텍처 간의 프라이버시 특성에 대한 비교 분석이 가능하다.
• 통계적 평가는 제어된 공격 시나리오 하에서 실제 세계 데이터셋을 대상으로 수행되어 실제 프라이버시 결과를 측정한다.

실험 결과

연구 질문

• RQ1 원본 데이터 대신 합성 데이터를 배포할 경우, 기록 연결 공격을 통한 재식별 위험은 어느 정도 감소하는가?
• RQ2 다양한 생성 모델링 기법 간에 속성 유출 위험은 어떻게 달라지는가?
• RQ3 합성 데이터셋 내에서 개별 기록에 대한 프라이버시 보호에 체계적인 차이가 존재하는가?
• RQ4 모델 복잡도가 증가함에 따라 프라이버시 취약점의 예측 가능성과 심각도는 어떻게 영향을 받는가?
• RQ5 GAN 학습에서의 차등 프라이버시가 비프라이버시 기반 모델 대비 프라이버시 보장을 크게 향상시키는가?

주요 결과

• 단 하나의 합성 데이터셋에만 액세스할 수 있는 블랙박스 공격자 조건 하에서도 합성 데이터는 거의 프라이버시 이점을 제공하지 않는다.
• 재식별 및 속성 유출 위험은 차등 프라이버시 GAN을 포함한 모든 평가된 생성 모델에서 높은 수준을 유지한다.
• 일부 대상 기록은 다른 기록보다 훨씬 더 공격에 취약하여 보호 수준이 균일하지 않음을 시사한다.
• 생성 모델의 복잡도가 증가함에 따라 취약한 기록을 예측하는 것이 상당히 어려워진다.
• 연구 결과에 따르면, 어떤 모델 유형이든 합성 데이터가 민감 정보를 신뢰성 있게 보호하지 못하는 강력한 증거가 없다.
• 결과적으로, 원본 데이터 공유의 대안으로서 합성 데이터가 실질적인 프라이버시 보존 솔루션으로서 타당하다는 일반적인 가정을 도전한다.