[논문 리뷰] Generative Adversarial Privacy

Chong Huang, Peter Kairouz외 3명|arXiv (Cornell University)|2018. 07. 13.

Privacy-Preserving Technologies in Data참고 문헌 16인용 수 40

한 줄 요약

GAP는 privatizer와 adversary 간의 최소-최대 게임을 통해 데이터에서 privatization 메커니즘을 직접 학습하고, 선택된 손실 함수 하에서 프라이버시 보장을 제공하며, GENKI 얼굴 데이터셋에서 평가된다.

ABSTRACT

We present a data-driven framework called generative adversarial privacy (GAP). Inspired by recent advancements in generative adversarial networks (GANs), GAP allows the data holder to learn the privatization mechanism directly from the data. Under GAP, finding the optimal privacy mechanism is formulated as a constrained minimax game between a privatizer and an adversary. We show that for appropriately chosen adversarial loss functions, GAP provides privacy guarantees against strong information-theoretic adversaries. We also evaluate GAP's performance on the GENKI face database.

연구 동기 및 목표

• 문맥에 맞는 프라이버시를 갖춘 private data publishing의 동기를 제시한다.
• 전체 사전 statistics 없이 g(X,Y)를 학습하는 데이터 기반 프라이버시 프레임워크를 제안한다.
• privatizer와 adversary 간의 제약된 최소-최대 게임으로 프라이버시를 형식화한다.
• 실제 데이터셋에서 GAP를 시연하여 프라이버시-유틸리티 트레이드를 설명한다.

제안 방법

• X를 공개 변수, Y를 비공개 변수로 정의하고 (X,Y) 쌍을 P(X,Y)에서 도출한다.
• hat{X}=g(X,Y) 형식의 프라이버시화 함수와 Y를 추측하려는 adversary h(g(X,Y))를 도입한다.
• 왜곡 제약 E[d(g(X,Y),X)] ≤ D를 만족하는 최소화-최대 목표를 설정한다: min_g max_h -L(h,g).
• 두 가지 데이터 기반 g 구현을 제공한다: 순전파 신경망 프라이버시화기(FNNP)와 전치 합성곱 신경망 프라이버시화기(TCNNP).
• adversary를 신경망 분류기로 모델링하여 프라이버시화기에 대항하는 손실을 최적화하고, 경험적 손실 L_n(θ_p,θ_a)로 학습한다.
• 하드 결정에서 0-1 손실 하에 GAP는 MAP 기반 프라이버시 목표로 축소되고, 소프트 결정에서 log-loss 하에 서로 정보 I(g(X,Y);Y)로 축소된다.

실험 결과

연구 질문

• RQ1 데이터에 기반한 프라이버시화 메커니즘을 P(X,Y)에 대한 완전한 지식 없이도 데이터로부터 학습할 수 있는가?
• RQ2 다양한 adversarial 손실 함수(0-1 vs log-loss) 하에서 GAP가 달성하는 프라이버시-유틸리티 트레이드는 어떠한가?
• RQ3 GAN에서 영감을 받은 프라이버시 메커니즘이 강한 어드버서리에 대해 견고한 프라이버시 보장을 제공하면서 데이터 유용성을 보존하는가?
• RQ4 실제 데이터셋에서 서로 다른 프라이버시화 구조가 프라이버시-유틸리티 트레이드에 어떻게 영향을 미치는가?

주요 결과

• GAP는 프라이버시를 어드버서리에 대해 균형 있게 유지하는 distortions 제약 하의 최소-최대 형식을 제시한다.
• 0-1 손실 하에서 어드버서리의 최적 전략은 MAP가 되고, GAP는 Y를 올바르게 추정할 확률을 최대화하는 방향으로 수렴한다.
• log-loss 하에서 최적 어드버서리 전략은 후포고(Posterior)이며, GAP는 I(g(X,Y);Y)를 최소화하는 방향으로 수렴한다.
• GENKI 데이터셋에서 두 가지 프라이버시화 아키텍처(FNNP 및 TCNNP)가 왜곡 증가에 따라 어드버서리의 성별 분류 정확도를 감소시키는 것을 보였으며, 이 구성에서 FNNP가 더 나은 프라이버시 보호 성능을 달성했다.
• 프라이버시화된 이미지는 주로 눈, 코, 입, 수염, 머리카락 등 얼굴 특징의 변화를 보이며, 민감한 속성들을 가리려는 의도된 교란을 시사한다.