[논문 리뷰] Don't Generate Me: Training Differentially Private Generative Models with Sinkhorn Divergence

Tianshi Cao, Alex Bie외 3명|arXiv (Cornell University)|2021. 11. 01.

Generative Adversarial Networks and Image Synthesis인용 수 9

한 줄 요약

이 논문은 적대적 훈련 없이 최적화 운반 기반 생성 모델을 훈련하기 위해 새로운 반편향된 Sinkhorn 산란 손실을 사용하는 비밀 보장 생성 모델링 프레임워크인 DP-Sinkhorn을 제안한다. 이는 공개 데이터 없이 엄격한 개인정보 보호 예산 하에서 정보적인 RGB 이미지 합성도 가능하며, 비밀 보장 이미지 벤치마크에서 최신 기준 성능(FID)과 후행 분류 정확도를 달성한다.

ABSTRACT

Although machine learning models trained on massive data have led to break-throughs in several areas, their deployment in privacy-sensitive domains remains limited due to restricted access to data. Generative models trained with privacy constraints on private data can sidestep this challenge, providing indirect access to private data instead. We propose DP-Sinkhorn, a novel optimal transport-based generative method for learning data distributions from private data with differential privacy. DP-Sinkhorn minimizes the Sinkhorn divergence, a computationally efficient approximation to the exact optimal transport distance, between the model and data in a differentially private manner and uses a novel technique for control-ling the bias-variance trade-off of gradient estimates. Unlike existing approaches for training differentially private generative models, which are mostly based on generative adversarial networks, we do not rely on adversarial objectives, which are notoriously difficult to optimize, especially in the presence of noise imposed by privacy constraints. Hence, DP-Sinkhorn is easy to train and deploy. Experimentally, we improve upon the state-of-the-art on multiple image modeling benchmarks and show differentially private synthesis of informative RGB images. Project page:https://nv-tlabs.github.io/DP-Sinkhorn.

연구 동기 및 목표

• 안정성이 떨어지는 GAN 아키텍처에 의존하지 않고 민감한 데이터를 위한 강건하고 개인정보 보호를 고려한 생성 모델을 훈련하는 데 도전하는 것.
• 소음 제약 조건 하에서 특히 어려운 것으로 알려진 적대적 최적화를 피하는 비밀 보장 훈련 방법을 개발하는 것.
• 기울기 추정의 편향-분산 트레이드오프를 제어하여 비밀 보장 생성 모델링에서 이미지 품질과 후행 작업 성능을 향상시키는 것.
• 공개 데이터를 사용하지 않고 엄격한 차별적 프라이버시 기준 하에서 고해상도 정보적인 RGB 이미지 합성을 가능하게 하는 것.
• 최적화 운반 원리를 사용하여 비밀 보장 생성 모델링의 새로운 최신 기준 베이스라인을 설정하는 것.

제안 방법

• 비밀 보장 훈련 중 기울기 추정의 편향과 분산을 균형 잡기 위해 새로운 반편향된 Sinkhorn 손실을 제안한다.
• 정확한 OT 계산을 피하기 위해 원시 공간에서 최적화 운반 거리를 효율적으로 근사하기 위해 Sinkhorn 반복 방법을 사용한다.
• 최적화 과정에서 생성기의 파라미터에 대해 기울기 클리핑과 노이즈 주입(DPSGD)을 적용하여 비밀 보장을 적용한다.
• 실제 이미지와 생성된 이미지 간의 L1 및 L2 손실을 기반으로 한 비용 함수를 도입하여 분포 매칭을 유도한다.
• 편향을 낮추면서도 분산을 줄이기 위해 부분적으로 편향 보정된 기울기 추정기를 도입하여 훈련 안정성을 향상시킨다.
• 생성기의 훈련을 주로 Sinkhorn 산란을 목적 함수로 사용하여 모델 분포와 데이터 분포 간의 거리를 최소화한다.

실험 결과

연구 질문

• RQ1 적대적 방법이 아닌 최적화 운반 기반 접근이 비밀 보장 생성 모델링에서 GAN 기반 방법보다 더 높은 성능을 낼 수 있는가?
• RQ2 비밀 보장 조건 하에서 기울기 추정의 편향-분산 트레이드오프를 효과적으로 제어하여 훈련 안정성과 이미지 품질을 향상시킬 수 있는가?
• RQ3 공개 데이터 없이 엄격한 프라이버시 예산 하에서 고해상도 정보적인 RGB 이미지를 합성할 수 있는가?
• RQ4 비밀 보장 조건 하에서 비적대적 프레임워크가 FID 및 후행 분류 정확도 측면에서 GAN 기반 방법을 능가하는가?
• RQ5 완전히 OT 기반 접근 방식이 개인 이미지 생성에 대해 실용적이고 확장 가능한가?

주요 결과

• DP-Sinkhorn은 다양한 프라이버시 예산 하에서 CIFAR-10 및 CelebA를 포함한 여러 이미지 벤치마크에서 최신 기준 FID 점수를 달성한다.
• CelebA에서 DP-Sinkhorn가 생성한 이미지는 성별 분류 정확도가 90% 이상을 기록하여 후행 작업에 대한 정보성과 유용성을 입증한다.
• 반편향된 기울기 추정기는 완전히 편향된 것과 완전히 편향 보정된 것보다 우수한 성능을 보이며, 최적의 트레이드오프 제어를 나타낸다.
• Sinkhorn 손실의 L1 손실 변형은 L2 변형보다 더 낮은 FID를 기록하지만, 혼합 L1+L2 손실은 FID와 후행 정확도를 균형 있게 유지한다.
• DP-Sinkhorn는 엄격한 DP 제약 조건 하에서도 고품질의 흐리지 않은 RGB 이미지를 생성하여, Datalens 및 DP-MERF와 같은 동시 기술을 뛰어넘는 시각적 품질을 확보한다.
• 이 방법은 강건하고 쉽게 훈련 가능하며, 비밀 보장 GAN에서 흔히 발생하는 훈련 불안정성 문제를 피하고 조기 정지가 필요하지 않다.