[论文解读] Don't Generate Me: Training Differentially Private Generative Models with Sinkhorn Divergence

Tianshi Cao, Alex Bie+3 more|arXiv (Cornell University)|Nov 1, 2021

Generative Adversarial Networks and Image Synthesis被引用 9

一句话总结

该论文提出 DP-Sinkhorn，一种基于最优传输的差分隐私生成建模框架，采用一种新颖的半去偏 Sinkhorn 散度损失函数，无需对抗训练即可训练最优传输基生成模型。该方法在包含严格隐私预算下的私有图像基准测试中，实现了最先进的图像质量（FID）和下游分类准确率，无需使用公开数据即可实现高信息量的 RGB 图像合成。

ABSTRACT

Although machine learning models trained on massive data have led to break-throughs in several areas, their deployment in privacy-sensitive domains remains limited due to restricted access to data. Generative models trained with privacy constraints on private data can sidestep this challenge, providing indirect access to private data instead. We propose DP-Sinkhorn, a novel optimal transport-based generative method for learning data distributions from private data with differential privacy. DP-Sinkhorn minimizes the Sinkhorn divergence, a computationally efficient approximation to the exact optimal transport distance, between the model and data in a differentially private manner and uses a novel technique for control-ling the bias-variance trade-off of gradient estimates. Unlike existing approaches for training differentially private generative models, which are mostly based on generative adversarial networks, we do not rely on adversarial objectives, which are notoriously difficult to optimize, especially in the presence of noise imposed by privacy constraints. Hence, DP-Sinkhorn is easy to train and deploy. Experimentally, we improve upon the state-of-the-art on multiple image modeling benchmarks and show differentially private synthesis of informative RGB images. Project page:https://nv-tlabs.github.io/DP-Sinkhorn.

研究动机与目标

• 为解决在不依赖不稳定 GAN 架构的前提下，训练针对敏感数据的鲁棒、隐私保护型生成模型的挑战。
• 开发一种差分隐私训练方法，避免在噪声约束下极为困难的对抗优化。
• 通过控制梯度估计中的偏差-方差权衡，提升私有生成建模中的图像质量和下游任务性能。
• 在严格差分隐私预算下，无需使用公开数据，实现高保真、高信息量的 RGB 图像合成。
• 基于最优传输原理，建立差分隐私生成建模的新 SOTA 基线。

提出的方法

• 提出一种新颖的半去偏 Sinkhorn 损失，以在差分隐私训练过程中平衡梯度估计的偏差与方差。
• 使用 Sinkhorn 迭代方法在原空间高效近似最优传输距离，避免精确计算 OT。
• 通过梯度裁剪和噪声注入（DPSGD）对生成器参数施加差分隐私。
• 采用基于真实图像与生成图像之间 L1 和 L2 损失的代价函数，以指导分布匹配。
• 引入一种部分去偏的梯度估计器，以降低方差同时保持低偏差，提升训练稳定性。
• 使用 Sinkhorn 散度作为主要目标训练生成器，最小化模型分布与数据分布之间的距离。

实验结果

研究问题

• RQ1 非对抗性、基于最优传输的方法是否能在差分隐私生成建模中超越基于 GAN 的方法？
• RQ2 在差分隐私约束下，如何有效控制梯度估计中的偏差-方差权衡，以提升训练稳定性和图像质量？
• RQ3 在严格隐私预算下，是否可以无需使用公开数据，实现高保真、高信息量的 RGB 图像合成？
• RQ4 在差分隐私约束下，非对抗性框架是否在 FID 和下游分类准确率方面优于基于 GAN 的方法？
• RQ5 能否使完全基于 OT 的方法在私有图像生成中实现实际可行且可扩展？

主要发现

• 在多种图像基准测试（包括 CIFAR-10 和 CelebA）中，DP-Sinkhorn 在不同隐私预算下均实现了最先进的 FID 得分。
• 在 CelebA 数据集上，DP-Sinkhorn 生成的图像在性别分类任务中准确率超过 90%，证明其具备高信息量和下游任务实用性。
• 半去偏梯度估计器优于完全有偏和完全去偏的变体，表明实现了最优的偏差-方差权衡控制。
• Sinkhorn 损失的 L1 变体在 FID 表现上优于 L2 变体，而 L1+L2 混合损失在 FID 和下游准确率之间实现了良好平衡。
• 在严格 DP 约束下，DP-Sinkhorn 生成了高质量、无模糊的 RGB 图像，视觉质量优于同期方法如 Datalens 和 DP-MERF。
• 该方法训练鲁棒且简便，避免了差分隐私 GAN 中常见的训练不稳定性，且无需早停策略。