[论文解读] Relational Data Synthesis using Generative Adversarial Networks: A Design Space Exploration

Ju Fan, Tongyu Liu+4 more|arXiv (Cornell University)|Aug 28, 2020

Generative Adversarial Networks and Image Synthesis参考文献 52被引用 11

一句话总结

本文提出了一种基于生成对抗网络（GANs）的统一关系型数据合成框架，系统性地探索了神经网络架构、训练策略和数据表示中的设计选择。结果表明，GANs在保持分类、聚类和近似查询处理（AQP）等任务中的数据实用性方面显著优于传统方法，但在实现可证明的差分隐私方面存在局限性。

ABSTRACT

The proliferation of big data has brought an urgent demand for privacy-preserving data publishing. Traditional solutions to this demand have limitations on effectively balancing the tradeoff between privacy and utility of the released data. Thus, the database community and machine learning community have recently studied a new problem of relational data synthesis using generative adversarial networks (GAN) and proposed various algorithms. However, these algorithms are not compared under the same framework and thus it is hard for practitioners to understand GAN's benefits and limitations. To bridge the gaps, we conduct so far the most comprehensive experimental study that investigates applying GAN to relational data synthesis. We introduce a unified GAN-based framework and define a space of design solutions for each component in the framework, including neural network architectures and training strategies. We conduct extensive experiments to explore the design space and compare with traditional data synthesis approaches. Through extensive experiments, we find that GAN is very promising for relational data synthesis, and provide guidance for selecting appropriate design solutions. We also point out limitations of GAN and identify future research directions.

研究动机与目标

• 为解决在数据发布中平衡隐私与实用性的挑战，特别是针对敏感关系型数据。
• 对基于GAN的关系型数据合成方法进行系统性评估，填补先前研究缺乏统一比较框架的空白。
• 通过广泛的实证分析，指导实践者在神经网络架构、训练策略和数据表示等组件中选择最优的GAN配置。
• 在隐私性、实用性以及差分隐私支持方面，将GANs与传统方法（包括VAEs和统计模型）进行比较。

提出的方法

• 提出一种统一的基于GAN的关系型数据合成框架，将现有方法抽象为统一结构。
• 定义了一个涵盖神经网络架构（MLP、LSTM）、训练策略（KL散度损失、简化判别器）和数据转换技术的全面设计空间。
• 采用条件GAN处理类别不平衡的数据集，并引入梯度稳定技术以减轻模式崩溃问题。
• 应用数据转换将混合类型的关系型记录转化为GAN兼容的序列或张量，评估其对性能的影响。
• 整合隐私与实用性评估：通过成员推断攻击评估重识别风险，通过分类、聚类和AQP准确率评估实用性。
• 评估将GAN与差分隐私结合的可行性，分析噪声注入下的实用性权衡。

实验结果

研究问题

• RQ1 不同的神经网络架构（如MLP与LSTM）如何影响合成关系型数据的质量？
• RQ2 哪些训练策略在防止模式崩溃和提升GAN在关系型数据上的收敛性方面最为有效？
• RQ3 数据表示方式（如转换为序列）如何影响基于GAN的合成性能？
• RQ4 基于GAN的合成方法在保留下游任务数据实用性方面，与传统方法（如VAEs、统计模型）相比如何？
• RQ5 GAN能否有效结合差分隐私，以提供可证明的隐私保证而不牺牲实用性？

主要发现

• GAN在分类、聚类和近似查询处理（AQP）任务中均展现出卓越的数据实用性，Census数据集上的AQP误差率低至0.0007。
• 基于LSTM的GAN在各类架构中表现最佳，尤其在结合适当的训练策略和数据转换后，在SAT数据集上实现0.0007的AQP误差，在Census数据集上实现0.0004的AQP误差。
• 基于MLP的GAN更具鲁棒性且调参需求更少，适合非专家用户，尽管其峰值性能低于LSTM架构。
• 在损失函数中使用KL散度以及采用简化判别器，显著提升了训练稳定性并减少了模式崩溃。
• 条件GAN能有效处理类别不平衡数据集，在Anuran和Digits等数据集中显著提升了少数类别的性能。
• 尽管实用性表现强劲，GAN在差分隐私下仍难以维持高实用性，噪声注入导致性能显著下降，表明其在可证明隐私方面存在关键局限。