[论文解读] Evaluating the Fairness Impact of Differentially Private Synthetic Data

Blake Bullwinkel, Kristen Grabarz+4 more|arXiv (Cornell University)|May 9, 2022

Privacy-Preserving Technologies in Data被引用 5

一句话总结

本文评估了差分隐私合成数据在下游二分类任务中的公平性影响，发现四种DP合成器中有三种会通过降低少数群体代表性而损害公平性。通过多标签欠采样对数据进行预处理可缓解此问题，在不损失准确率的情况下提升公平性，而MST合成器在未经预处理的情况下也能保持与非私有数据相当的公平性和准确率。

ABSTRACT

Differentially private (DP) synthetic data is a promising approach to maximizing the utility of data containing sensitive information. Due to the suppression of underrepresented classes that is often required to achieve privacy, however, it may be in conflict with fairness. We evaluate four DP synthesizers and present empirical results indicating that three of these models frequently degrade fairness outcomes on downstream binary classification tasks. We draw a connection between fairness and the proportion of minority groups present in the generated synthetic data, and find that training synthesizers on data that are pre-processed via a multi-label undersampling method can promote more fair outcomes without degrading accuracy.

研究动机与目标

• 探究差分隐私合成数据在下游机器学习任务中的公平性影响。
• 识别DP合成器是否会加剧类别不平衡，特别是对少数群体的影响。
• 评估使用多标签欠采样对非私有数据进行预处理是否能提升DP合成数据的公平性。
• 在真实世界数据集上比较多种DP合成器在公平性和准确率方面的表现。
• 确定是否存在某种DP合成器能够保持与非私有数据相当的公平性和准确率。

提出的方法

• 评估了四种DP合成器：MWEM、DP-CTGAN、PATE-CTGAN和MST，分别在有无QUAIL集成的情况下进行测试。
• 使用多标签欠采样对非私有训练数据进行预处理，以平衡少数群体的代表性。
• 在DP合成数据上训练逻辑回归分类器，并与非私有基线模型比较公平性和准确率。
• 通过等效奇偶距离衡量公平性，使用F1分数衡量准确率，覆盖多个数据集（ACS Income、Adult、COMPAS）。
• 通过高斯机制和DP-SGD实现差分隐私，确保在受控隐私预算下满足(ε,δ)-差分隐私。
• 可视化并比较合成数据与原始数据中少数群体的比例，以关联分布偏移与公平性结果。

实验结果

研究问题

• RQ1 差分隐私合成数据生成器是否会在下游二分类任务中损害公平性？
• RQ2 合成数据中少数群体比例与下游模型公平性之间是否存在相关性？
• RQ3 使用多标签欠采样对非私有数据进行预处理，是否能在不降低准确率的情况下提升DP合成数据的公平性？
• RQ4 哪种DP合成器能将公平性和准确率保持在最接近非私有数据的水平？
• RQ5 超参数敏感性和模型架构如何影响DP合成数据中的公平性结果？

主要发现

• 四种DP合成器中的三种——QUAIL-MWEM、QUAIL-DPCTGAN和QUAIL-PATECTGAN——显著降低了合成数据中少数群体的代表性，导致公平性结果恶化。
• 在ACS Income数据集上，基于这三种模型生成的合成数据训练的分类器，其等效奇偶距离几乎是非私有数据训练模型的两倍。
• 通过多标签欠采样进行预处理后，合成数据中少数群体比例提高，等效奇偶距离降低，公平性得到改善且未损失准确率。
• MST合成器保持了与非私有数据几乎相同的少数群体比例，并实现了与非私有基线无差别的公平性和准确率指标。
• QUAIL-DPCTGAN和QUAIL-PATECTGAN表现出高度可变的性能，表明即使在使用QUAIL集成后，其性能仍对超参数极为敏感。
• 公平性得到提升的同时未损失准确率，这与DP合成数据中存在公平性-准确率权衡的普遍假设相矛盾。