[论文解读] Fairness GAN

Prasanna Sattigeri, Samuel C. Hoffman+2 more|arXiv (Cornell University)|May 24, 2018

Ethics and Social Impacts of AI参考文献 26被引用 7

一句话总结

Fairness GAN 提出了一种新颖的辅助分类器 GAN，通过促进人口统计均等和机会均等，生成在分配决策中更具公平性的多媒体数据集。它利用未标注数据（如 CelebA）来增强较小的数据集（如足球运动员图像），在保持图像合理性的同时显著提升公平性。

ABSTRACT

In this paper, we introduce the Fairness GAN, an approach for generating a dataset that is plausibly similar to a given multimedia dataset, but is more fair with respect to protected attributes in allocative decision making. We propose a novel auxiliary classifier GAN that strives for demographic parity or equality of opportunity and show empirical results on several datasets, including the CelebFaces Attributes (CelebA) dataset, the Quick, Draw! dataset, and a dataset of soccer player images and the offenses they were called for. The proposed formulation is well-suited to absorbing unlabeled data; we leverage this to augment the soccer dataset with the much larger CelebA dataset. The methodology tends to improve demographic parity and equality of opportunity while generating plausible images.

研究动机与目标

• 开发一种生成模型，以针对分配决策中的受保护属性生成更公平的多媒体数据集。
• 通过数据增强促进人口统计均等性和机会均等性，以解决机器学习中的公平性问题。
• 将未标注数据（如 CelebA）整合到较小的标注数据集中，以提升公平性，同时不损害数据质量。

提出的方法

• 该方法采用一种新颖的辅助分类器 GAN 架构，在训练过程中显式优化公平性度量。
• 通过将生成器基于受保护属性进行条件化，并相应调整损失函数，来强制实现人口统计均等性和机会均等性。
• 该框架旨在吸收大量未标注数据（如 CelebA 数据集），以提升较小标注数据集的公平性。
• 生成器生成的合成图像在不同人口群体间保持平衡，同时具备真实感。
• 判别器被训练以区分真实图像与虚假图像，同时对受保护属性进行分类，以引导公平性。
• 该方法采用条件 GAN 设置，并引入公平性感知的损失组件，以平衡图像保真度与人口统计公平性。

实验结果

研究问题

• RQ1 基于 GAN 的方法能否有效生成合成多媒体数据，以提升分配决策中的公平性？
• RQ2 Fairness GAN 在提升人口统计均等性和机会均等性的同时，其图像合理性保持得如何？
• RQ3 来自如 CelebA 等多样化来源的未标注数据，能在多大程度上提升较小、任务特定数据集的公平性？

主要发现

• Fairness GAN 在生成数据集中成功提升了受保护属性的人口统计均等性。
• 该方法增强了机会均等性，减少了不同人口群体在决策结果上的差异。
• 整合未标注的 CelebA 数据显著提升了较小足球运动员数据集的公平性。
• 生成的图像保持了合理性和视觉真实性，在提升公平性的同时维持了数据质量。
• 该方法在包括人脸图像和体育相关数据在内的多样化多媒体数据集中展现出可扩展性和适应性。