[论文解读] Imperfect ImaGANation: Implications of GANs Exacerbating Biases on Facial Data Augmentation and Snapchat Selfie Lenses

Niharika Jain, Alberto Olmo+3 more|arXiv (Cornell University)|Jan 26, 2020

Generative Adversarial Networks and Image Synthesis参考文献 47被引用 18

一句话总结

本文研究了生成对抗网络（GANs）如何在面部数据增强中放大现有偏见，表明无条件 GAN（DCGAN、ProGAN）和条件 GAN（CycleGAN）均倾向于生成更少且质量更低的代表性不足群体（尤其是非白人女性）的图像，导致分布向多数群体倾斜。研究证明，GAN 不仅未能纠正偏见，反而加剧了偏见，对 Snapchat 滤镜等工具和合成数据流程具有现实影响。

ABSTRACT

In this paper, we show that popular Generative Adversarial Networks (GANs) exacerbate biases along the axes of gender and skin tone when given a skewed distribution of face-shots. While practitioners celebrate synthetic data generation using GANs as an economical way to augment data for training data-hungry machine learning models, it is unclear whether they recognize the perils of such techniques when applied to real world datasets biased along latent dimensions. Specifically, we show that (1) traditional GANs further skew the distribution of a dataset consisting of engineering faculty headshots, generating minority modes less often and of worse quality and (2) image-to-image translation (conditional) GANs also exacerbate biases by lightening skin color of non-white faces and transforming female facial features to be masculine when generating faces of engineering professors. Thus, our study is meant to serve as a cautionary tale.

研究动机与目标

• 调查基于 GAN 的数据增强技术是否在性别和肤色维度上传播并放大面部数据集中的现有偏见。
• 评估多种 GAN 架构（DCGAN、ProGAN、CycleGAN）从具有偏差的工程学教师头像数据集中生成多样化、高质量面部图像的性能。
• 评估 GAN 生成数据对有偏见的 AI 工具（如 Snapchat 的性别变换自拍滤镜）的现实影响。
• 强调在训练数据存在偏差时，部署 GAN 生成的合成数据用于下游机器学习任务所涉及的伦理风险。
• 作为一项警示性分析，呼吁从业者在 GAN 驱动的数据生成中批判性地评估偏见放大问题。

提出的方法

• 从排名靠前的美国大学中收集了 17,245 张美国工程学教师头像，筛选标准为公开可访问性和图像质量。
• 应用三种 GAN 架构——DCGAN、ProGAN 和 CycleGAN——从有偏差的数据集中生成合成面部图像。
• 使用人工标注的性别和肤色标签，评估生成数据与真实数据在分布上的偏差变化。
• 采用客观图像分析方法，通过 L2-范数距离测量 Snapchat 女性性别滤镜对肤色变化的影响，与标准肤色图表进行对比。
• 对 GAN 中的模式崩溃现象进行定性和定量分析，重点关注少数群体面部模式的代表性不足问题。
• 通过人工评估和面部特征、肤色等图像级指标，比较生成数据分布与真实数据分布。

实验结果

研究问题

• RQ1 无条件 GAN（如 DCGAN 和 ProGAN）在面部数据增强中在多大程度上加剧了人口统计上的不平衡？
• RQ2 通过 CycleGAN 实现的图像到图像翻译在多大程度上影响了生成面部图像中性别和肤色的代表性？
• RQ3 像 Snapchat 自拍滤镜这样的流行消费者 AI 工具在多大程度上反映了并放大了底层 GAN 中存在的偏见？
• RQ4 GAN 中的模式崩溃以何种方式导致少数群体在面部数据集中代表性不足和图像质量下降？
• RQ5 当训练数据在受保护属性（如性别、种族）上存在偏差时，能否伦理地部署 GAN 生成的合成数据用于下游机器学习任务？

主要发现

• DCGAN 和 ProGAN 生成的非白人女性图像数量显著更少，且质量更低，相较于白人男性面部图像，表明其向多数群体发生模式崩溃。
• 基于 CycleGAN 的图像转换平均将非白人面部的肤色变浅一个色阶，而对白人面部则产生不一致或随机的影响。
• Snapchat 的女性性别滤镜将非白人女性的面部特征改变为更男性化且肤色更浅，客观分析确认在六名非白人女性中的五名中均存在一致的肤色变浅现象。
• 研究发现，GAN 不仅反映偏见，还会主动放大训练数据中的偏见，尤其是在性别和种族维度上数据分布不均时。
• 即使是最先进的 GAN（如 ProGAN 和 CycleGAN）也未能缓解偏见，反而传播并加剧了少数群体人口模式的代表性不足。
• 结果表明，基于 GAN 的数据增强可能加剧下游 AI 系统中的系统性不平等，特别是在招聘、刑事司法和面部识别等高风险领域。