[论文解读] RepFair-GAN: Mitigating Representation Bias in GANs Using Gradient Clipping

Patrik Joslin Kenfack, Kamil Sabbagh+2 more|arXiv (Cornell University)|Jul 13, 2022

Adversarial Robustness in Machine Learning被引用 4

一句话总结

该论文提出 RepFair-GAN，一种通过在判别器训练期间应用分组梯度范数裁剪来减轻 GAN 中表示偏差的方法。通过控制每个敏感属性组的梯度大小，生成器在测试时能够从所有组中均匀采样，从而在不牺牲样本质量的前提下实现更公平的数据生成。该方法在 MNIST 和 SVHN 数据集上均经过验证，适用于组分布平衡与不平衡的情况。

ABSTRACT

Fairness has become an essential problem in many domains of Machine Learning (ML), such as classification, natural language processing, and Generative Adversarial Networks (GANs). In this research effort, we study the unfairness of GANs. We formally define a new fairness notion for generative models in terms of the distribution of generated samples sharing the same protected attributes (gender, race, etc.). The defined fairness notion (representational fairness) requires the distribution of the sensitive attributes at the test time to be uniform, and, in particular for GAN model, we show that this fairness notion is violated even when the dataset contains equally represented groups, i.e., the generator favors generating one group of samples over the others at the test time. In this work, we shed light on the source of this representation bias in GANs along with a straightforward method to overcome this problem. We first show on two widely used datasets (MNIST, SVHN) that when the norm of the gradient of one group is more important than the other during the discriminator's training, the generator favours sampling data from one group more than the other at test time. We then show that controlling the groups' gradient norm by performing group-wise gradient norm clipping in the discriminator during the training leads to a more fair data generation in terms of representational fairness compared to existing models while preserving the quality of generated samples.

研究动机与目标

• 形式化一种新的公平性概念——表示公平性，要求在测试时生成样本中受保护属性（例如性别、种族）的分布均匀。
• 探究 GAN 中表示偏差的根本原因，特别是为何当训练数据平衡时，生成器仍会偏好某些组。
• 开发一种简单、有效且可泛化的 GAN 公平生成方法，无需修改生成器或引入额外数据。
• 在不同组不平衡程度下以及多个数据集（MNIST、SVHN）上评估该方法的有效性。
• 证明在判别器训练期间控制每组的梯度范数，可使推理时的采样更加均匀和公平。

提出的方法

• 该方法在判别器训练期间引入分组梯度范数裁剪，即对每个敏感属性组的梯度分别进行裁剪，若其范数超过预设的最大值。
• 裁剪按批次进行，通过根据受保护属性（如 MNIST 中的数字类别、SVHN 中的数字类型）将批次划分为组，然后分别裁剪每组的梯度范数。
• 该方法保持标准 GAN 训练目标不变，但修改判别器的反向传播步骤，以确保各组之间梯度更新的平衡性。
• 最大梯度范数（C）为超参数，通过验证集调优；实验表明在 MNIST 和 SVHN 上 C=2 时性能最佳。
• 该方法与多种 GAN 变体兼容，因其仅修改判别器的梯度更新步骤，无需改动生成器或数据预处理。
• 该方法轻量且高效，仅需对标准 GAN 训练流程进行微小修改。

实验结果

研究问题

• RQ1 为何 GAN 即使在训练数据组分布平衡时仍会生成有偏见的样本？
• RQ2 敏感属性组之间梯度范数的差异如何影响生成器在测试时的采样行为？
• RQ3 在判别器训练期间控制特定组的梯度范数，能否实现各组之间更均匀和公平的生成？
• RQ4 该方法在训练数据中组不平衡程度不同的情况下表现如何？
• RQ5 所提出的方法是否在实现公平性的同时保持了生成样本的质量？

主要发现

• 原始 GAN 在测试时表现出强烈的表示偏差，即使训练数据平衡，也会偏好代表性更强的组，原因在于判别器训练期间梯度范数的差异。
• 当某一组的梯度范数在判别器训练期间显著大于其他组时，生成器会在测试时学习到更倾向于从该组采样。
• 在 C=2 时进行分组梯度范数裁剪，可在 MNIST 和 SVHN 上实现生成样本中组表示的均匀性，即使训练数据不平衡（如 20% vs 80%）。
• 当最大梯度范数低于 2（如 0.1、0.5、1）时，训练因梯度消失而无法收敛，导致生成随机且低质量的样本。
• 当最大梯度范数高于 20 时，表示偏差重新出现，表明过大的裁剪阈值无法有效约束梯度差异。
• RepFair-GAN 在保持与原始 GAN 相当的样本质量的同时，显著提升了组间表示的公平性，这一结果在多个数据集的定性和定量评估中均得到验证。