[论文解读] Fair Mixup: Fairness via Interpolation

Ching-Yao Chuang, Youssef Mroueh|arXiv (Cornell University)|Mar 11, 2021

Ethics and Social Impacts of AI参考文献 27被引用 11

一句话总结

本文提出 Fair Mixup，一种数据增强技术，通过在潜在空间中对敏感群体之间的插值路径进行正则化，提升机器学习中的公平性泛化能力。通过利用 Manifold Mixup 实现语义上合理的插值，Fair Mixup 确保模型在这些路径上的预测更加平滑，从而在表格数据、视觉和自然语言处理基准上显著提升对人口均等性和等 odds 公平性的泛化性能。

ABSTRACT

Training classifiers under fairness constraints such as group fairness, regularizes the disparities of predictions between the groups. Nevertheless, even though the constraints are satisfied during training, they might not generalize at evaluation time. To improve the generalizability of fair classifiers, we propose fair mixup, a new data augmentation strategy for imposing the fairness constraint. In particular, we show that fairness can be achieved by regularizing the models on paths of interpolated samples between the groups. We use mixup, a powerful data augmentation strategy to generate these interpolates. We analyze fair mixup and empirically show that it ensures a better generalization for both accuracy and fairness measurement in tabular, vision, and language benchmarks.

研究动机与目标

• 解决群体公平性度量中的泛化差距问题，即在训练期间满足的公平性约束往往在评估时失效。
• 提升公平性约束（如人口均等性（DP）和等 odds（EO））在训练数据之外的鲁棒性和泛化能力。
• 开发一种数据增强策略，通过强制在插值群体分布之间实现预测的平滑过渡，隐式正则化模型以对敏感属性保持不变。
• 通过利用潜在空间插值中的结构先验，弥合公平性正则化与模型泛化之间的差距。
• 提供一种理论基础坚实、可扩展且与模型无关的方法，以提升跨多种数据模态的公平性泛化性能。

提出的方法

• 提出 Fair Mixup，一种数据增强策略，利用 Manifold Mixup 在潜在特征空间中对两个敏感群体（如男性/女性、黑人/亚裔）之间生成插值样本。
• 对模型进行正则化，使其在群体之间的插值路径上产生平滑的预测过渡，最小化路径上的预测方差。
• 基于插值路径上特征映射的雅可比矩阵，制定一个闭式平滑性正则化损失，偏好对敏感属性敏感度较低的模型。
• 使用潜在空间插值（Manifold Mixup）确保插值样本位于自然数据流形上，从而实现更具语义意义和语义一致的插值。
• 将 Fair Mixup 作为即插即用的正则化技术，兼容任何模型架构和数据模态，包括视觉、表格和自然语言处理任务。
• 通过标准交叉熵损失与平滑性正则化损失的组合进行模型训练，同时优化准确率与公平性泛化性能。

实验结果

研究问题

• RQ1 在潜在空间中对敏感群体进行插值，是否能带来对人口均等性和等 odds 公平性等公平性度量的更好泛化？
• RQ2 在不同数据模态中，Fair Mixup 与现有公平性正则化技术（如对抗性去偏、差距正则化）相比，在公平性泛化方面表现如何？
• RQ3 在群体之间的插值路径上强制实现平滑预测过渡，是否比直接在训练数据上施加约束更能实现更鲁棒的公平性泛化？
• RQ4 与输入空间插值相比，使用潜在空间插值（Manifold Mixup）在多大程度上提升了公平性泛化性能？
• RQ5 Fair Mixup 是否能无需架构修改地有效应用于表格数据、图像和文本等多种模态？

主要发现

• Fair Mixup 在表格、视觉和自然语言处理基准上始终优于基线方法，实现了更优的公平性-准确率权衡，且在人口均等性（ΔDP）和等 odds（ΔEO）的泛化方面均有显著提升。
• 在 CelebA 数据集上，Fair Mixup 在吸引力和微笑等二值分类任务中，将 ΔDP 最多降低了 40%，相比标准 Mixup 和其他基线方法。
• 在 Jigsaw 毒性评论分类任务中，Fair Mixup 实现了最小的 ΔDP（近乎线性路径，斜率极小），优于对抗性去偏和差距正则化方法，后者表现出‘倒 U’形预测路径。
• 校准路径的可视化显示，Fair Mixup 在输入空间和潜在空间中均产生更平坦、更线性的预测曲线，表明其对敏感属性具有更强的不变性。
• 与标准 Mixup 相比，Manifold Mixup 进一部提升了性能，证明潜在空间插值更能捕捉群体之间的语义过渡。
• 理论分析表明，Fair Mixup 对应于特征空间中的马氏距离，通过特征映射的雅可比矩阵实现公平性约束，为正则化效应提供了几何解释。