[论文解读] FIFA: Making Fairness More Generalizable in Classifiers Trained on Imbalanced Data

Zhun Deng, Jiayao Zhang+5 more|arXiv (Cornell University)|Jun 6, 2022

Retirement, Disability, and Employment被引用 7

一句话总结

该论文提出FIFA（不平衡-公平性感知），一种灵活且具有理论基础的方法，通过基于logits的损失函数施加类别和子组依赖的边界，提升在不平衡数据集上训练的分类器的公平性泛化能力。该方法在多种模型和数据集上显著减少了训练集与测试集之间公平性违规差距，包括在CelebA上的ResNet-18以及在AdultIncome和DutchConsensus上的逻辑回归。

ABSTRACT

Algorithmic fairness plays an important role in machine learning and imposing fairness constraints during learning is a common approach. However, many datasets are imbalanced in certain label classes (e.g. "healthy") and sensitive subgroups (e.g. "older patients"). Empirically, this imbalance leads to a lack of generalizability not only of classification, but also of fairness properties, especially in over-parameterized models. For example, fairness-aware training may ensure equalized odds (EO) on the training data, but EO is far from being satisfied on new users. In this paper, we propose a theoretically-principled, yet Flexible approach that is Imbalance-Fairness-Aware (FIFA). Specifically, FIFA encourages both classification and fairness generalization and can be flexibly combined with many existing fair learning methods with logits-based losses. While our main focus is on EO, FIFA can be directly applied to achieve equalized opportunity (EqOpt); and under certain conditions, it can also be applied to other fairness notions. We demonstrate the power of FIFA by combining it with a popular fair classification algorithm, and the resulting algorithm achieves significantly better fairness generalization on several real-world datasets.

研究动机与目标

• 为解决在不平衡数据上训练的过参数化模型中公平性泛化能力的关键缺口，即公平性约束（如相等机会EO）无法从训练集泛化到测试集的问题。
• 开发一种方法，同时提升分类性能和公平性泛化能力，尤其针对少数子组和罕见标签类别。
• 设计一种灵活、即插即用的框架，兼容基于logits损失的现有公平学习方法。
• 通过实证验证，公平性泛化能力可显著提升，且不以牺牲分类性能为代价。
• 通过基于边界的理论分析提供理论基础，表明子组特定的正则化可降低公平性泛化误差。

提出的方法

• FIFA引入一种改进的损失函数，对logits施加类别和子组依赖的边界惩罚，提高代表性不足群体的边界。
• 该方法使用可微分且可学习的子组与类别特定边界调整，通过参数δ_{y,a}对logits进行缩放，再输入到softmax交叉熵损失中。
• 将标准分类损失与公平性违规损失（如相等机会EO）相结合，形成平衡目标：L_combined = α·L_bal + β·L_fv。
• 该方法兼容任何基于logits操作的公平学习方法（如软边界损失），可无缝集成到现有框架中。
• 通过网格搜索调整超参数ε（公平性违规容忍度）和δ（边界调整），以优化测试性能。
• 该方法已应用于深度神经网络（如ResNet-18）和简单模型（如逻辑回归），证明其广泛适用性。

实验结果

研究问题

• RQ1 在过参数化模型于不平衡数据上训练时，公平性泛化能力是否可显著提升，即使公平性约束在训练中失败？
• RQ2 对logits施加子组特定的边界调整是否能提升公平性泛化能力，同时不降低分类准确率？
• RQ3 在多种数据集和模型架构下，FIFA与原始训练及现有公平学习方法相比，在公平性泛化方面表现如何？
• RQ4 FIFA在多大程度上可灵活地与基于logits损失的现有公平学习框架结合？
• RQ5 基于边界的公平性泛化理论分析在真实世界不平衡数据集中是否具有实证支持？

主要发现

• 在CelebA数据集上使用ResNet-18时，FIFA将公平性泛化差距（测试EO违规减去训练EO违规）相比原始训练降低了60%以上。
• 在AdultIncome数据集上使用逻辑回归时，FIFA在ε=0.01时达到4.35%的测试公平性违规，优于原始方法的4.43%，表现一致提升。
• 在DutchConsensus数据集上，FIFA将测试公平性违规从原始方法的4.43%降低至4.35%（ε=0.01），证明其在小数据集上的有效性。
• 与原始训练相比，FIFA在公平性与平衡损失的Pareto前沿显著更低且更居中，表明在准确率与公平性之间实现了更优权衡。
• 在AdultIncome和DutchConsensus上，FIFA在所有三个ε值（0.01、0.05、0.10）下均优于原始训练，测试综合损失持续更低。
• 该方法保持了强大的分类泛化能力，测试误差维持在较低水平（如在AdultIncome上FIFA为13.5%，原始方法为14.3%），证实无性能折损。