[论文解读] On Learning Fairness and Accuracy on Multiple Subgroups

Changjian Shui, Gezheng Xu+6 more|arXiv (Cornell University)|Oct 19, 2022

Ethics and Social Impacts of AI被引用 16

一句话总结

该论文提出了一种双层优化框架，通过联合最小化群体充分性差距与泛化误差，在数据有限的情况下，为多个子群体学习公平且准确的预测器。该方法利用先验预测分布来指导子群体特定的学习，实现在真实世界NLP数据集上最先进的公平性表现，且准确率下降最小。

ABSTRACT

We propose an analysis in fair learning that preserves the utility of the data while reducing prediction disparities under the criteria of group sufficiency. We focus on the scenario where the data contains multiple or even many subgroups, each with limited number of samples. As a result, we present a principled method for learning a fair predictor for all subgroups via formulating it as a bilevel objective. Specifically, the subgroup specific predictors are learned in the lower-level through a small amount of data and the fair predictor. In the upper-level, the fair predictor is updated to be close to all subgroup specific predictors. We further prove that such a bilevel objective can effectively control the group sufficiency and generalization error. We evaluate the proposed framework on real-world datasets. Empirical evidence suggests the consistently improved fair predictions, as well as the comparable accuracy to the baselines.

研究动机与目标

• 解决在多个子群体（每个子群体样本有限）的数据中学习公平且准确预测器的挑战。
• 在保持预测效用和泛化性能的同时，确保群体充分性公平性。
• 开发一种系统性方法，在低资源子群体场景下平衡公平性与准确性。
• 从理论上证明所提方法的泛化性与公平性保障。

提出的方法

• 将公平学习问题建模为双层优化：上层更新全局公平预测分布 Q，下层使用 Q 作为先验来学习子群体特定的预测器。
• 使用随机化分类器（Q）表示预测分布，实现不确定性感知的公平学习。
• 通过全局预测器与子群体贝叶斯预测器之间差异的上界来控制群体充分性差距。
• 引入超参数 λ 以平衡子群体特定学习与先验正则化之间的权衡，确保低泛化误差。
• 将该框架应用于神经网络模型，实现端到端可微训练，获得公平且准确的预测。
• 提出一种基于先验的学习方案，其中 Q 作为低资源子群体的有益先验，提升鲁棒性。

实验结果

研究问题

• RQ1 能否在数据有限的情况下，为多个子群体学习一个统一的公平预测器，同时保持高准确率？
• RQ2 在低资源子群体场景下，如何有效控制群体充分性？
• RQ3 子群体学习中，泛化误差与公平性之间的理论关系是什么？
• RQ4 双层优化框架能否同时最小化公平性差距与泛化误差？
• RQ5 公平性与准确性的最优权衡是什么？其如何依赖于 λ 等超参数？

主要发现

• 所提方法在所有子群体中持续减小群体充分性差距，尤其在低资源设置下表现显著，且与基线相比准确率无明显下降。
• 在 Amazon 评论和 Toxic comment 数据集中，该方法在所有种族群体中均实现了几乎相同且微小的群体充分性差距，优于显示显著差异的基线方法。
• 所有子群体的概率校准性能显著提升，表明预测得分与实际结果之间对齐更好。
• 平衡公平性与准确性的最优 λ 值位于 [0.2, 1] 范围内，此时既实现高准确率又保持低公平性差距。
• 当 λ 过大（例如 λ=50）时，准确率下降至 55%，证实对先验过度依赖会降低性能并增加公平性差距。
• 实证结果表明，该方法在其他敏感属性（如性别和宗教）上也保持强性能，且公平性持续提升。