[论文解读] Avoiding Resentment Via Monotonic Fairness

Guy W. Cole, Sinead A. Williamson|arXiv (Cornell University)|Sep 3, 2019

Ethics and Social Impacts of AI参考文献 36被引用 5

一句话总结

本文提出单调公平性（monotonic fairness），一种通过在关键属性上强制模型预测的单调性，将个体公平性与群体平衡相结合的方法。通过确保更合格的个体始终拥有更高的录取概率，该方法消除了因反直觉结果引发的怨恨情绪，同时保持了群体层面的公平性。

ABSTRACT

Classifiers that achieve demographic balance by explicitly using protected attributes such as race or gender are often politically or culturally controversial due to their lack of individual fairness, i.e. individuals with similar qualifications will receive different outcomes. Individually and group fair decision criteria can produce counter-intuitive results, e.g. that the optimal constrained boundary may reject intuitively better candidates due to demographic imbalance in similar candidates. Both approaches can be seen as introducing individual resentment, where some individuals would have received a better outcome if they either belonged to a different demographic class and had the same qualifications, or if they remained in the same class but had objectively worse qualifications (e.g. lower test scores). We show that both forms of resentment can be avoided by using monotonically constrained machine learning models to create individually fair, demographically balanced classifiers.

研究动机与目标

• 解决公平机器学习中的个体怨恨问题，即个体因非单调决策规则而感到被不公平对待。
• 调和个体公平性（相似个体应受到相似对待）与群体公平性（跨群体的公平结果）之间的张力。
• 设计分类器以避免反直觉的结果（如得分较低的申请人反而被优先考虑），同时保持群体平衡。
• 形式化一种新的公平性准则，将单调性与群体公平性结合，以减少感知到的不公平性。

提出的方法

• 对非受保护属性的模型预测施加单调性约束，确保关键特征中较高取值对应更高的预测结果。
• 使用单调神经网络学习尊重输入特征自然顺序的决策边界，防止非单调行为。
• 在训练目标中整合群体公平性约束（如相等机会或均等化奇偶性），并与单调性约束并行处理。
• 应用基于样本的Lipschitz常数估计器，评估所得模型的平滑性与公平性。
• 通过单调性正则化与公平性正则化的结合训练模型，以平衡预测准确率与公平性。
• 使用事后调整技术对预训练模型施加单调性，实现与现有黑箱分类器的兼容性。

实验结果

研究问题

• RQ1 模型预测中的单调性是否能防止个体因资质较差却获得更好结果而产生怨恨情绪？
• RQ2 如何将单调公平性与群体公平性结合，以避免在现实应用（如大学招生）中出现反直觉的决策？
• RQ3 在不牺牲预测准确率的前提下，强制实施单调性在多大程度上能提升机器学习模型的感知公平性？
• RQ4 单调性约束能否作为正则化项，减少对数据中虚假非单调趋势的过拟合？

主要发现

• 单调公平性消除了低资质个体反而被优先对待的反直觉结果，即使在实现群体公平性的情况下，此类结果仍可能引发怨恨情绪。
• 在法学院数据集中，单调神经网络相较于非单调模型生成了更平滑、更一致的决策边界，尤其在具有内在单调性的场景中表现更优。
• 单调性约束起到了正则化作用，减少了对训练数据中非单调模式的过拟合，尤其在具有强单调关系的数据集中效果显著。
• 基于样本的Lipschitz常数估计器显示，单调模型通常比非单调模型更平滑，支持其具备更强的个体公平性特征。
• 即使在强制实施群体公平性的情况下，非单调模型仍可能产生政策结果：降低个人得分反而提高录取概率——这凸显了引入单调性的必要性。
• 事后单调性调整是可行的，且可应用于现有分类器，而无需修改其底层模型架构。