[论文解读] An Intersectional Definition of Fairness

James R. Foulds, Shimei Pan+2 more|arXiv (Cornell University)|Jul 1, 2018

Ethics and Social Impacts of AI参考文献 33被引用 19

一句话总结

本文提出了一种用于人工智能和机器学习的交叉公平性框架，通过考虑种族、性别和阶级等重叠的社会身份，扩展了传统公平性定义。该框架提出了三种新颖的公平性度量指标——差异公平性（DF）、DF偏差放大度量以及含混杂因素的差异公平性（DFC），并设计了一种可强制执行这些标准的学习算法，在COMPAS和Adult等真实数据集上，与子组公平性相比，显著提升了对少数群体的公平性表现。

ABSTRACT

We propose definitions of fairness in machine learning and artificial intelligence systems that are informed by the framework of intersectionality, a critical lens arising from the Humanities literature which analyzes how interlocking systems of power and oppression affect individuals along overlapping dimensions including gender, race, sexual orientation, class, and disability. We show that our criteria behave sensibly for any subset of the set of protected attributes, and we prove economic, privacy, and generalization guarantees. We provide a learning algorithm which respects our intersectional fairness criteria. Case studies on census data and the COMPAS criminal recidivism dataset demonstrate the utility of our methods.

研究动机与目标

• 解决现有机器学习公平性定义的局限性，这些定义未能考虑多重社会身份的重叠。
• 基于交叉性理论构建公平性准则，承认种族、性别、阶级及其他维度上的系统性压迫。
• 通过避免子组公平性度量的不平等性，确保所有子组（尤其是代表性不足的少数群体）的公平性度量均等。
• 为所提出的框架提供隐私、经济公平性和泛化能力的理论保障。
• 通过真实数据集的实证验证，表明该方法在保护少数群体方面优于子组公平性。

提出的方法

• 提出差异公平性（DF）作为公平性度量，确保在由受保护属性定义的所有交叉子组中实现公平对待。
• 引入DF偏差放大度量，以衡量算法相较于原始数据分布增加偏差的程度。
• 开发含混杂因素的差异公平性（DFC），以调整外部因素对结果分布的影响，从而在现实环境中提升公平性。
• 设计一种学习算法，通过约束优化在模型训练过程中强制执行DF、DF偏差放大度量和DFC的公平性约束。
• 采用基于基尼系数的度量方法，量化子组间公平性度量的不平等性，从而实现公平性分布均等性的比较。
• 将该框架应用于COMPAS和Adult人口普查数据集，使用真实数据和训练好的逻辑回归模型，评估多种受保护属性组合下的公平性表现。

实验结果

研究问题

• RQ1 如何重新定义AI中的公平性，以考虑种族和性别等多重受保护属性的交叉影响？
• RQ2 所提出的差异公平性（DF）度量是否能在所有规模的子组中（包括代表性不足的少数群体）实现公平的公平性度量？
• RQ3 γ-SF公平性度量在多大程度上无法保持交叉性？与ϵ-DF相比，其在公平性分布均等方面表现如何？
• RQ4 所提出的公平性度量和学习算法是否能在真实世界数据集中实现优于子组公平性的公平性表现，特别是在存在复杂人口统计交叉的场景下？
• RQ5 混杂变量如何影响公平性？DFC是否能有效调整其对结果分布的影响？

主要发现

• ϵ-DF度量在Adult数据集上表现出显著更低的基尼系数（0.099），在COMPAS数据集上为0.151，而γ-SF分别为0.256和0.376，表明公平性考虑在子组间的分配更加均等。
• 在COMPAS数据集中，ϵ-DF通过确保在增加更多受保护属性时公平性值不会上升，从而保持了交叉性；而γ-SF违反了这一特性（例如，γ-性别 > γ-种族×性别）。
• DF-Classifier在ϵ-DF和γ-SF下均提升了所有规模子组的公平性，而SF-Classifier未能改善小规模子组的γ-SF公平性。
• 在Adult数据集中，ϵ-DF在国籍维度上的基尼系数为0.2177，而γ-SF仅为0.0045，表明γ-SF对少数群体存在过度下调。
• 观察到ϵ-DF度量在公平性度量中对所有群体一视同仁，无论规模大小，其在大组和小组中均保持较高的每组ϵ值；而γ-SF则更倾向于大组。
• 研究证实，子组公平性（γ-SF）可能导致‘公平性选区划分’，即在整体公平性评估中忽略少数群体，而所提出的DF框架通过确保包容性公平性评估，避免了此类问题。