[论文解读] Addressing multiple metrics of group fairness in data-driven decision making

Marius Miron, Songül Tolan+2 more|arXiv (Cornell University)|Mar 10, 2020

Ethics and Social Impacts of AI参考文献 31被引用 6

一句话总结

本文提出了一种基于矩阵的框架 $ olbf{M}_p$，用于在数据驱动决策系统中评估和可视化多种公平性度量在不同群体和机器学习模型中的表现。通过计算公平性度量（例如，人口均等性、相等机会）及其方差，该方法能够通过层次聚类揭示权衡关系和性能模式，表明公平性权衡在不同数据集（如 Statlog、YouthCAT 和 COMPAS）中具有群体和模型依赖性。

ABSTRACT

The Fairness, Accountability, and Transparency in Machine Learning (FAT-ML) literature proposes a varied set of group fairness metrics to measure discrimination against socio-demographic groups that are characterized by a protected feature, such as gender or race.Such a system can be deemed as either fair or unfair depending on the choice of the metric. Several metrics have been proposed, some of them incompatible with each other.We do so empirically, by observing that several of these metrics cluster together in two or three main clusters for the same groups and machine learning methods. In addition, we propose a robust way to visualize multidimensional fairness in two dimensions through a Principal Component Analysis (PCA) of the group fairness metrics. Experimental results on multiple datasets show that the PCA decomposition explains the variance between the metrics with one to three components.

研究动机与目标

• 为解决在机器学习中评估多个常相互冲突的公平性度量的挑战。
• 识别并可视化不同人口群体和机器学习模型之间公平性度量的权衡关系。
• 为从业者和研究人员提供一个统一的分析工具，以全面评估现实世界决策系统中的公平性。
• 表明公平性表现因群体和模型而异，强调多度量评估的必要性。

提出的方法

• 该方法构建一个矩阵 $\mathbf{M}_p$，其中行代表机器学习模型和群体，列代表公平性度量及其方差。
• 针对每组模型与群体的组合，论文计算了标准的公平性度量，如人口均等性差异、相等机会差异和平均机会差异。
• 计算每项公平性度量的方差，以评估公平性估计在数据划分中的稳定性和可靠性。
• 对行（模型和群体）和列（度量）均应用层次聚类，以揭示结构关系和权衡。
• 该框架应用于三个真实世界数据集——Statlog、YouthCAT 和 COMPAS——使用诸如 'personal_status'、'sex'、'race' 和 'foreigner' 等受保护属性。
• 生成的可视化结果（例如，带有树状图的热力图）可实现对不同模型和群体之间公平性表现的对比分析。

实验结果

研究问题

• RQ1 在真实世界数据集中，不同公平性度量在不同人口群体和机器学习模型之间如何相关？
• RQ2 在同时评估多个度量时，公平性表现的主导模式是什么？
• RQ3 公平性权衡在不同受保护属性和模型类型之间有多大差异？
• RQ4 公平性度量估计在数据划分中的稳定性如何，由方差反映？
• RQ5 对公平性度量和群体进行层次聚类能否揭示可操作的模型选择和公平性缓解见解？

主要发现

• 矩阵 $\mathbf{M}_p$ 有效捕捉并可视化了在 Statlog、YouthCAT 和 COMPAS 等数据集中，不同群体和模型之间的多度量公平性表现。
• 层次聚类揭示了公平性度量和模型-群体组合的显著分组，表明公平性权衡并非在所有群体中都一致。
• 观察到公平性度量估计存在显著方差，表明某些公平性结果在数据划分中可能不稳定。
• 模型在不同度量上的公平性表现不一致——例如，某模型在人口均等性上表现优异，但在某些群体的相等机会度量上表现欠佳。
• 该框架揭示，某项公平性度量的改进通常以另一项度量的退化为代价，尤其是在考虑交叉群体身份时更为明显。
• 可视化结果表明，某些受保护属性（例如 COMPAS 中的 'race'）导致比其他属性更复杂的公平性权衡模式。