[论文解读] A Comprehensive Empirical Study of Bias Mitigation Methods for Machine Learning Classifiers

Zhenpeng Chen, Jie M. Zhang+2 more|arXiv (Cornell University)|Jul 7, 2022

Adversarial Robustness in Machine Learning被引用 13

一句话总结

本文对机器学习分类器中的17种偏差缓解方法在8个基准任务上进行了大规模实证评估，使用了11种机器学习性能度量、4种公平性度量以及20种公平性-性能权衡度量。研究发现，偏差缓解方法在42–66%的场景中会降低模型性能，在24–59%的场景中提升了公平性，且在25%的场景中同时损害了公平性和性能，且在所有情境下并无单一方法始终优于其他方法。

ABSTRACT

Software bias is an increasingly important operational concern for software engineers. We present a large-scale, comprehensive empirical study of 17 representative bias mitigation methods for Machine Learning (ML) classifiers, evaluated with 11 ML performance metrics (e.g., accuracy), 4 fairness metrics, and 20 types of fairness-performance trade-off assessment, applied to 8 widely-adopted software decision tasks. The empirical coverage is much more comprehensive, covering the largest numbers of bias mitigation methods, evaluation metrics, and fairness-performance trade-off measures compared to previous work on this important software property. We find that (1) the bias mitigation methods significantly decrease ML performance in 53% of the studied scenarios (ranging between 42%~66% according to different ML performance metrics); (2) the bias mitigation methods significantly improve fairness measured by the 4 used metrics in 46% of all the scenarios (ranging between 24%~59% according to different fairness metrics); (3) the bias mitigation methods even lead to decrease in both fairness and ML performance in 25% of the scenarios; (4) the effectiveness of the bias mitigation methods depends on tasks, models, the choice of protected attributes, and the set of metrics used to assess fairness and ML performance; (5) there is no bias mitigation method that can achieve the best trade-off in all the scenarios. The best method that we find outperforms other methods in 30% of the scenarios. Researchers and practitioners need to choose the bias mitigation method best suited to their intended application scenario(s).

研究动机与目标

• 提供对机器学习分类器中偏差缓解方法的大规模、全面实证评估。
• 评估偏差缓解对不同情境下公平性和机器学习性能的影响。
• 识别特定方法在何种条件下成功或失败，考虑任务、模型、受保护属性和评估指标等因素。
• 揭示现有方法的局限性，并为特定应用场景选择最优偏差缓解策略提供依据。

提出的方法

• 评估了17种具有代表性的偏差缓解方法，包括对抗性去偏、重加权、拒绝选项分类和公平表征学习。
• 将所有方法应用于8个广泛采用的软件决策任务，如收入预测、刑事司法和信用风险评估。
• 使用11种机器学习度量（如准确率、精确率、召回率、F1分数）和4种公平性度量（如人口均等性、机会均等性）评估性能。
• 采用20种不同的度量策略评估公平性-性能权衡，以捕捉细微的权衡动态。
• 使用标准化基准数据集和受控实验设置，确保可复现性和可比性。
• 进行显著性统计检验，以验证性能和公平性结果差异的可靠性。

实验结果

研究问题

• RQ1 偏差缓解方法在不同度量和任务下如何影响机器学习性能？
• RQ2 偏差缓解方法在多大程度上提升了公平性？这种提升在不同公平性度量和情境下如何变化？
• RQ3 在多少情况下偏差缓解方法同时降低了公平性和性能？
• RQ4 哪些因素（如模型类型、受保护属性或任务）调节了偏差缓解方法的有效性？
• RQ5 是否存在一种偏差缓解方法，能在所有情境下始终实现最佳的公平性-性能权衡？

主要发现

• 根据所使用的性能度量不同，偏差缓解方法在42%至66%的场景中显著降低了机器学习性能。
• 根据所使用的公平性度量不同，公平性改善在24%至59%的场景中被观察到，表明其在不同公平性定义下的效果不一致。
• 在25%的场景中，偏差缓解方法导致公平性和机器学习性能双双下降，凸显潜在风险。
• 偏差缓解方法的有效性高度依赖于任务选择、机器学习模型、受保护属性和评估度量的选择。
• 在所有情境下并无单一方法始终优于其他方法；表现最佳的方法仅在30%的场景中优于其他方法。
• 结果强调了缺乏一种普适的‘银弹’式方法，因此必须根据上下文选择合适的缓解策略。