[论文解读] Assessing Fairness in Classification Parity of Machine Learning Models in Healthcare

Ming Yuan, Vikas Kumar+2 more|arXiv (Cornell University)|Feb 7, 2021

Ethics and Social Impacts of AI参考文献 4被引用 7

一句话总结

本文提出一个框架，用于评估和提升医疗分类机器学习模型中的公平性，重点关注种族、性别和年龄等受保护属性的分类一致性。通过测量不同群体间的性能差异，使用采样方法缓解类别不平衡，并识别公平性阈值，研究发现更高的准确率并不能保证公平性，且移除代理特征也未能提升公平性或性能。

ABSTRACT

Fairness in AI and machine learning systems has become a fundamental problem in the accountability of AI systems. While the need for accountability of AI models is near ubiquitous, healthcare in particular is a challenging field where accountability of such systems takes upon additional importance, as decisions in healthcare can have life altering consequences. In this paper we present preliminary results on fairness in the context of classification parity in healthcare. We also present some exploratory methods to improve fairness and choosing appropriate classification algorithms in the context of healthcare.

研究动机与目标

• 使用种族、性别和年龄等受保护属性的分类一致性，评估医疗机器学习模型的公平性。
• 评估移除受保护特征和代理特征对模型性能和公平性的影响。
• 探索数据层面的干预措施（如过采样）以缓解受保护群体中的类别不平衡问题。
• 识别在预测性能与公平性之间取得平衡的公平性阈值。
• 比较真实世界医疗数据集中逻辑回归、随机森林和XGBoost模型的公平性表现。

提出的方法

• 通过受保护群体间预测性能（AUC）的方差来衡量公平性，将高方差视为不公平的标志。
• 对种族和年龄等受保护特征中代表性不足的类别应用过采样，以减少数据不平衡带来的偏差。
• 利用梯度提升模型的特征重要性得分识别与受保护属性相关的关键代理特征。
• 移除与受保护属性相关性最高的k个特征，以测试其对公平性和性能的影响。
• 为每个群体确定最优分类阈值，以在保持预测性能的同时提升公平性。
• 使用AUC和AUC方差作为指标，比较逻辑回归、随机森林和XGBoost三种模型在公平性和性能方面的表现。

实验结果

研究问题

• RQ1 受保护群体间预测性能的方差在多大程度上反映了医疗机器学习模型中的不公平性？
• RQ2 移除与受保护属性相关的代理特征在不降低性能的前提下，能在多大程度上提升公平性？
• RQ3 通过采样平衡代表性不足群体的方法，如何影响公平性及最优分类阈值？
• RQ4 能否识别出在保持可接受预测性能的同时提升公平性的公平性阈值？
• RQ5 更高的模型准确率是否必然意味着在受保护群体间实现更公平的结果？

主要发现

• 移除与受保护属性相关的关键代理特征后，性能方差未降低，且整体模型性能反而下降。
• 即使移除了代理特征，性能方差仍保持较高水平，表明通过相关特征产生的间接影响难以通过特征移除完全消除。
• 过采样有效平衡了种族和年龄等受保护特征中的类别分布，导致公平性最优分类阈值发生可测量的偏移。
• XGBoost在AUC上表现最佳，但其在不同群体间的AUC方差也最高，表明高准确率并不等同于公平性。
• 随机森林在AUC和方差上均位列第二，而逻辑回归表现出最一致的性能，方差最低，表明准确率与公平性之间存在权衡。
• 研究结论认为，不能仅凭模型准确率推断公平性，且公平性阈值为无需重新训练即可提升公平性的有效事后方法。