[论文解读] Debiasing Deep Chest X-Ray Classifiers using Intra- and Post-processing Methods

Ričards Marcinkevičs, Ece Özkan+1 more|arXiv (Cornell University)|Jul 26, 2022

Artificial Intelligence in Healthcare and Education被引用 5

一句话总结

本文提出了两种新颖的内部处理去偏方法——基于梯度的微调和模型剪枝，用于减少深度胸部X光分类器中的种族偏见。通过最小化统计独立性与机会均等性的可微代理函数，这些方法在不从头训练的情况下，有效降低了VGG-16和ResNet-18模型在MIMIC-CXR数据集上的偏见，实现了在多种设置下稳定的公平性提升。

ABSTRACT

Deep neural networks for image-based screening and computer-aided diagnosis have achieved expert-level performance on various medical imaging modalities, including chest radiographs. Recently, several works have indicated that these state-of-the-art classifiers can be biased with respect to sensitive patient attributes, such as race or gender, leading to growing concerns about demographic disparities and discrimination resulting from algorithmic and model-based decision-making in healthcare. Fair machine learning has focused on mitigating such biases against disadvantaged or marginalised groups, mainly concentrating on tabular data or natural images. This work presents two novel intra-processing techniques based on fine-tuning and pruning an already-trained neural network. These methods are simple yet effective and can be readily applied post hoc in a setting where the protected attribute is unknown during the model development and test time. In addition, we compare several intra- and post-processing approaches applied to debiasing deep chest X-ray classifiers. To the best of our knowledge, this is one of the first efforts studying debiasing methods on chest radiographs. Our results suggest that the considered approaches successfully mitigate biases in fully connected and convolutional neural networks offering stable performance under various settings. The discussed methods can help achieve group fairness of deep medical image classifiers when deploying them in domains with different fairness considerations and constraints.

研究动机与目标

• 解决深度学习模型在胸部X光分类中的种族偏见问题，特别是针对种族和性别等受保护属性。
• 开发实用的内部处理技术，可在已训练模型中实现去偏，且在去偏过程中已知受保护属性，但在推理时未知。
• 在医学影像数据上评估并比较多种内部和后处理去偏方法，重点关注统计独立性与机会均等性等公平性度量。
• 在真实临床数据集（如MIMIC-CXR）上展示这些方法的可行性和有效性，其中已有研究显示最先进模型存在偏见。

提出的方法

• 提出用于统计独立性（SPD）和机会均等性（EOD）的可微代理函数，定义为模型决策边界与受保护属性之间的协方差。
• 引入基于梯度的微调（GD/A），通过在最后一层进行小批量梯度下降来最小化偏见代理函数，调整模型权重以减少偏见。
• 开发一种基于梯度影响得分的神经元剪枝方法，通过简化决策边界来减少偏见。
• 在内部处理设置中应用这两种方法：使用来自不同人口分布临床中心的本地数据对原始模型进行微调或剪枝。
• 使用MIMIC-CXR数据集进行评估，受保护属性包括性别和种族，并使用SPD和EOD度量评估公平性。
• 将所提方法与模型无关的后处理技术（如ROC、等均等机会）以及先前的去偏方法在表格数据和医学图像设置中进行比较。

实验结果

研究问题

• RQ1 可微代理函数（SPD与EOD）能否有效用于引导医学影像中深度神经网络的去偏？
• RQ2 基于梯度的微调与结构化剪枝作为内部处理技术，在减少预训练胸部X光分类器偏见方面效果如何？
• RQ3 当在去偏过程中可访问受保护属性时，这些内部处理方法是否在公平性与性能方面优于模型无关的后处理技术？
• RQ4 这些方法能否在不从头训练的情况下减少真实世界医学影像模型中的偏见，特别是在验证集较小或偏见较高的情况下？
• RQ5 在临床部署环境中，这些方法在不同模型架构（如VGG-16、ResNet-18）和公平性约束下的泛化能力如何？

主要发现

• 所提出的基于梯度的微调与剪枝方法在MIMIC-CXR数据集上的VGG-16与ResNet-18模型中显著降低了偏见，实现了公平性的提升，且无需从头训练。
• 在去偏过程中若可访问受保护属性，内部处理方法在公平性提升方面优于模型无关的后处理技术。
• 这些方法在各种设置下表现出稳定性能，包括验证集较小或初始模型存在高偏见的情况。
• 剪枝与GD/A能有效降低分类差异，尤其当初始模型偏见不严重时效果最佳。
• 本研究证明，在模型部署于不同人口分布的临床中心且需满足公平性约束的临床环境中，去偏是可行且有效的。