[论文解读] Two-step adversarial debiasing with partial learning -- medical image case-studies

Ramón Correa, Jiwoong Jeong+4 more|arXiv (Cornell University)|Nov 16, 2021

Adversarial Robustness in Machine Learning被引用 4

一句话总结

本文提出一种两步对抗性去偏方法，结合部分微调，以减少医学影像人工智能模型中的种族偏见，同时保持诊断性能。该方法显著降低了偏差——例如，胸部X光片中水肿的真正率（TPR）差异从1.33降至1.11——且未牺牲任务准确率，在某些关键场景（如亚洲患者乳腺X光检查）中优于完整去偏方法。

ABSTRACT

The use of artificial intelligence (AI) in healthcare has become a very active research area in the last few years. While significant progress has been made in image classification tasks, only a few AI methods are actually being deployed in hospitals. A major hurdle in actively using clinical AI models currently is the trustworthiness of these models. More often than not, these complex models are black boxes in which promising results are generated. However, when scrutinized, these models begin to reveal implicit biases during the decision making, such as detecting race and having bias towards ethnic groups and subpopulations. In our ongoing study, we develop a two-step adversarial debiasing approach with partial learning that can reduce the racial disparity while preserving the performance of the targeted task. The methodology has been evaluated on two independent medical image case-studies - chest X-ray and mammograms, and showed promises in bias reduction while preserving the targeted performance.

研究动机与目标

• 解决临床AI模型中的群体偏差，特别是医学影像分类中的种族差异。
• 开发一种去偏方法，即使在减少对种族等受保护属性的依赖时，也能保持目标诊断任务的高性能。
• 评估在对抗性去偏后进行部分微调是否能进一步提升性能，同时减少偏差。
• 在两个真实世界医学影像应用场景（胸部X光片和乳腺X光检查）中，比较完整去偏与部分去偏技术的差异。
• 提供一种可扩展、与架构无关的去偏方法，适用于基于梯度的训练。

提出的方法

• 该方法采用双分支卷积神经网络架构：一个分支预测目标诊断标签（y），另一个分支则对抗性地预测受保护属性（Z，例如种族）。
• 在训练过程中，模型最小化联合损失：L = L_predictor + λ × L_adversarial，其中λ = 0.53，以联合学习两项任务。
• 在第二次反向传播中，从对抗分支传回的梯度被反转（L = -λ × L_adversarial），以惩罚对受保护属性的学习。
• 通过消融分析，识别并重新训练卷积层中对受保护属性预测性能影响最大的前10%滤波器，实现部分微调。
• 该方法在对抗性训练后应用，可在保持去偏效果的同时恢复性能。
• 该方法适用于任何可微模型架构，且无需使用人口统计学上平衡的数据集。

实验结果

研究问题

• RQ1 对抗性去偏是否能在不降低诊断性能的前提下减少医学影像分类中的种族差异？
• RQ2 在对抗性去偏后进行部分微调是否能提升模型性能，同时保持公平性？
• RQ3 在不同成像模态中，完整去偏与部分去偏策略在偏差减少和任务准确率方面有何差异？
• RQ4 模型对种族的依赖程度在多大程度上与胸部X光片和乳腺X光片的诊断结果相关？
• RQ5 该方法是否可泛化至不同医学影像任务，而无需从头开始重新训练？

主要发现

• 在胸部X光片中，部分去偏将无异常的AUC从0.866提升至0.889，同时将水肿的TPR差异从1.33降至1.11，使其进入可接受的0.8–1.25范围。
• 在乳腺X光检查中，部分去偏将亚洲患者在低密度组织类别中的TPR差异从3.37降至1.67，显著提升了公平性。
• 该部分去偏方法在目标任务上保持或略微提升了性能，而完整去偏在某些情况下导致性能下降（例如，组织密度类别1的AUC从0.965降至0.942）。
• 在乳腺X光检查的异质性致密组织中，亚洲患者未观察到显著的差异改善，可能是因为该群体中致密乳房的患病率较高。
• 该方法在两个数据集中均成功降低了偏差，同时保持或提升了诊断性能，尤其在基线模型表现出高偏差的场景中效果显著。
• 基于消融分析的部分微调策略识别出关键卷积层，当这些层被重新训练时，可恢复对抗性去偏过程中损失的性能。