[논문 리뷰] Debiasing Deep Chest X-Ray Classifiers using Intra- and Post-processing Methods

Ričards Marcinkevičs, Ece Özkan외 1명|arXiv (Cornell University)|2022. 07. 26.

Artificial Intelligence in Healthcare and Education인용 수 5

한 줄 요약

이 논문은 깊이 있는 흉부 X-ray 분류기에서 인구통계적 편향을 줄이기 위해 두 가지 새로운 인라인 처리 탈편향 방법—기울기 기반 미세조정 및 모델 프루닝—을 제안한다. 통계적 평등성과 기회 평등성의 미분 가능 proxy 함수를 최소화하여, 재학습 없이 VGG-16 및 ResNet-18 모델에서 MIMIC-CXR 데이터셋에서 안정적인 공정성 향상을 달성하며, 다양한 설정에서 편향을 효과적으로 감소시킨다.

ABSTRACT

Deep neural networks for image-based screening and computer-aided diagnosis have achieved expert-level performance on various medical imaging modalities, including chest radiographs. Recently, several works have indicated that these state-of-the-art classifiers can be biased with respect to sensitive patient attributes, such as race or gender, leading to growing concerns about demographic disparities and discrimination resulting from algorithmic and model-based decision-making in healthcare. Fair machine learning has focused on mitigating such biases against disadvantaged or marginalised groups, mainly concentrating on tabular data or natural images. This work presents two novel intra-processing techniques based on fine-tuning and pruning an already-trained neural network. These methods are simple yet effective and can be readily applied post hoc in a setting where the protected attribute is unknown during the model development and test time. In addition, we compare several intra- and post-processing approaches applied to debiasing deep chest X-ray classifiers. To the best of our knowledge, this is one of the first efforts studying debiasing methods on chest radiographs. Our results suggest that the considered approaches successfully mitigate biases in fully connected and convolutional neural networks offering stable performance under various settings. The discussed methods can help achieve group fairness of deep medical image classifiers when deploying them in domains with different fairness considerations and constraints.

연구 동기 및 목표

• 흉부 X-ray 분류를 위한 딥 러닝 모델에서 보호되는 속성(예: 인종 및 성별)에 대한 인구통계적 편향을 해결하기 위해.
• 보호되는 속성이 탈편향 시점에는 알려져 있지만 추론 시점에는 알려지지 않은 상황에서 기존에 학습된 모델을 탈편향할 수 있는 실용적인 인라인 처리 기법을 개발하기 위해.
• 의료 영상 데이터에서 공정성 지표인 통계적 평등성과 기회 평등성에 중점을 두고, 다양한 인라인 및 후처리 탈편향 기법을 평가하고 비교하기 위해.
• 최신 기술 모델이 편향을 보임이 입증된 실생활 임상 데이터셋인 MIMIC-CXR와 같은 데이터셋에서 이러한 방법의 실현 가능성과 효과성을 입증하기 위해.

제안 방법

• 모델의 결정 경계와 보호되는 속성 간의 공분산으로 정의된 통계적 평등성(SPD)과 기회 평등성(EOD)을 위한 미분 가능 proxy 함수를 제안한다.
• 최종 레이어에서 미니배치 기울기 하강법을 사용하여 편향 proxy를 최소화하는 기울기 기반 미세조정(GD/A) 기법을 도입하여, 모델 가중치를 조정해 편향을 줄인다.
• 기울기 기반 영향도 점수를 기반으로 뉴런을 제거하는 모델 프루닝 기법을 개발하여, 결정 경계를 단순화함으로써 편향을 감소시킨다.
• 양방향 처리 설정에서 이 방법들을 적용: 원본 모델을 보건소의 지역 데이터를 사용하여 미세조정하거나 프루닝한다. 각 보건소의 인구통계적 분포가 다르다.
• MIMIC-CXR 데이터셋을 평가에 사용하며, 성별 및 인종과 같은 보호되는 속성을 포함하고, SPD 및 EOD 지표를 사용해 공정성을 평가한다.
• 모델에 종속되지 않는 후처리 기법(예: ROC, 동등한 오차)과 이전의 탈편향 접근법을 표본 및 의료 영상 설정 모두에서 비교한다.

실험 결과

연구 질문

• RQ1 공정성 지표인 SPD와 EOD에 대한 미분 가능 proxy 함수가 의료 영상에서 딥 네URAL 네트워크의 탈편향을 이끄는 데 효과적으로 사용될 수 있는가?
• RQ2 기울기 기반 미세조정과 구조적 프루닝이 사전 학습된 흉부 X-ray 분류기에서 편향을 줄이는 데 있어 인라인 처리 기법으로서 얼마나 효과적인가?
• RQ3 보호되는 속성이 탈편향 시점에 이용 가능한 경우, 이러한 인라인 처리 기법이 모델에 종속되지 않는 후처리 기법보다 공정성 향상과 성능 측면에서 뛰어난가?
• RQ4 재학습 없이도 이러한 방법이 실생활 의료 영상 모델에서 편향을 줄일 수 있는가? 특히 검증 세트가 작거나 초기 모델이 높은 편향을 보일 경우에도 마찬가지인가?
• RQ5 이러한 방법들이 다양한 아키텍처(예: VGG-16, ResNet-18)와 임상 환경에서의 공정성 제약 조건에 걸쳐 어떻게 일반화되는가?

주요 결과

• 제안된 기울기 기반 미세조정 및 프루닝 기법은 MIMIC-CXR 데이터셋에서 VGG-16 및 ResNet-18 모델에서 편향을 크게 줄이며, 재학습 없이도 공정성을 향상시킨다.
• 보호되는 속성이 탈편향 시점에 이용 가능한 경우, 인라인 처리 기법이 모델에 종속되지 않는 후처리 기법보다 공정성 향상 측면에서 뛰어나다.
• 검증 세트가 작거나 초기 모델이 높은 편향을 보일 경우에도 이러한 방법들은 안정적인 성능을 보인다.
• 프루닝과 GD/A는 분류 편향을 효과적으로 줄이며, 초기 모델이 심각하게 편향되지 않은 경우 가장 우수한 성능을 기록한다.
• 본 연구는 보호되는 속성이 다양한 보건소에서 다른 인구통계적 분포를 가진 환경에서 모델이 배포되는 임상 환경에서도 탈편향이 실현 가능하고 효과적임을 입증한다.