[논문 리뷰] Two-step adversarial debiasing with partial learning -- medical image case-studies

Ramón Correa, Jiwoong Jeong외 4명|arXiv (Cornell University)|2021. 11. 16.

Adversarial Robustness in Machine Learning인용 수 4

한 줄 요약

이 논문은 진단 성능을 유지하면서 의료 영상 AI 모델의 인종 편향을 줄이기 위해 부분 미세조정을 통한 이단계 적대적 편향 제거 방법을 제안한다. 성능 저하 없이도 상당한 편향 감소를 달성하였으며, 예를 들어 흉부 X-선에서 부종의 TPR 편향은 1.33에서 1.11로 감소하였다. 특히 아시아계 환자에 대한 유방촬영에서의 핵심 케이스에서 전체 편향 제거보다 뛰어난 성능을 보였다.

ABSTRACT

The use of artificial intelligence (AI) in healthcare has become a very active research area in the last few years. While significant progress has been made in image classification tasks, only a few AI methods are actually being deployed in hospitals. A major hurdle in actively using clinical AI models currently is the trustworthiness of these models. More often than not, these complex models are black boxes in which promising results are generated. However, when scrutinized, these models begin to reveal implicit biases during the decision making, such as detecting race and having bias towards ethnic groups and subpopulations. In our ongoing study, we develop a two-step adversarial debiasing approach with partial learning that can reduce the racial disparity while preserving the performance of the targeted task. The methodology has been evaluated on two independent medical image case-studies - chest X-ray and mammograms, and showed promises in bias reduction while preserving the targeted performance.

연구 동기 및 목표

• 임상 AI 모델의 인구통계적 편향, 특히 의료 영상 분류에서의 인종 격차를 해결하기 위해.
• 인종과 같은 보호적 특성에 대한 의존도를 줄이되, 목표 진단 작업에서 높은 성능을 유지할 수 있는 편향 제거 방법을 개발하기 위해.
• 적대적 편향 제거 후 부분 미세조정이 성능 향상과 함께 편향 감소를 동시에 달성할 수 있는지 평가하기 위해.
• 흉부 X-선과 유방촬영이라는 두 가지 실제 의료 영상 응용 분야에서 전체 편향 제거와 부분 편향 제거 기법을 비교하기 위해.
• 기울기 기반 학습과 호환되며 아키텍처에 종속되지 않는 확장 가능한 편향 제거 방법을 제공하기 위해.

제안 방법

• 이 방법은 이중 브랜치 CNN 아키텍처를 사용한다: 하나의 브랜치는 목표 진단 레이블(y)을 예측하고, 다른 브랜치는 보호적 특성(Z, 예: 인종)을 적대적으로 예측한다.
• 학습 중 모델은 병합 손실 L = L_predictor + λ × L_adversarial를 최소화하며, λ = 0.53로 설정하여 두 작업을 동시에 학습한다.
• 두 번째 역전파 단계에서 적대적 브랜치의 기울기는 반전된다 (L = -λ × L_adversarial)로 보호적 특성의 학습을 방지한다.
• 부분 미세조정은 손실된 보호적 특성 예측을 가장 크게 악화시키는 컨볼루션 레이어의 상위 10% 필터를 추적하여, 분석을 통해 재학습한다.
• 이 방법은 적대적 훈련 이후 적용되어 성능 회복을 가능하게 하면서도 편향 감소를 유지한다.
• 이 방법은 어떤 미분 가능한 모델 아키텍처와도 호환되며, 인구통계적으로 균형 잡힌 데이터셋이 필요하지 않다.

실험 결과

연구 질문

• RQ1 적대적 편향 제거가 진단 성능을 저하시키지 않고 의료 영상 분류에서 인종 격차를 줄일 수 있는가?
• RQ2 적대적 편향 제거 후 부분 미세조정이 성능 향상과 공정성 유지에 기여하는가?
• RQ3 다양한 영상 모odalities에서 전체 편향 제거와 부분 편향 제거 전략의 편향 감소 및 작업 정확도 측면에서의 비교는 어떻게 되는가?
• RQ4 모델이 인종에 대한 의존도가 흉부 X-선과 유방촬영 해석에서 진단 결과에 얼마나 관련이 있는가?
• RQ5 이 방법은 재학습 없이도 다양한 의료 영상 작업에 일반화 가능한가?

주요 결과

• 흉부 X-선에서 부분 편향 제거는 '해당 없음'에 대한 AUC를 0.866에서 0.889로 향상시키고, 부종에 대한 TPR 편향을 1.33에서 1.11로 감소시켜 허용 가능한 범위인 0.8–1.25 이내로 만들었다.
• 유방촬영에서 부분 편향 제거는 저밀도 조직 계열에서 아시아계 환자의 TPR 편향을 3.37에서 1.67로 감소시켜 공정성 향상을 크게 달성하였다.
• 부분 편향 제거 방법은 목표 작업에서 성능을 유지하거나 약간 향상시켰지만, 전체 편향 제거에서는 일부 경우에 성능 저하가 발생했다 (예: 조직 밀도 1급에서 AUC가 0.965에서 0.942로 감소).
• 유방촬영에서 이질적으로 높은 밀도 조직에서 아시아계 환자에 대해 유의미한 편차 개선이 관찰되지 않았는데, 이는 이 그룹에서 높은 유병률로 인한 것으로 보인다.
• 이 방법은 두 데이터셋 모두에서 편향을 성공적으로 감소시켰으며, 특히 기준 모델에서 높은 편차를 보였던 경우에 진단 성능 유지를 또는 약간 향상시켰다.
• 분석 기반의 부분 미세조정 전략은 적대적 편향 제거 과정에서 손실된 성능을 복구하는 데 기여한 핵심 컨볼루션 레이어를 특정하였다.