[논문 리뷰] Disparities in Dermatology AI: Assessments Using Diverse Clinical Images

Roxana Daneshjou, Kailas Vodrahalli외 15명|arXiv (Cornell University)|2021. 11. 15.

Cutaneous Melanoma Detection and Management참고 문헌 15인용 수 12

한 줄 요약

이 연구는 병리학적으로 확인된 다양한 피부 톤과 희귀 질환을 포함한 Diverse Dermatology Images (DDI) 데이터셋을 소개한다. 이 데이터셋을 통해 피부과 AI 모델의 성능을 평가한 결과, 최신 기술 기반 모델들이 DDI에서 ROC-AUC가 29–40% 감소하는 것으로 나타났으며, 어두운 피부 톤(Fitzpatrick V–VI)과 희귀 질환에서 심각한 성능 격차가 존재함을 확인하였다. 또한, 다양한 훈련 데이터가 없이도 강건한 훈련 방법이 실패함을 입증하며, 현재의 피부과 AI 도구에 잠재된 심각한 편향을 드러냈다.

ABSTRACT

More than 3 billion people lack access to care for skin disease. AI diagnostic tools may aid in early skin cancer detection; however most models have not been assessed on images of diverse skin tones or uncommon diseases. To address this, we curated the Diverse Dermatology Images (DDI) dataset - the first publicly available, pathologically confirmed images featuring diverse skin tones. We show that state-of-the-art dermatology AI models perform substantially worse on DDI, with ROC-AUC dropping 29-40 percent compared to the models' original results. We find that dark skin tones and uncommon diseases, which are well represented in the DDI dataset, lead to performance drop-offs. Additionally, we show that state-of-the-art robust training methods cannot correct for these biases without diverse training data. Our findings identify important weaknesses and biases in dermatology AI that need to be addressed to ensure reliable application to diverse patients and across all disease.

연구 동기 및 목표

• AI 훈련 및 테스트 데이터셋에서 다양하고 병리학적으로 확인된 피부과 영상의 부족 문제를 해결하기 위해.
• 다양한 피부 톤과 희귀 질환을 반영한 영상에서 최신 기술 기반 피부과 AI 모델의 성능을 평가하기 위해.
• 강건한 훈련 방법이 피부 톤과 질환 희귀도에 따른 성능 격차를 완화할 수 있는지 조사하기 위해.
• 모델 편향이 알고리즘 설계 외에도 훈련 데이터 분포에서 기인함을 입증하기 위해.
• 공개 가능한 기준 데이터셋(DDI)을 구축하여 공정하고 일반화 가능한 피부과 AI 개발을 위한 기반을 마련하기 위해.

제안 방법

• 2010–2020년 기간 동안 스탠포드 병리학 보고서를 바탕으로 Diverse Dermatology Images (DDI) 데이터셋을 정제하였으며, 병리학적으로 확인된 진단 및 피부 톤(Fitzpatrick skin type, FST) I–VI 레이블링을 포함하였다.
• 빛그림자 피부 톤(FST I–II)와 어두운 피부 톤(FST V–VI)의 균형 잡힌 표현을 확보하기 위해 영상을 선별하였으며, 유병률 1/10,000 미만의 희귀 질환도 포함하였다.
• 표준 평가 지표(ROC-AUC, 민감도 등)를 사용하여 세 가지 사전 훈련된 피부과 AI 모델(ModelDerm, DeepDerm, HAM10000)을 DDI 데이터셋에서 평가하였다.
• 피부 톤 그룹의 소스 데이터셋 프록시를 사용하여 DeepDerm에 대해 강건한 훈련 방법(GroupDRO, CORAL, CDANN)을 적용하여 편향 완화 효과를 시험하였다.
• 피부 톤과 질환 희귀도에 따라 분류된 분석을 수행하여 성능 저하 요인을 정밀하게 분리하였다.
• 과적합을 방지하고 실제 운영 환경을 모의하기 위해 훈련 데이터에서 유래한 원래 모델 임계값을 사용하였다.

실험 결과

연구 질문

• RQ1 최신 기술 기반 피부과 AI 모델은 다양하고 병리학적으로 확인된 데이터셋에서 어두운 피부 톤과 희귀 질환을 반영한 이미지에서 어떻게 성능을 발휘하는가?
• RQ2 피부 톤(Fitzpatrick I–II 대비 V–VI)과 질환 희귀도는 피부과 AI 모델의 성능 격차에 어느 정도 기여하는가?
• RQ3 GroupDRO, CORAL, CDANN 등의 강건한 훈련 방법은 다양한 훈련 데이터 없이도 성능 격차를 보완할 수 있는가?
• RQ4 특히 흔한 질환에서 희귀 질환으로의 분포 이탈이 모델의 일반화 능력에 어떤 영향을 미치는가?
• RQ5 기존 테스트 세트에서의 모델 성능 지표가 실제 임상적 다양성과 실생활 데이터에 대해 얼마나 일반화되는가?

주요 결과

• 최신 기술 기반 피부과 AI 모델은 원래 보고된 결과와 비교해 DDI 데이터셋 평가에서 ROC-AUC가 29–40% 감소하였다.
• ModelDerm는 Fitzpatrick I–II에서 민감도 0.41, Fitzpatrick V–VI에서 0.12를 기록하였으며(p = 0.0025), 어두운 피부 톤에서 심각한 성능 격차가 있음을 시사하였다.
• DeepDerm는 Fitz I–II에서 민감도 0.69에서 Fitz V–VI로 떨어져 0.23로 감소하였으며, 통계적으로 유의미한 p값 5.65 × 10⁻⁶를 기록하였다.
• HAM10000는 자체 테스트 세트에서 민감도 0.68를 기록했지만, 전체 DDI 데이터셋에서는 민감도 0.04에 머물러 있어 임계값 일반화에 실패함을 보여주었다.
• 강건한 훈련 방법(GroupDRO, CORAL, CDANN)을 적용한 후에도 피부 톤 간 공정성 향상이 관찰되지 않아, 다양한 훈련 데이터 부족이 근본 원인임을 입증하였다.
• 희귀 질환을 제외한 DDI 공통 질환에 대한 성능은 원래 테스트 세트 성능 이하였으며, DeepDerm는 여전히 Fitz I–II와 V–VI 간 민감도 격차가 심각함(0.71 대비 0.31, p = 0.007)을 보였다.