[논문 리뷰] Transfer learning with class-weighted and focal loss function for automatic skin cancer classification

Duyen N. T. Le, Hieu X. Le외 2명|arXiv (Cornell University)|2020. 09. 13.

Cutaneous Melanoma Detection and Management참고 문헌 27인용 수 50

한 줄 요약

이 논문은 transfer learning으로 학습된 수정된 ResNet50 모델의 앙상블을 제시하며, 클래스 가중 손실 및 focal loss를 사용하여 HAM10000 피부 병변 이미지를 7개 클래스 분류, 교차검증에서 93% 상위 정확도, 테스트 세트에서 90%를 달성했다.

ABSTRACT

Skin cancer is by far in top-3 of the world's most common cancer. Among different skin cancer types, melanoma is particularly dangerous because of its ability to metastasize. Early detection is the key to success in skin cancer treatment. However, skin cancer diagnosis is still a challenge, even for experienced dermatologists, due to strong resemblances between benign and malignant lesions. To aid dermatologists in skin cancer diagnosis, we developed a deep learning system that can effectively and automatically classify skin lesions into one of the seven classes: (1) Actinic Keratoses, (2) Basal Cell Carcinoma, (3) Benign Keratosis, (4) Dermatofibroma, (5) Melanocytic nevi, (6) Melanoma, (7) Vascular Skin Lesion. The HAM10000 dataset was used to train the system. An end-to-end deep learning process, transfer learning technique, utilizing multiple pre-trained models, combining with class-weighted and focal loss were applied for the classification process. The result was that our ensemble of modified ResNet50 models can classify skin lesions into one of the seven classes with top-1, top-2 and top-3 accuracy 93%, 97% and 99%, respectively. This deep learning system can potentially be integrated into computer-aided diagnosis systems that support dermatologists in skin cancer diagnosis.

연구 동기 및 목표

• 자동화되고 정확한 7-클래스 피부 병변 분류를 통해 피부과 전문의를 지원한다.
• 사전 학습된 CNN을 활용한 전이 학습으로 불균형한 피부 병변 데이터를 다룬다.
• 소수 클래스의 성능 향상을 위한 클래스 가중치와 focal loss를 적용한다.
• 특징 공학을 최소화한 엔드-투-엔드 파이프라인으로 견고한 진단을 구현한다.

제안 방법

• ImageNet에서 사전 학습된 ResNet50 아키텍처를 약간 수정(전역 평균 풀링, 드롭아웃, 두 개의 Dense 레이어).
• 불균형 문제를 다루기 위해 클래스 비율에 기반한 클래스 가중 손실 적용.
• hard 예제에 대한 학습을 집중시키고 쉬운 음수의 영향을 줄이기 위해 focal loss 도입.
• 훈련 데이터 증강(회전, 대칭, cutout, 자르기)과 계층별 샘플링 및 5-fold 교차 검증 사용.
• 여러 모델의 앙상블과 최종 예측을 위한 테스트 타임 증강(TTA) 적용.

실험 결과

연구 질문

• RQ1 ResNet50을 이용한 전이 학습과 클래스 가중 손실 및 focal loss를 사용하면 HAM10000에서 다중 클래스 피부 병변 분류 성능이 높아질 수 있는가?
• RQ2 드롭아웃, 증강, CW 손실, focal loss, GAP 각각의 기법이 분류 성능에 미치는 영향은 무엇인가?
• RQ3 ResNet50, VGG16, MobileNet, EfficientNetB1 중 어떤 기본 아키텍처가 정확도와 적용 가능성의 균형을 가장 잘 나타내는가?
• RQ4 앙상블과 TTA가 교차검증 및 데이터 세트 간 일반화에 도움이 되는가?
• RQ5 제안된 방법이 정확도 및 클래스별 성능 측면에서 기존의 HAM10000 연구와 어떻게 비교되는가?

주요 결과

• 모든 기법을 적용한 수정된 ResNet50 모델의 앙상블은 5-fold 교차검증에서 93%의 정확도와 테스트 세트에서 90%의 정확도를 달성했다.
• 전체 방법(드롭아웃, 증강, 클래스 가중 손실, focal loss, 전역 평균 풀링)은 정확도, 정밀도, 재현율 및 F1-score에서 비ablation 대비 우수했다.
• 클래스별 정밀도, 재현율, F1-score는 여러 클래스에서 강력한 성능을 보였고, 평균 지표는 기존 연구에 비해 경쟁력 있는 결과를 시사한다.
• ResNet50이 Stage-1 실험에서 VGG16, MobileNet, EfficientNetB1보다 우수했으며, EfficientNetB1은 모바일 배포의 트레이드오프를 제공한다.
• GradCAM 시각화는 모델이 병변 영역에 주목하지만 일부 인공물에 오집중하는 경향이 있어 세분화 기반 분석으로 성능이 개선되지 않았음을 시사한다.