[논문 리뷰] A Dense CNN approach for skin lesion classification

Pierluigi Carcagnì, Andrea Cuna외 1명|arXiv (Cornell University)|2018. 07. 17.

Cutaneous Melanoma Detection and Management참고 문헌 3인용 수 4

한 줄 요약

이 논문은 도말경화 영상에서 7종류의 피부 병변을 분류하기 위해 61층의 DenseNet 기반 CNN과 중심 손실 정규화 학습 전략을 제안한다. ISIC 2018 데이터셋에서 사전 훈련된 DenseNet-121을 사용하여 소프트맥스 손실과 중심 손실을 조합한 손실 함수(λ = 0.8)로 미세조정한 결과, 검증 정확도가 89.2%에 도달하여 악성 피부암 및 양성 병변 분류에서 향상된 특징 구분 능력과 뛰어난 성능을 보였다.

ABSTRACT

This article presents a Deep CNN, based on the DenseNet architecture jointly with a highly discriminating learning methodology, in order to classify seven kinds of skin lesions: Melanoma, Melanocytic nevus, Basal cell carcinoma, Actinic keratosis / Bowen's disease, Benign keratosis, Dermatofibroma, Vascular lesion. In particular a 61 layers DenseNet, pre-trained on IMAGENET dataset, has been fine-tuned on ISIC 2018 Task 3 Challenge Dataset exploiting a Center Loss function.

연구 동기 및 목표

• 도말경화 영상에서 7종류의 피부 병변을 자동으로 분류하기 위한 딥 러닝 모델을 개발하는 것.
• 중심 손실 정규화 기법을 활용해 피부 병변 분류의 특징 구분 능력을 향상시키는 것.
• 복잡한 사전 처리 없이 ISIC 2018 챌린지 과제 3 데이터셋에서 높은 성능을 달성하는 것.
• 미세조정된 DenseNet 아키텍처에서 소프트맥스 손실과 중심 손실을 조합하는 효과를 평가하는 것.
• 데이터 증강 및 훈련 전략이 불균형한 피부 병변 데이터셋에서 모델의 일반화 능력에 미치는 영향을 탐색하는 것.

제안 방법

• 4개의 밀집 블록에서 3개로 줄이고 세 번째 밀집 블록 이후로 잘라내어 총 22층의 마지막 밀집 블록을 갖는 61층의 DenseNet-121 변형 모델을 구축하였다.
• 모델는 ImageNet 사전 훈련 가중치로 초기화되었으며, 확률적 경사 하강법(SGD)을 사용하여 ISIC 2018 챌린지 데이터셋에서 미세조정되었다. 기본 학습률은 0.01, 가중치 감쇠는 0.0001, 관성은 0.9로 설정되었다.
• 하이브리드 손실 함수를 적용하여 교차 엔트로피 소프트맥스 손실(L_s)과 중심 손실(L_c)을 조합하였으며, 균형 조정 하이퍼파라미터 λ = 0.8을 사용하여 내부 클래스의 응집도와 클래스 간 분리도를 최적화하였다.
• 클래스 분포를 보정하고 훈련 샘플 수를 늘리기 위해 기하학적 변환(회전, 반전, 애핀 변환)을 활용한 데이터 증강을 적용하였다.
• 입력 이미지는 정사각형으로 자르고 224×224 픽셀로 크기 조정하여 네트워크의 입력 요구 조건을 충족시켰다.
• 최종 완전 연결 층은 초기화 없이 훈련하였고, 이외의 모든 층은 미세조정 기간 동안 동결되었다.

실험 결과

연구 질문

• RQ1 중심 손실 정규화를 적용한 DenseNet 기반 CNN이 다양한 피부 병변 유형의 분류 정확도를 향상시킬 수 있는가?
• RQ2 소프트맥스 손실과 중심 손실의 조합이 피부 병변 분류에서 특징 군집화와 클래스 간 분리도에 어떤 영향을 미치는가?
• RQ3 데이터 증강이 불균형한 피부 병변 데이터셋에서 성능 향상에 얼마나 기여하는가?
• RQ4 사전 훈련된 DenseNet을 도말경화 영상에서 미세조정하면 복잡한 사전 처리 없이도 높은 성능을 달성할 수 있는가?
• RQ5 피부 병변 진단에서 검증 정확도를 최대화하기 위해 소프트맥스 손실과 중심 손실 간 최적의 균형은 무엇인가?

주요 결과

• 제안된 모델은 ISIC 2018 과제 3 데이터셋에서 전체 검증 정확도 89.2%를 달성하여 모든 병변 유형에서 뛰어난 성능을 보였다.
• λ = 0.8로 설정된 중심 손실 사용이 내부 클래스 응집도를 크게 향상시켜 모델의 구분 능력을 강화시켰다.
• 데이터 증강 이후 훈련 세트는 295,375장의 이미지, 테스트 세트는 74,004장의 이미지로 구성되었으며, 7종류의 병변 유형 모두에서 균형 잡힌 클래스 분포를 확보하였다.
• 이미지 크기 조정과 증강만으로도 최소한의 사전 처리로 높은 성능을 달성하였다.
• 61층의 최종 네트워크 아키텍처와 3개의 밀집 블록은 도말경화 영상에서 계층적 특징을 효과적으로 포착하는 데 기여하였다.
• 결과적으로 중심 손실 정규화는 데이터가 제한적이고 불균형한 의료 영상 분류 작업에서 특히 효과적임을 시사한다.