[논문 리뷰] Skin disease identification from dermoscopy images using deep convolutional neural network

Anabik Pal, Sounak Ray외 1명|arXiv (Cornell University)|2018. 07. 24.

Cutaneous Melanoma Detection and Management참고 문헌 9인용 수 15

한 줄 요약

이 논문은 모낭세포, 밀라노세포, 기저세포암, 활성성 킬로시스, 양성 킬로시스, 피부섬유종, 혈관성 병변의 7가지 피부질환 유형으로 분류하기 위해 미리 훈련된 딥 컨volution 신경망(ResNet50, DenseNet-121, MobileNet)의 앙상블을 제안한다. 데이터 불균형 문제를 해결하기 위해 전이 학습과 가중 손실을 활용함으로써, 앙상블 모델은 ISIC 2018 챌린지 검증 세트에서 균형 잡힌 정확도 0.775를 달성하였으며, 클래스 확률에 대한 다수결 투표를 통해 개별 모델을 능가하는 성능을 보였다.

ABSTRACT

In this paper, a deep neural network based ensemble method is experimented for automatic identification of skin disease from dermoscopic images. The developed algorithm is applied on the task3 of the ISIC 2018 challenge dataset (Skin Lesion Analysis Towards Melanoma Detection).

연구 동기 및 목표

• 딥 러닝을 활용하여 피부병변의 피부현미경 영상 분류 정확도를 향상시키기 위해.
• 훈련 중 가중 손실을 사용하여 ISIC 2018 데이터셋의 클래스 불균형 문제를 해결하기 위해.
• 미리 훈련된 CNN을 피부현미경 영상 분류 작업에 대해 미세조정함으로써 전이 학습을 활용하기 위해.
• 다양한 최신 아키텍처(ResNet50, DenseNet-121, MobileNet)의 예측을 조합함으로써 앙상블 학습을 통해 성능을 향상시키기 위해.
• 메라노마, 메라노시티크 네비우스, 기저세포암, 활성성 킬로시스, 양성 킬로시스, 피부섬유종, 혈관성 병변의 7종류의 피부 병변 유형에 대해 강건한 분류 성능를 달성하기 위해.

제안 방법

• ISIC 2018 피부현미경 영상 데이터셋에 대해 사전 훈련된 딥 신경망 3종(ResNet50, DenseNet-121, MobileNet)을 미세조정하였다.
• 이미지넷 사전 훈련 모델의 가중치를 초기화하여 데이터 결핍 문제를 완화하기 위해 전이 학습을 사용하였다.
• 훈련 중 클래스 가중 손실을 백프로파게이션하여 클래스 불균형 문제를 해결하였다.
• 먼저 모든 레이어를 동결하고 마지막 레이어만 재학습(7개 클래스 분류를 위해 7개 유닛으로 조정)하였으며, 초기 학습률을 높게 설정(0.01)하여 10 에포크 동안 훈련하고 조기 정지(내구성=5)를 적용하였다.
• 그 후 모든 레이어를 해동하고 낮은 학습률(0.001)로 100 에포크 동안 미세조정하였으며, 다시 조기 정지(내구성=10)를 적용하였다.
• 데이터 증강으로 수평 및 수직 뒤집기 기법을 적용하였고, 세 모델의 클래스 확률 맵에 대한 다수결 투표를 통해 예측을 통합하였다.

실험 결과

연구 질문

• RQ1 사전 훈련된 딥 컨volution 신경망 앙상블이 개별 모델 대비 피부병변 진단을 위한 피부현미경 영상 분류 정확도를 향상시킬 수 있는가?
• RQ2 가중 손실를 사용한 전이 학습은 피부현미경 영상 데이터셋에서 클래스 불균형으로 인한 성능 저하를 얼마나 효과적으로 완화하는가?
• RQ3 다양한 아키텍처(ResNet50, DenseNet-121, MobileNet)의 예측을 앙상블 학습을 통해 통합할 경우 단일 모델보다 더 나은 일반화 성능를 달성할 수 있는가?
• RQ4 일단 레이어를 동결하고 나중에 모든 레이어를 해동하는 점진적 미세조정 전략이 모델 수렴 및 성능에 어떤 영향을 미치는가?
• RQ5 뒤집기 기반의 데이터 증강 기법이 피부병변 분류에서 강건성과 일반화 능력을 얼마나 향상시키는가?

주요 결과

• ResNet50과 MobileNet의 앙상블은 ISIC 2018 검증 세트에서 균형 잡힌 정확도 0.771을 달성하였으며, 개별 모델을 능가하는 성능를 보였다.
• 모든 세 모델(ResNet50, DenseNet-121, MobileNet)이 포함된 전체 앙상블은 균형 잡힌 정확도 0.775를 기록하여 모델 평균화의 효과를 입증하였다.
• ResNet50는 단독으로 가장 뛰어난 성능를 보이며 균형 잡힌 정확도 0.773을 달성하여 이 데이터셋에서 강력한 일반화 능력을 보였다.
• DenseNet-121는 깊은 구조와 밀접한 연결을 갖추고 있음에도 불구하고 균형 잡힌 정확도 0.698을 기록하여 중간 정도의 성능를 보였다.
• MobileNet은 개별 모델 중 가장 낮은 정확도 0.597을 기록하였으며, 이는 경량 설계와 복잡한 피부현미경 패턴을 표현할 수 있는 능력의 제한 때문일 것이다.
• 앙상블은 개별 모델 대비 성능 향상을 이끌었으며, ResNet50–DenseNet-121 조합은 개별 성능 대비 0.004 향상되었고, ResNet50–MobileNet 조합은 0.002 향상되었다.