[논문 리뷰] Ensemble of Convolutional Neural Networks for Dermoscopic Images Classification

Tomáš Majtner, Buda Bajić외 4명|arXiv (Cornell University)|2018. 08. 15.

Cutaneous Melanoma Detection and Management인용 수 14

한 줄 요약

이 논문은 전이 학습과 고급 전처리를 사용하여 도마진 피부 병변 분류를 위한 미세조정된 VGG16 및 GoogLeNet 모델의 앙상블을 제안한다. 데이터 증강(뒤집기 및 회전)과 최대 RGB 색상 일관성 정규화를 적용함으로써, ISIC 2018 Task 3 검증 세트에서 균형 잡힌 정확도 81.5%를 달성하였으며, 개별 모델을 초월하는 성능을 보였다.

ABSTRACT

In this report, we are presenting our automated prediction system for disease classification within dermoscopic images. The proposed solution is based on deep learning, where we employed transfer learning strategy on VGG16 and GoogLeNet architectures. The key feature of our solution is preprocessing based primarily on image augmentation and colour normalization. The solution was evaluated on Task 3: Lesion Diagnosis of the ISIC 2018: Skin Lesion Analysis Towards Melanoma Detection.

연구 동기 및 목표

• 피부 병변 분류에서 불균형하고 노이즈가 많은 도마진 영상 데이터셋의 과제를 해결한다.
• 데이터 증강과 색상 정규화를 통해 모델의 강건성과 일반화 능력을 향상시킨다.
• 제한된 레이블이 부여된 의료 데이터를 보완하기 위해 전이 학습을 활용한다.
• 여러 사전 훈련된 모델의 예측을 앙상블하여 분류 성능을 향상시킨다.

제안 방법

• 훈련 데이터의 클래스 분포를 균형 잡기 위해 수평 뒤집기 및 회전(36도 간격으로 최대 324도)을 적용하여 데이터 증강을 수행한다.
• 다양한 조명 조건에서의 영상 간 색상 일관성을 확보하기 위해 최대 RGB 색상 일관성 정규화를 사용한다.
• 증강 및 정규화된 훈련 데이터에 대해 ImageNet 사전 훈련 가중치를 사용하여 VGG16 및 GoogLeNet 아키텍처를 미세조정한다.
• 스티어티식 경사 하강법(SGD), 모멘텀 0.9, L2 정규화(10⁻⁴), 낮은 학습률(0.0001)을 사용하여 50 에포크 동안 모델을 최적화한다.
• VGG16 및 GoogLeNet의 예측을 동일한 앙상블 가중치(각각 0.5)로 조합하여 일반화 능력을 향상시킨다.
• 작은 배치 크기 8을 사용하여 MATLAB R2018a에서 파이프라인을 구현한다.

실험 결과

연구 질문

• RQ1 뒤집기 및 회전를 통한 데이터 증강이 불균형한 도마진 영상 데이터셋에서 모델의 강건성과 성능을 향상시키는가?
• RQ2 최대 RGB 색상 정규화가 다양한 조명 조건에서 피부 병변 영상의 모델 일반화 능력을 어느 정도 향상시키는가?
• RQ3 ImageNet 사전 훈련 모델에서의 전이 학습이 제한된 레이블 데이터로 인한 피부 병변 진단의 분류 정확도에 어떤 영향을 미치는가?
• RQ4 VGG16 및 GoogLeNet의 앙상블이 암흑성 피부암 검출에서 개별 모델을 초월하는 성능을 보이는가?
• RQ5 실제 데이터 제약 조건 하에서 도마진 영상 분류에서 모델 복잡성과 성능 사이의 최적의 균형은 무엇인가?

주요 결과

• 제안된 데이터 증강 전략으로 총 훈련 세트 크기가 10,015장에서 96,274장으로 증가하여 클래스 균형이 크게 향상되었다.
• 최대 RGB 방법을 사용한 색상 정규화가 빛의 차이로 인한 영상 간 변동성을 효과적으로 줄였으며, 중요한 색상 정보를 손실 없이 유지하였다.
• 미세조정 후 VGG16 모델은 ISIC 2018 검증 세트에서 균형 잡힌 정확도 80.1%를 달성하였다.
• GoogLeNet 모델은 동일한 테스트 세트에서 균형 잡힌 정확도 79.7%를 달성하였다.
• VGG16 및 GoogLeNet의 앙상블는 가장 높은 성능을 보이며 균형 잡힌 정확도 81.5%를 기록하였으며, 모델 평균화의 효과를 입증하였다.
• 결과는 전이 학습, 전처리 및 앙상블를 조합할 경우 피부 병변 분류 작업에서 뛰어난 성능을 달성할 수 있음을 시사한다.