[논문 리뷰] A Multi-Level Deep Ensemble Model for Skin Lesion Classification in Dermoscopy Images

Yutong Xie, Jianpeng Zhang외 1명|arXiv (Cornell University)|2018. 07. 23.

Cutaneous Melanoma Detection and Management참고 문헌 4인용 수 3

한 줄 요약

이 논문은 다중 스케일 특징 추출과 종료 훈련 중 적응형 가중치를 사용하여 복소도 영상의 피부 병변을 분류하기 위해 사전 훈련된 ResNet-50 네트워크 네 개를 조합하는 다중 수준 딥 앙상블(MLDE) 모델을 제안한다. 이 모델은 ISIC 2018 검증 데이터셋에서 평균 AUC 86.5%를 기록하여 개별 ResNet-50 모델을 능가한다.

ABSTRACT

A multi-level deep ensemble (MLDE) model that can be trained in an 'end to end' manner is proposed for skin lesion classification in dermoscopy images. In this model, four pre-trained ResNet-50 networks are used to characterize the multiscale information of skin lesions and are combined by using an adaptive weighting scheme that can be learned during the error back propagation. The proposed MLDE model achieved an average AUC value of 86.5% on the ISIC-skin 2018 official validation dataset, which is substantially higher than the average AUC values achieved by each of four ResNet-50 networks.

연구 동기 및 목표

• 딥 신경망에서 유도된 다중 스케일 특징을 활용하여 복소도 영상의 피부 병변 분류 정확도를 향상시키기 위해.
• 복소도 영상에서 다양한 스케일에서 병변의 외관이 일관되지 않은 문제를 해결하기 위해.
• 다양한 깊이 특징을 적응형으로 융합하여 성능을 향상시키는 종료 훈련 가능한 앙상블 모델을 개발하기 위해.
• ISIC 2018 피부 병변 분류 벤치마크에서 개별 딥 러닝 모델을 능가하기 위해.
• 특징 융합을 향상시키는 학습 가능한 적응형 가중치 기법을 도입하기 위해.

제안 방법

• 복소도 영상에서 다중 스케일 표현을 추출하기 위해 사전 훈련된 네 개의 ResNet-50 네트워크를 사용한다.
• ResNet-50 네트워크의 다양한 레이어에서 유도된 특징을 다중 수준에서 융합하여 계층적인 병변 특징을 캡처한다.
• 백프로파게이션 동안 학습되는 적응형 가중치 메커니즘이 도입되어 특징 융합을 최적화한다.
• 전체 모델은 종료 훈련 방식으로 훈련되어 특징 추출과 융합의 공동 최적화가 가능하다.
• 표준 백프로파게이션을 사용하여 손실 함수가 분류 오차를 최소화하도록 앙상블 모델을 훈련한다.
• 최종 예측은 네 개의 ResNet-50 브랜치의 가중치가 부여된 출력을 집계하여 생성된다.

실험 결과

연구 질문

• RQ1 다양한 ResNet-50 네트워크에서 유도된 다중 스케일 특징을 융합하는 다중 수준 딥 앙상블 모델이 피부 병변 분류 성능을 향상시킬 수 있는가?
• RQ2 종료 훈련 가능한 적응형 가중치 기법이 복소도 영상 분석에서 특징 융합과 분류 정확도를 향상시키는가?
• RQ3 제안된 MLDE 모델은 ISIC 2018 검증 세트에서 개별 ResNet-50 모델과 비교해 AUC 측면에서 어떻게 성능을 내는가?
• RQ4 딥 네트워크에서 유도된 다중 스케일 표현이 복소도 영상에서 강건한 병변 분류에 얼마나 기여하는가?
• RQ5 학습 가능한 융합 기법이 피부 병변 분류에서 고정 또는 히우리스틱 융합 전략을 능가할 수 있는가?

주요 결과

• 제안된 MLDE 모델은 ISIC 2018 공식 검증 데이터셋에서 평균 AUC 86.5%를 달성했다.
• 이 성능은 앙상블에 사용된 각 개별 ResNet-50 네트워크의 평균 AUC를 크게 초월한다.
• 훈련 중에 학습된 적응형 가중치 메커니즘이 특징 융합과 분류의 강건성을 효과적으로 향상시켰다.
• 다중 수준 특징 추출 전략은 다양한 스케일에서 병변 특징을 성공적으로 캡처했다.
• 종료 훈련 파라다임은 기본 네트워크를 별도로 훈련시키는 것보다 앙상블 모델의 최적화를 더 잘 가능하게 했다.
• 모델은 복잡하고 다양한 복소도 영상에서도 강력한 일반화 능력을 보였다.