[논문 리뷰] Leveraging Transfer Learning for Segmenting Lesions and their Attributes in Dermoscopy Images.

Navid Alemi Koohbanani, Mostafa Jahanifar외 3명|arXiv (Cornell University)|2018. 09. 23.

Cutaneous Melanoma Detection and Management인용 수 12

한 줄 요약

이 논문은 전이 학습 기반 U-Net 프레임워크를 제안하여 피부 병변 및 특성 분할을 동시에 수행한다. 사전 훈련된 인코더, 피라미드 풀링을 통한 다중 척도 특징 융합, 그리고 광범위한 데이터 증강 기법을 활용한 작업별 손실 함수를 적용한다. 이 방법은 ISIC2018 Task1 및 Task2에서 뛰어난 성능을 기록하며, 모델 앙상블를 통해 일반화 능력과 분할 정확도가 향상됨을 보여준다.

ABSTRACT

Computer-aided diagnosis systems for classification of different type of skin lesions have been an active field of research in recent decades. It has been shown that introducing lesions and their attributes masks into lesion classification pipeline can greatly improve the performance. In this paper, we propose a framework by incorporating transfer learning for segmenting lesions and their attributes based on the convolutional neural networks. The proposed framework is inspired by the well-known UNet architecture. It utilizes a variety of pre-trained networks in the encoding path and generates the prediction map by combining multi-scale information in decoding path using a pyramid pooling manner. To circumvent the lack of training data and increase the proposed model generalization, an extensive set of novel augmentation routines have been applied during the training of the network. Moreover, for each task of lesion and attribute segmentation, a specific loss function has been designed to obviate the training phase difficulties. Finally, the prediction for each task is generated by ensembling the outputs from different models. The proposed approach achieves promising results on the cross-validation experiments on the ISIC2018- Task1 and Task2 data sets.

연구 동기 및 목표

• 전이 학습을 활용하여 피부 병변 및 특성 분할의 정확도를 향상시키기 위해.
• 고도화된 데이터 증강 기법을 통해 제한된 레이블이 부여된 훈련 데이터 문제를 해결하기 위해.
• 병변 및 특성 분할을 위한 작업별 손실 함수를 활용하여 모델 일반화 능력과 훈련 안정성을 향상시키기 위해.
• 다중 척도 맥락적 특징을 피라미드 풀링을 통해 복원 경로에 통합하여 분할 정확도를 향상시키기 위해.
• 여러 훈련된 모델 간의 앙상블 학습을 통해 예측 성능을 향상시키기 위해.

제안 방법

• 특징 추출을 위해 인코더 경로에 사전 훈련된 합성곱 신경망(예: ResNet, DenseNet)을 사용하는 U-Net 유사 아키텍처를 채택한다.
• 복원 경로에서 피라미드 풀링을 활용하여 다중 척도 맥락적 특징을 융합하여 정교한 분할 예측을 수행한다.
• 훈련 데이터의 다양성과 모델의 강건성을 향상시키기 위해 다양한 새로운 데이터 증강 루틴을 적용한다.
• 병변 및 특성 분할 작업을 위해 별도의 손실 함수를 설계하여 클래스 불균형과 훈련 불안정성을 완화한다.
• 여러 훈련된 모델의 예측을 통합하여 최종 분할 신뢰도를 향상시키기 위해 모델 앙상블를 사용한다.

실험 결과

연구 질문

• RQ1 사전 훈련된 인코더를 활용한 전이 학습이 피부 병변 및 특성 분할 성능 향상에 기여하는가?
• RQ2 맞춤형 손실 함수는 병변 및 특성 분할 작업의 훈련 안정성을 얼마나 효과적으로 개선하는가?
• RQ3 광범위한 데이터 증강 전략은 제한된 의료 영상 데이터셋에서 모델의 일반화 능력을 얼마나 향상시키는가?
• RQ4 피라미드 풀링을 통한 다중 척도 특징 융합은 표준 스위프 커넥션 대비 분할 정확도 향상에 기여하는가?
• RQ5 모델 앙상블는 벤치마크 피부 병변 분할 작업에서 성능 향상에 추가 기여하는가?

주요 결과

• 제안된 프레임워크는 ISIC2018 Task1(병변 분할) 및 Task2(특성 분할) 데이터셋에서 최신 기술 수준의 성능을 달성한다.
• 사전 훈련된 인코더의 사용은 레이블이 제한된 환경에서도 특징 표현 학습 능력을 크게 향상시킨다.
• 작업별 손실 함수는 병변 및 특성 분할 모두의 훈련 불안정성 문제를 효과적으로 완화하고 수렴 성능를 향상시킨다.
• 광범위한 데이터 증강 전략은 다양한 피부 병변 영상 변형에 대해 모델의 일반화 능력과 강건성을 향상시킨다.
• 여러 모델의 앙상블는 일관된 성능 향상을 이끌어내어 신뢰도와 정확도 향상이 뚜렷하게 나타난다.