[논문 리뷰] Skin lesion classification with ensemble of squeeze-and-excitation networks and semi-supervised learning

Shunsuke Kitada, Hitoshi Iyatomi|arXiv (Cornell University)|2018. 09. 07.

Cutaneous Melanoma Detection and Management참고 문헌 5인용 수 12

한 줄 요약

이 논문은 피부 병변 분류를 위해 반감도 학습을 사용한 Mean Teacher 프레임워크와 신규 데이터 증강 기법(신체 모발 증강 및 클래스 간 학습 포함)을 활용한 Squeeze-and-Excitation 네트워크(세트리드)의 앙상블을 제안한다. 이 방법은 ISIC 2018 검증 세트에서 87.2%의 균형 잡힌 정확도를 달성하여 제안된 증강 기법 없이 사용된 기준 모델 대비 성능 향상을 크게 이룩하였다.

ABSTRACT

In this report, we introduce the outline of our system in Task 3: Disease Classification of ISIC 2018: Skin Lesion Analysis Towards Melanoma Detection. We fine-tuned multiple pre-trained neural network models based on Squeeze-and-Excitation Networks (SENet) which achieved state-of-the-art results in the field of image recognition. In addition, we used the mean teachers as a semi-supervised learning framework and introduced some specially designed data augmentation strategies for skin lesion analysis. We confirmed our data augmentation strategy improved classification performance and demonstrated 87.2% in balanced accuracy on the official ISIC2018 validation dataset.

연구 동기 및 목표

• 희귀한 메라노마 유형에 대해 불균형한 의료 데이터셋에서 피부 병변 분류 정확도를 향상시키기 위해.
• 악성 피부 병변 클래스의 데이터 부족 문제를 해결하기 위해, 미라벨 데이터를 활용한 반감도 학습을 통해.
• 피부 내시경 영상 특성에 맞춘 맞춤형 데이터 증강 전략을 통해 모델 일반화 능력을 향상시키기 위해.
• 신규 데이터 증강 기법(예: 신체 모발 증강)의 효과를 평가하여 분류 정확도 향상에 기여하는지 확인하기 위해.
• 의료 영상 분류에서 교차검증을 통한 앙상블 학습의 효과를 입증하기 위해.

제안 방법

• ISIC 2018 훈련 데이터에 대해 5겹 교차검증을 수행하여 사전 훈련된 여러 SE-ResNet101 모델을 미세조정하였다.
• 학생 모델이 레이블이 있는 데이터와 교사 모델(가중치의 지수 이동 평균을 사용)과의 일致성 손실을 통해 학습하는 Mean Teacher 반감도 학습 프레임워크를 적용하였다.
• 랜덤 에리징, 서로 다른 클래스의 영상 간 선형 보간(클래스 간 학습) 및 버포의 바늘 모델 기반의 새로운 신체 모발 증강 기법을 포함한 데이터 증강 기법을 적용하였다.
• 추론 시에 테스트 시간 증강을 사용하여 다섯 개의 앙상블 모델 예측을 평균화함으로써 정확도를 향상시켰다.
• 훈련 중에 이미지 정규화 및 평균 제거를 수행하였으며, 각 전방전파 시에 랜덤하게 데이터 증강을 적용하였다.
• 딥러닝 프레임워크로 Chainer를 사용하여 시스템을 구현하였다.

실험 결과

연구 질문

• RQ1 Mean Teacher 프레임워크를 활용한 반감도 학습이 불균형한 피부 병변 데이터셋에서 분류 성능 향상에 기여하는가?
• RQ2 훈련 이미지에 인위적인 신체 모발을 도입함으로써 모델의 일반화 능력 향상 및 정확한 병변 분류 능력 향상이 이루어지는가?
• RQ3 표준 증강 기법과 비교했을 때, 클래스 간 학습이 피부 병변 분류에서 얼마나 효과적인 데이터 증강 전략인가?
• RQ4 랜덤 에리징 데이터 증강 기법이 피부 내시경 영상 분류에서 얼마나 높은 내성(로버스트니) 향상에 기여하는가?
• RQ5 이러한 기법을 통해 미세조정된 SE-ResNet101 모델의 앙상블이 ISIC 2018 벤치마크에서 최고 성능을 달성할 수 있는가?

주요 결과

• 제안된 시스템은 공식 ISIC 2018 검증 데이터셋에서 87.2%의 균형 잡힌 정확도를 달성하여 다중 분류 피부 병변 분류에서 뛰어난 성능을 보였다.
• 신체 모발 증강 기법의 포함으로 인해 모델 성능이 크게 향상되어 균형 잡힌 정확도가 79.2%에서 87.2%로 상승하였다.
• Mean Teacher 반감도 학습 프레임워크는 레이블이 없는 데이터를 효과적으로 활용하여 클래스 불균형에도 불구하고 일반화 능력을 향상시켰다.
• 클래스 간 학습 및 랜덤 에리징 데이터 증강 기법은 훈련 데이터의 다양성을 증가시키고 모델의 내성 향상에 기여하였다.
• 교차검증 및 테스트 시간 증강을 통해 훈련된 다섯 개의 SE-ResNet101 모델 앙상블은 더 안정적이고 정확한 예측을 도출하였다.
• 신규로 제안된 신체 모발 증강 기법은 실제 병변 영상의 변형을 효과적으로 시뮬레이션하였으며, 특히 모발에 의해 가려진 영역 처리에 뛰어난 효과를 보였다.