[논문 리뷰] Meta-learning for skin cancer detection using Deep Learning Techniques

Sara I. Garcia|arXiv (Cornell University)|2021. 04. 21.

Cutaneous Melanoma Detection and Management참고 문헌 10인용 수 6

한 줄 요약

이 연구는 ImageNet에서 사전 훈련된 ResNet 모델을 사용한 메타학습 접근법을 제안하여, 제한된 의료 데이터셋에서 피부암 검출 성능을 향상시킨다. 비의료 데이터에서의 지식을 활용해 의료 데이터셋의 일반화 능력을 향상시키며, 메타학습과 단순한 클래스 및 분포 균형 조절 알고리즘을 조합함으로써 암세포 검출 성능을 20점 향상시킨다. 이로 인해 검증 손실이 크게 감소하고 F1 점수 및 Jaccard 유사도가 향상된다.

ABSTRACT

This study focuses on automatic skin cancer detection using a Meta-learning approach for dermoscopic images. The aim of this study is to explore the benefits of the generalization of the knowledge extracted from non-medical data in the classification performance of medical data and the impact of the distribution shift problem within limited data by using a simple class and distribution balancer algorithm. In this study, a small sample of a combined dataset from 3 different sources was used to fine-tune a ResNet model pre-trained on non-medical data. The results show an increase in performance on detecting melanoma, malignant (skin cancer), and benign moles with the prior knowledge obtained from images of everyday objects from the ImageNet dataset by 20 points. These findings suggest that features from non-medical images can be used towards the classification of skin moles and that the distribution of the data affects the performance of the model.

연구 동기 및 목표

• 비의료 영상 데이터(예: ImageNet)에서의 지식이 제한된 의료 도름스코픽 데이터셋에서의 분류 성능 향상에 기여할 수 있는지 조사하기 위해.
• 메타학습 기법을 적용하여 의료 영상에서의 데이터 부족과 분포 이탈 문제를 해결하기 위해.
• 피부암 검출에서 클래스 불균형과 공변량 이탈이 모델 일반화에 미치는 영향을 평가하기 위해.
• 불균형된 의료 데이터에서 모델의 강건성을 향상시키기 위해 단순한 클래스 및 분포 균형 조절 알고리즘을 개발하고 테스트하기 위해.

제안 방법

• 세 개의 소스에서 유래한 소규모 병합 도름스코픽 데이터셋을 사용해 ImageNet에서 사전 훈련된 ResNet 모델을 미세조정하기 위해.
• 이주 학습을 위해 최종 소프트맥스 및 밀집층을 제거하기 위해.
• 소수 클래스의 균형을 맞추고 훈련 및 테스트 데이터 분포를 일치시키기 위해 클래스 및 분포 균형 조절 알고리즘을 적용하기 위해.
• 신뢰할 수 있는 성능 평가를 보장하기 위해 3회 반복된 계층적 k-폴드 교차 검증을 사용하기 위해.
• 다양한 데이터 분포 조건에서 모델 행동을 비교하기 위해 클래스 가중치를 사용하거나 미사용한 채로 훈련하기 위해.
• 모델 성능 평가를 위해 Jaccard 유사도 지수와 F1 점수를 평가 지표로 사용하기 위해.

실험 결과

연구 질문

• RQ1 비의료 ImageNet 데이터를 사용한 메타학습이 소규모이고 불균형한 의료 도름스코픽 데이터셋에서의 분류 성능 향상에 기여할 수 있는가?
• RQ2 훈련 및 테스트 세트 간의 분포 이탈이 피부암 검출에서 모델 일반화에 어떤 영향을 미치는가?
• RQ3 단순한 클래스 및 분포 균형 조절 알고리즘이 데이터 불균형으로 인한 성능 저하를 어느 정도 완화하는가?
• RQ4 무관한 도메인 데이터(예: ImageNet)에서 사전 훈련한 것이 랜덤 초기화보다 피부암 분류에서 더 나은 일반화를 이끌어내는가?

주요 결과

• ImageNet에서 사전 훈련된 가중치를 사용한 메타학습 접근법은 랜덤 초기화 대비 분류 성능을 20점 향상시켰으며, Jaccard 유사도 지수는 47.22를 기록했다.
• 클래스 및 분포 균형 조절 알고리즘을 사용해 훈련한 모델은 가중치 없음 기준 베이스라인 대비 Jaccard 유사도 지수에서 5점 향상된 성과를 보였다.
• 균형 조절 알고리즘을 사용할 경우 검증 정확도가 향상되고 검증 손실이 크게 감소하여 일반화 능력 향상과 과적합 감소를 나타냈다.
• 균형 조절 알고리즘을 사용한 모델은 F1 점수 0.53을 기록하여 데이터 부족 상황에서도 암세포 식별 능력이 향상됨을 보여주었다.
• 결과적으로, 관련 없는 도메인에서의 메타학습이 일반화 능력을 향상시키며, 특히 분포 인식 데이터 균형 조절과 조합했을 때 더욱 두드러진다.
• 이 연구는 메타학습에서 공변량 이탈에 대한 모델 민감도가 높다는 것을 확인했으며, 의료 메타학습에서 데이터 분포 불일치 문제를 해결할 필요성이 강조된다.