[논문 리뷰] Residual Network based Aggregation Model for Skin Lesion Classification

Yongsheng Pan, Yong Xia|arXiv (Cornell University)|2018. 07. 24.

Cutaneous Melanoma Detection and Management참고 문헌 13인용 수 6

한 줄 요약

이 논문은 피부 병변 분류를 향상시키기 위해 미세조정된 ResNet 특징과 피셔 벡터 인코딩을 결합한 잔차망 기반 집계 모델을 제안한다. 미세조정된 ResNet-50/101/152에서 유도된 다중 척도 특징을 피셔 벡터(FV)를 통해 집계함으로써, ISIC2018 챌린지 검증 세트에서 90.4%의 균형 잡힌 정확도를 달성하였으며, 비미세조정 및 기준 방법들을 능가하였다.

ABSTRACT

We recognize that the skin lesion diagnosis is an essential and challenging sub-task in Image classification, in which the Fisher vector (FV) encoding algorithm and deep convolutional neural network (DCNN) are two of the most successful techniques. Since the joint use of FV and DCNN has demonstrated proven success, the joint techniques could have discriminatory power on skin lesion diagnosis as well. To this hypothesis, we propose the aggregation algorithm for skin lesion diagnosis that utilize the residual network to extract the local features and the Fisher vector method to aggregate the local features to image-level representation. We applied our algorithm on the International Skin Imaging Collaboration 2018 (ISIC2018) challenge and only focus on the third task, i.e., the disease classification.

연구 동기 및 목표

• 작은 크기와 불균형된 데이터셋에 대응하여 피부 병변 분류 성능을 향상시키기 위해.
• 피부 병변의 형태, 크기, 혼잡도 변화에 대응하기 어려운 고정된 딥 컨볼루션 네트워크 아키텍처의 한계를 해결하기 위해.
• 피셔 벡터 인코딩을 통한 통계적 집계와 깊이 신경망 특징을 융합하여 특징 표현을 향상시키기 위해.
• 의료 영상 분류에서 사전 학습된 ResNets를 미세조정한 후 FV 인코딩을 적용하는 것이 효과적인지 검증하기 위해.
• 특히 과제 3(질병 분류)에 대해 ISIC2018 피부 병변 분류 챌린지에서 최신 기술 수준의 성능을 달성하기 위해.

제안 방법

• ISIC2018 훈련 세트에서 15 에포크 동안 랜덤 크롭핑 및 224×224로 리사이징을 통한 데이터 증강을 적용하여 ResNet-50/101/152를 미세조정하였다.
• 미세조정된 ResNets의 'res5c_branch2a' 레이어에서 局부 기술 특징을 추출하여 512차원 특징을 생성하였다.
• 64개의 구성 요소를 가진 가우시안 혼합 모델을 사용하여 局부 기술 특징을 피셔 벡터 인코딩을 통해 전역 이미지 수준의 표현으로 집계하였다.
• 최종 질병 분류를 위해 피셔 벡터 임베딩에 선형 서포트 벡터 머신(SVM) 분류기를 훈련시켰다.
• FV 인코딩 이전에 다양한 수신장 응답을 확보하기 위해 다중 척도 이미지 리스케일링(요소 2^s, s = -3에서 1까지)을 적용하였다.
• 특징 추출, 코드북 학습, 분류를 통합된 프레임워크에서 최적화하여 파ip라인을 최적화하였다.

실험 결과

연구 질문

• RQ1 미세조정된 잔차망과 피셔 벡터 인코딩을 함께 사용하면 기존의 DCNN보다 피부 병변 분류 성능을 향상시킬 수 있는가?
• RQ2 사전 학습 및 미세조정된 ResNets에서 유도된 깊이 특징과 함께 피셔 벡터 인코딩을 통한 특징 집계가 분류 능력을 향상시키는가?
• RQ3 ResNet 기반 네트워크를 미세조정하면 의료 영상 분류에서 FV 기반 집계 성능에 어떤 영향을 미치는가?
• RQ4 불균형된 피부 병변 데이터셋에서 높은 정확도를 달성하기 위해 특징 추출의 품질과 집계 전략의 상대적 기여는 각각 얼마인가?
• RQ5 제안된 방법은 ISIC2018 챌린지에서 피부 병변 질병 분류 과제에서 최신 기술 수준의 성능을 달성할 수 있는가?

주요 결과

• 미세조정된 ResNet-50를 사용한 방법이 ISIC2018 검증 세트에서 가장 높은 균형 잡힌 정확도 90.4%를 기록하였다.
• ResNet 기반 네트워크를 미세조정함으로써 성능이 크게 향상되었으며, ResNet-50의 정확도가 비미세조정 시 78.5%에서 미세조정 시 90.4%로 상승하였다.
• 미세조정된 특징을 사용한 ResNet-101은 88.4%의 균형 잡힌 정확도를 기록하여, 비미세조정(74.9%) 및 최적화되지 않은 변형보다 뛰어난 성능을 보였다.
• 사전 학습된 ResNet 특징이나 비미세조정 모델을 사용하는 기준 방법보다 제안된 방법이 뛰어나, 특징 학습에서의 미세조정의 가치를 입증하였다.
• 다중 척도 입력 리스케일링과 FV 인코딩의 조합이 특징의 다양성과 강건성을 향상시켜 일반화 능력 향상에 기여하였다.
• 결과는 FV 집계가 특히 타겟 데이터셋에서 미세조정된 특징 추출기를 사용할 경우, 분류에 유용한 패턴을 효과적으로 포착할 수 있음을 시사한다.