[논문 리뷰] Convolutional Neural Network Committees for Melanoma Classification with Classical And Expert Knowledge Based Image Transforms Data Augmentation

Cristina Nader Vasconcelos, Bárbara Nader Vasconcelos|arXiv (Cornell University)|2017. 02. 22.

Cutaneous Melanoma Detection and Management참고 문헌 6인용 수 20

한 줄 요약

이 논문은 피부과적 병변 대칭성에 기반한 전문 지식 유도형 왜곡과 전통적인 이미지 변환(기하학적/색상)을 조합한 새로운 하이브리드 데이터 증강 전략을 결합한 GoogLeNet 기반의 합성곱 신경망(CNN) 위원회를 제안한다. 이 방법은 자연적 및 생물학적 변동성에 대한 강건성을 향상시켜, 0.932의 검증 점수를 기록하며 ISBI 2017 대회 최고 성과(0.958)에 비해 뿐다. 이는 소규모이고 불균형한 생물의학 데이터셋에서의 효과를 입증한다.

ABSTRACT

Skin cancer is a major public health problem, as is the most common type of cancer and represents more than half of cancer diagnoses worldwide. Early detection influences the outcome of the disease and motivates our work. We investigate the composition of CNN committees and data augmentation for the the ISBI 2017 Melanoma Classification Challenge (named Skin Lesion Analysis towards Melanoma Detection) facing the peculiarities of dealing with such a small, unbalanced, biological database. For that, we explore committees of Convolutional Neural Networks trained over the ISBI challenge training dataset artificially augmented by both classical image processing transforms and image warping guided by specialist knowledge about the lesion axis and improve the final classifier invariance to common melanoma variations.

연구 동기 및 목표

• ISBI 2017 암세포 데이터셋과 같은 소규모이고 불균형한 생물의학 데이터셋에서 딥 러닝 모델을 훈련하는 데 도전하는 것.
• 데이터 증강이 피부 병변 이미지에서 자연적 및 생물학적 변동성에 대한 CNN의 불변성 향상에 기여하는지 조사하는 것.
• 데이터셋의 불균형이 CNN 성능에 미치는 영향을 평가하고, 이를 완화하기 위한 전략을 제안하는 것.
• 기존 기법과 전문 지식 기반 데이터 증강을 융합함으로써 모델의 일반화 능력과 강건성을 향상시킬 수 있는지 입증하는 것.
• 어려운 암세포 분류 과제에서 CNN 위원회가 단일 모델 대비 분류 성능 향상에 기여하는지 평가하는 것.

제안 방법

• 전이 학습을 통해 ISBI 2017 훈련 세트에 맞추어 미리 훈련된 GoogLeNet 아키텍처를 기반으로 한 CNN 모델을 사용한다.
• 다양한 훈련 샘플을 확보하기 위해 무작위 회전, 반전, 색상 왜곡 등의 전통적 데이터 증강 기법을 적용한다.
• 병변 대칭성과 축 방향성을 기반으로 한 전문 지식 기반 이미지 왜곡을 힌트로 삼아 얇은 판 스퍼링 변환을 구현한다.
• 병변 경계를 타원으로 근사하고, 주축 길이를 ±20% 범위에서 왜곡하면서 방향성과 중심 위치를 유지하여 현실적인 변동성을 구현한다.
• 증강된 데이터에서 균형 잡힌 서브셋을 사용해 다수의 모델을 훈련시켜 CNN 위원회를 구성함으로써 분산을 줄이고 일반화 능력을 향상시킨다.
• 재현 가능성과 공정한 비교를 확보하기 위해 고정된 초기화 조건(10 에포크, 10⁻⁴ 학습률, 배치 크기 256)을 사용한 5겹 교차 검증을 실시한다.

실험 결과

연구 질문

• RQ1 기하학적 및 색상 변환을 포함한 전통적인 이미지 처리 변환 기법이 암세포 병변 이미지에서 자연적 변동성에 대한 CNN 불변성 향상에 기여하는가?
• RQ2 피부과적 병변 대칭성 및 축 방향성 원칙에 기반한 전문 지식 기반 이미지 왜곡이 생물학적 변동성에 대한 CNN 강건성 향상에 기여하는가?
• RQ3 훈련 데이터셋의 클래스 불균형이 CNN 성능에 미치는 영향은 무엇이며, 데이터 증강이 이 문제를 완화할 수 있는가?
• RQ4 증강 및 균형 잡힌 데이터로 훈련된 CNN 위원회가 단일 모델 대비 분류 성능 향상에 기여하는가?
• RQ5 하이브리드 데이터 증강 기법을 사용해 미리 훈련된 GoogLeNet 아키텍처가 소규모이고 불균형한 생물의학 데이터셋에서 경쟁 가능한 성능을 달성할 수 있는가?

주요 결과

• 기존 기법과 전문 지식 기반 왜곡을 융합한 하이브리드 데이터 증강 전략이 자연적 및 생물학적 변동성에 대한 모델 강건성 향상에 뚜렷한 효과가 있었다.
• 증강 및 균형 잡힌 데이터로 훈련된 CNN 위원회가 검증 점수 0.932를 기록했으며, 이는 ISBI 2017 대회 최고 성과(0.958)에 비해 뿐다.
• ImageNet으로 사전 훈련된 가중치를 사용한 미세조정이 과적합을 줄이고 훈련 시간을 단축시켜, 소규모 데이터셋에서 전이 학습의 유용성을 확인했다.
• 대칭성과 축 방향성을 기반으로 한 병변 특화 왜곡 기법이 중요한 진단 패턴을 유지하면서도 임의의 특징을 도입하지 않아 일반화 능력을 향상시켰다.
• 작은 훈련 세트(2000장)와 높은 클래스 불균형(68.6% 비피부암, 12.7% 모반, 18.7% 암세포)에도 불구하고 뛰어난 성능을 보였다.
• 결과적으로 이 방법은 ResNet과 같은 다른 CNN 아키텍처로도 이식 가능하며, 더 강력한 모델을 사용할 경우 성능 향상이 가능할 것으로 보인다.