[논문 리뷰] Deep neural network ensemble by data augmentation and bagging for skin lesion classification

Manik Goyal, Jagath C. Rajapakse|arXiv (Cornell University)|2018. 07. 15.

Cutaneous Melanoma Detection and Management참고 문헌 5인용 수 7

한 줄 요약

이 논문은 피부 병변 분류를 향상시키기 위해 데이터 증강과 백킹을 결합하고, $1\times1$ 컨볼루션 메타러닝러를 사용하는 새로운 딥 뉴럴 네트워크 앙상블 프레임워크인 DABEA를 제안한다. 증강된 데이터에서 Inception-v4와 Inception-ResNet-v2를 훈련하고, 다양한 예측을 생성하기 위해 백킹을 적용한 후, 유연한 $1\times1$ 컨볼루션을 통해 예측을 융합함으로써, ISIC 2018 검증 세트에서 균형 잡힌 정확도 0.837을 달성하여 정규화되지 않은 및 혼합 모델 설정보다 뛰어난 성능을 보였다.

ABSTRACT

This work summarizes our submission for the Task 3: Disease Classification of ISIC 2018 challenge in Skin Lesion Analysis Towards Melanoma Detection. We use a novel deep neural network (DNN) ensemble architecture introduced by us that can effectively classify skin lesions by using data-augmentation and bagging to address paucity of data and prevent over-fitting. The ensemble is composed of two DNN architectures: Inception-v4 and Inception-Resnet-v2. The DNN architectures are combined in to an ensemble by using a $1 imes1$ convolution for fusion in a meta-learning layer.

연구 동기 및 목표

• 한정된 훈련 데이터에서의 데이터 부족과 과적합 문제를 해결하기 위해 딥 뉴럴 네트워크를 사용한 피부 병변 분류에 대응한다.
• 다양한 딥 러닝 모델을 효과적으로 융합하여 ISIC 2018 챌린지에서 분류 성능을 향상시킨다.
• 데이터 증강과 백킹을 활용하여 모델의 강건성과 일반화 능력을 향상시키는 새로운 앙상블 아키텍처를 개발한다.
• 다양한 기본 모델의 예측을 융합하기 위해 학습 가능한 $1\times1$ 컨볼루션 레이어를 메타러닝러로 도입한다.

제안 방법

• 프레임워크는 ISIC 2018 데이터셋에서 피지컬 튜닝된 두 가지 사전 훈련된 CNN 아키텍처인 Inception-v4와 Inception-ResNet-v2를 사용한다.
• 입력 이미지는 각 이미지의 픽셀 평균을 빼어 데이터 편향을 줄이기 위해 정규화된다.
• 랜덤 크롭, 밝기/포화도 조정, 수평 뒤집기 등을 통해 데이터 증강을 적용하여 훈련 다양성을 높인다.
• 백킹은 각 이미지의 10개의 증강된 버전에 대해 각 모델의 예측에서 무작위로 100개의 출력 벡터를 추출하여 수행된다.
• 두 모델의 백킹된 출력을 결합하여 $N \times 7 \times 100 \times 2$의 차원을 가진 3차원 텐서로 융합한다.
• $1\times1$ 컨볼루션 레이어가 풀링 연산을 통해 특징 수준의 융합을 수행하며, 두 모델의 예측을 학습 가능한 방식으로 통합한다.

실험 결과

연구 질문

• RQ1 제한된 훈련 데이터에서 데이터 증강과 백킹이 피부 병변 분류의 일반화 능력을 향상시키는가?
• RQ2 다양한 딥 뉴럴 네트워크의 예측을 융합하는 데 있어 $1\times1$ 컨볼루션 레이어가 메타러닝러로써 얼마나 효과적인가?
• RQ3 정규화된 및 정규화되지 않은 모델 출력을 융합하면 개별 또는 단일 정규화 설정보다 성능이 향상되는가?
• RQ4 다양한 풀링 전략(최대값, 평균값, 극단적 확률)이 앙상블 예측의 안정성과 정확도에 어떤 영향을 미치는가?

주요 결과

• Inception-v4와 Inception-ResNet-v2 모델 모두 정규화된 입력을 사용할 때 $1\times1$ 컨볼루션 메타러닝러가 가장 높은 균형 잡힌 정확도 0.837을 달성했다.
• 정규화된 모델 앙상블은 정규화되지 않은 설정(균형 잡힌 정확도 0.729)과 혼합 정규화 설정(균형 잡힌 정확도 0.732)을 모두 초월했다.
• 시험 제출을 위해 평균 풀링 전략이 선택되었으며, 실험 전반에서 일관된 성능을 보였다.
• 데이터 증강과 백킹의 사용은 정규화된 훈련 설정과 정규화되지 않은 설정 간의 성능 격차를 통해 모델의 강건성이 크게 향상되었음을 입증했다.
• 적절한 정규화와 증강을 적용하여 사전 훈련된 ImageNet 모델을 ISIC 2018 데이터에 피지컬 튜닝함으로써 성능 향상이 뚜렷하게 이루어졌다.
• 앙상블 프레임워크는 강력한 일반화 능력을 보이며, 평가된 설정들 중에서 ISIC 2018 검증 세트에서 최고 성능을 기록했다.