[논문 리뷰] A Comparative Study of Deep Learning Classification Methods on a Small Environmental Microorganism Image Dataset (EMDS-6): from Convolutional Neural Networks to Visual Transformers

Peng Zhao, Chen Li외 6명|arXiv (Cornell University)|2021. 07. 16.

Cell Image Analysis Techniques인용 수 4

한 줄 요약

이 연구는 환경 미생물 이미지 데이터셋(EMDS-6)에서 CNN과 비전 트랜스포머(ViTs)를 포함한 21개의 딥러닝 모델을 평가하여, 자료가 제한된 상황에서 최적의 아키텍처를 규명한다. Xception가 가장 높은 분류 정확도를 기록했고, ViT는 가장 빠른 학습 시간을 보였으며, ShuffleNet-V2는 가장 적은 파라미터 수를 가졌음. 기하학적 데이터 증강은 주로 주목적 기반 전역 특징 학습 방식을 취하는 ViT 모델에 대해 거의 효과가 없었다.

ABSTRACT

In recent years, deep learning has made brilliant achievements in Environmental Microorganism (EM) image classification. However, image classification of small EM datasets has still not obtained good research results. Therefore, researchers need to spend a lot of time searching for models with good classification performance and suitable for the current equipment working environment. To provide reliable references for researchers, we conduct a series of comparison experiments on 21 deep learning models. The experiment includes direct classification, imbalanced training, and hyperparameter tuning experiments. During the experiments, we find complementarities among the 21 models, which is the basis for feature fusion related experiments. We also find that the data augmentation method of geometric deformation is difficult to improve the performance of VTs (ViT, DeiT, BotNet and T2T-ViT) series models. In terms of model performance, Xception has the best classification performance, the ViT model consumes the least time for training, and the ShuffleNet-V2 model has the least number of parameters.

연구 동기 및 목표

• 실제 생물학적 및 환경 연구에서 흔히 볼 수 있는 소규모 환경 미생물 이미지 데이터셋(EMDS-6)에서 뛰어난 성능을 보이는 딥러닝 모델을 규명하기 위해.
• 특히 기하학적 변형을 포함한 데이터 증강 기법이 컨volutional 네트워크(CNNs)와 비전 트랜스포머(ViTs)에 미치는 영향을 평가하기 위해.
• 소규모 데이터 환경에서 모델 수렴 및 성능에 영향을 미치는 하이퍼파rameter(학습률, 배치 크기) 조정 효과를 분석하기 위해.
• 자원 제약 환경에서의 구현을 고려할 때 정확도, 학습 시간, 파라미터 수 간의 아키텍처 간 상호 교환 관계를 탐색하기 위해.
• 서로 보완적인 성능 특성을 보이는 아키텍처 기반으로 앙상블 또는 융합 전략을 설계하는 데 참고 자료를 제공하기 위해.

제안 방법

• EMDS-6 데이터셋에서 17개의 CNNs(예: ResNet, DenseNet, VGG, Inception, Xception, MobileNet, ShuffleNet)와 4개의 비전 트랜스포머(ViT, DeiT, T2T-ViT, BotNet)를 비교하였다.
• 세 가지 실험 설정을 수행: 직접 분류, 기하학적 변형(회전 및 반사)을 통한 데이터 증강(6배 확장), 클래스 불균형 서브셋에서의 불균형 학습.
• 입력 이미지를 표준화하여 224×224 해상도로 조정하고, 교차 엔트로피 손실과 Adam 옵timizer를 사용한 표준 학습 프로토콜을 적용하였다.
• 소규모 데이터 설정에서의 민감도를 평가하기 위해 학습률과 배치 크기를 변화시킨 하이퍼파ram터 분석 실험을 수행하였다.
• 향후 앙상블 설계를 지원하기 위해 모델 간 상호보완적 행동을 규명하기 위해 특징 융합 분석을 실시하였다.
• 표준 지표인 정확도, 학습 시간, 파라미터 수를 사용하여 모델 성능을 평가하였다.

실험 결과

연구 질문

• RQ1 소규모 EMDS-6 데이터셋에서 어떤 딥러닝 아키텍처가 가장 높은 분류 정확도를 달성하는가?
• RQ2 비전 트랜스포머 기반 모델에 비해 CNN에 비해 기하학적 데이터 증강(회전, 반사)이 얼마나 효과적인가?
• RQ3 소규모 이미지 분류 환경에서 학습률과 배치 크기 등의 하이퍼파rameter가 모델 수렴과 정확도에 어떤 영향을 미치는가?
• RQ4 이러한 소규모 데이터 환경에서 다양한 아키텍처 간 정확도, 학습 시간, 파라미터 수 간의 상호 교환 관계는 어떠한가?
• RQ5 기하학적 데이터 증강이 왜 ViT 성능 향상에 실패하는가? 이는 그들의 인덕티브 바이어스에 대해 어떤 함의를 갖는가?

주요 결과

• Xception는 EMDS-6 데이터셋에서 테스트된 모든 모델 중 가장 높은 분류 정확도를 기록했으며, 다른 CNN 및 ViT 모델을 압도했다.
• 비전 트랜스포머(ViT, DeiT, T2T-ViT)는 가장 짧은 학습 시간을 기록했고, 특히 ViT가 가장 빠른 학습 속도를 보여, 대규모 데이터 스케일링에 뛰어난 효율성을 지녔다.
• ShuffleNet-V2는 파라미터 수가 100만 미만으로 가장 적었으며, 메모리 제약 환경에서의 구현에 이상적인 조건을 갖추고 있었다.
• 기하학적 데이터 증강(회전 및 반사)은 CNN의 성능 향상에 크게 기여했지만, 주목적 기반 전역 특징 학습 방식을 취하는 ViT 계열 모델에 대해서는 미미하거나 심지어 부정적인 영향을 미쳤다.
• 더 깊은 아키텍처를 가진 VGG 네트워크(VGG16, VGG19)는 EMDS-6에서 수렴에 실패했으며, 이는 소규모 데이터셋에서의 기울기 소실 현상 때문일 가능성이 높다.
• 하이퍼파ram터 튜닝은 성능에 큰 영향을 미쳤으며, 특히 배치 정규화를 포함한 모델에서 소규모 데이터셋에서 학습률이나 배치 크기의 미세한 변화가 정확도의 큰 변동을 유발하는 경향을 보였다.