[논문 리뷰] Image Classification with Classic and Deep Learning Techniques

Òscar Lorente, Ian Riera외 1명|arXiv (Cornell University)|2021. 05. 11.

Advanced Image and Video Retrieval Techniques참고 문헌 11인용 수 23

한 줄 요약

이 논문은 2,688장의 이미지로 구성된 8개 클래스 데이터셋에서 고전적 및 딥 러닝 기법을 활용한 이미지 분류 성능을 평가한다. Bag of Visual Words (BoVW)와 SVM, Multilayer Perceptron (MLP), 미세조정된 InceptionV3, 그리고 자체 설계한 CNN(TinyNet)을 비교한다. 결과적으로 사전 훈련된 모델인 InceptionV3는 96%의 정확도를 달성하는 반면, 파rameter 수가 4,000개에 불과한 경량의 맞춤형 CNN은 82.5%의 정확도를 기록한다. 이는 데이터가 제한된 환경에서는 소형이고 효율적인 모델이 대규모 아키텍처를 능가할 수 있음을 보여준다.

ABSTRACT

To classify images based on their content is one of the most studied topics in the field of computer vision. Nowadays, this problem can be addressed using modern techniques such as Convolutional Neural Networks (CNN), but over the years different classical methods have been developed. In this report, we implement an image classifier using both classic computer vision and deep learning techniques. Specifically, we study the performance of a Bag of Visual Words classifier using Support Vector Machines, a Multilayer Perceptron, an existing architecture named InceptionV3 and our own CNN, TinyNet, designed from scratch. We evaluate each of the cases in terms of accuracy and loss, and we obtain results that vary between 0.6 and 0.96 depending on the model and configuration used.

연구 동기 및 목표

• 이미지 분류 작업에서 Bag of Visual Words (BoVW)와 SVM과 같은 고전적 컴퓨터 비전 기법의 성능 평가.
• 작은 균형 잡힌 이미지 데이터셋에서 Multilayer Perceptron (MLP), 미세조정된 InceptionV3, 그리고 맞춤형 CNN(TinyNet)을 포함한 딥 러닝 모델의 효과성 평가.
• 모델 아키텍처, 디프스월드 세퍼러블 컨볼루션, 최적화 기법이 정확도와 파rameter 효율성에 미치는 영향 탐구.
• 제한된 훈련 데이터에서 소형 CNN을 처음부터 훈련시키는 것이 사전 훈련된 대규모 모델을 미세조정하는 것과 비교해 경쟁 가능한 성능을 달성할 수 있는지 확인.
• 낮은 데이터 환경에서 모델 복잡도, 파라미터 수와 성능 간의 상호 상관 관계 분석.

제안 방법

• 밀도 높은 키포인트 샘플링과 함께 局부 기술자(SIFT, SURF, DAISY)를 사용한 BoVW 시스템을 구현하고, 시각적 워드 히스토GRAM에 기반한 SVM 분류기 훈련.
• 이미지 분류를 위한 기초 딥 러닝 모델로 Multilayer Perceptron (MLP)을 설계 및 훈련.
• 모델의 특징 추출 방식을 고정하거나 해제한 채로 사전 훈련된 InceptionV3 아키텍처를 데이터셋에 맞게 미세조정.
• ReLU 활성화 함수, 배치 정규화, 최대 풀링을 사용한 4~5개의 컨볼루션 레이어로 구성된 경량 CNN(TinyNet)을 처음부터 설계.
• 모델 크기와 파라미터 수를 줄이면서도 성능을 유지하기 위해 디프스월드 세퍼러블 컨볼루션 적용.
• 훈련 속도를 향상시키고 수렴을 개선하기 위해 원 사이클 정책과 학습률 찾기 기법을 포함한 고급 최적화 기법 활용.

실험 결과

연구 질문

• RQ1 소규모 이미지 분류 데이터셋에서 고전적 컴퓨터 비전 기법인 BoVW와 SVM의 성능이 현대적 딥 러닝 모델과 비교해 어떻게 되는가?
• RQ2 BoVW 기반 분류 정확도에 있어 밀도 높은 키포인트 검출과 희소 키포인트 검출 간의 영향은 무엇인가?
• RQ3 제한된 훈련 데이터에서 처음부터 훈련한 소형 맞춤형 CNN이 InceptionV3와 같은 사전 훈련된 모델을 미세조정한 것과 비교해 경쟁 가능한 정확도를 달성할 수 있는가?
• RQ4 디프스월드 세퍼러블 컨볼루션을 적용할 경우 정확도를 유지하면서도 모델 크기와 파라미터 수를 얼마나 줄일 수 있는가?
• RQ5 원 사이클 정책과 같은 고급 최적화 기법은 낮은 데이터 환경에서 훈련 속도와 모델 수렴에 어떤 영향을 미치는가?

주요 결과

• 밀도 높은 기술자 기반 BoVW 접근법은 DAISY를 사용할 경우 최대 0.66의 정확도를 기록했으며, 일반 SIFT 및 SURF보다 우수했지만 딥 러닝 기준선에 비해 크게 열등했다.
• Multilayer Perceptron (MLP)는 정확도가 0.6 이하에 머물러 있어 복잡한 이미지 분류 작업에 부적합함을 보여주었다.
• 모든 레이어를 해제한 채로 InceptionV3를 미세조정한 결과, 최고의 정확도 0.96을 기록했으며, 이는 소규모 데이터셋에서 전이 학습의 강력함을 입증했다.
• 파라미터 수가 4,000개에 불과한 맞춤형 CNN(TinyNet)이 테스트 정확도 82.5%를 기록했으며, 이는 데이터가 제한된 환경에서 소형이고 효율적인 모델이 매우 효과적일 수 있음을 시사한다.
• 기본 컨볼루션을 디프스월드 세퍼러블 컨볼루션으로 대체함으로써 파라미터 수를 최대 21배 감소시켰다(83K에서 3.9K로), 동시에 82.5%의 정확도를 유지함으로써 이 아키텍처 선택의 효율성을 입증했다.
• 모델 깊이와 파라미터 수를 늘렸음에도 불구하고, 처음부터 훈련시킬 경우 정확도가 약 90%를 넘지 못했으며, 이는 모델 용량이 아닌 데이터 부족이 주요 제약 요소임을 시사한다.