[논문 리뷰] A Scalable Multilabel Classification to Deploy Deep Learning Architectures For Edge Devices

Tolulope A. Odetola, Ogheneuriri Oderhohwo외 1명|arXiv (Cornell University)|2019. 11. 05.

Advanced Image and Video Retrieval Techniques참고 문헌 24인용 수 5

한 줄 요약

이 논문은 단일 CNN에 다중 손실 및 정확도 레이어를 사용하여 엣지 장치에 배포 가능한 확장성 있는 단일 모델 다중 레이블 분류 프레임워크를 제안한다. 이미지 자르기나 타일링이 필요 없으며, 기존의 다중 레이블 접근 방식에 비해 평균 1.8배 적은 MACC 연산, 최대 50% 감소한 지연 시간, 모델 크기 감소를 달성한다. AlexNet, GoogleNet, SqueezeNet에서 성능을 비교 분석하였다.

ABSTRACT

Convolution Neural Networks (CNN) have performed well in many applications such as object detection, pattern recognition, video surveillance and so on. CNN carryout feature extraction on labelled data to perform classification. Multi-label classification assigns more than one label to a particular data sample in a data set. In multi-label classification, properties of a data point that are considered to be mutually exclusive are classified. However, existing multi-label classification requires some form of data pre-processing that involves image training data cropping or image tiling. The computation and memory requirement of these multi-label CNN models makes their deployment on edge devices challenging. In this paper, we propose a methodology that solves this problem by extending the capability of existing multi-label classification and provide models with lower latency that requires smaller memory size when deployed on edge devices. We make use of a single CNN model designed with multiple loss layers and multiple accuracy layers. This methodology is tested on state-of-the-art deep learning algorithms such as AlexNet, GoogleNet and SqueezeNet using the Stanford Cars Dataset and deployed on Raspberry Pi3. From the results the proposed methodology achieves comparable accuracy with 1.8x less MACC operation, 0.97x reduction in latency and 0.5x, 0.84x and 0.97x reduction in size for the generated AlexNet, GoogleNet and SqueezeNet CNN models respectively when compared to conventional ways of achieving multi-label classification like hard-coding multi-label instances into single labels. The methodology also yields CNN models that achieve 50\% less MACC operations, 50% reduction in latency and size of generated versions of AlexNet, GoogleNet and SqueezeNet respectively when compared to conventional ways using 2 different single-labelled models to achieve multi-label classification.

연구 동기 및 목표

• 기존 다중 레이블 CNN 모델이 높은 메모리 및 계산 비용으로 인해 엣지 장치에 배포하기 어려운 문제를 해결하기 위해.
• 다중 레이블 분류에서 이미지 사전 처리 단계(예: 자르기, 타일링)가 필요 없도록 하기 위해.
• 단일 딥 러닝 모델이 단일 입력에서 상호 배타적인 레이블 분류를 효율적으로 수행할 수 있도록 하기 위해.
• 기존의 다중 모델 또는 하드코딩된 단일 레이블 접근 방식에 비해 추론 지연 시간, MACC 연산, 모델 크기를 줄이기 위해.
• 이전 학습 기반 전이 학습 및 통합 아키텍처를 활용하여 라즈베리 파이 3와 같은 엣지 하드웨어에서 효율적이고 저비용의 다중 레이블 학습 및 배포를 가능하게 하기 위해.

제안 방법

• 서로 배타적인 레이블 속성 각각에 대응하는 다중 손실 및 정확도 레이어를 갖춘 단일 CNN 모델을 설계한다.
• 최신 모델들(AlexNet, GoogleNet, SqueezeNet)을 아키텍처를 대대적으로 수정하지 않고도 다중 레이블 분류에 적합하도록 전이 학습을 통해 미세 조정한다.
• 모든 레이블별 손실을 통합한 통합 손실 함수를 사용하여 다중 출력을 동시에 최적화할 수 있도록 학습한다.
• 데이터 융합 기법을 적용하여 동일한 모델 내에서 관련 및 비관련 레이블 분류를 모두 처리한다.
• 학습된 모델을 엣지 장치(예: 라즈베리 파이 3)에 배포하고 추론 효율성, 지연 시간, 모델 크기를 평가한다.
• 모델 학습에는 Caffe 프레임워크를, 최종 아키텍처의 시각화에는 NetScope를 사용한다.

실험 결과

연구 질문

• RQ1 이중 손실 및 정확도 레이어를 갖춘 단일 CNN 모델이 자르기나 타일링과 같은 이미지 사전 처리 없이 효과적인 다중 레이블 분류를 달성할 수 있는가?
• RQ2 기존의 하드코딩된 다중 레이블 인스턴스나 별도의 단일 레이블 모델을 사용하는 접근 방식과 비교해 본다면, 제안된 방법은 정확도, 지연 시간, 모델 크기 측면에서 어떻게 성능을 내는가?
• RQ3 전이 학습과 다중 손실 학습을 통해 엣지 배포를 위한 MACC 연산과 메모리 프로파일을 얼마나 줄일 수 있는가?
• RQ4 제안된 방법론은 자원이 제한된 장치에서 확장성 있고 저비용의 다중 레이블 추론을 유지하면서도 높은 분류 정확도를 달성할 수 있는가?

주요 결과

• 제안된 방법은 기존 접근 방식과 유사한 다중 레이블 분류 정확도를 달성하면서도 평균 1.8배 적은 MACC 연산을 기록한다.
• 하드코딩된 다중 레이블 학습 방법에 비해 지연 시간이 0.97배로 감소하여 약 3% 향상되었다.
• 다중 레이블 분류를 위해 별도의 두 개의 단일 레이블 모델을 사용하는 것과 비교해 평균 50% 모델 크기가 감소하였다.
• AlexNet, GoogleNet, SqueezeNet에 대해 각각 0.5배, 0.84배, 0.97배의 모델 크기 감소를 기록하여 하드코딩된 다중 레이블 학습 방식에 비해 성능 향상을 이뤘다.
• 라즈베리 파이 3와 같은 엣지 장치에 효율적으로 배포 가능하며, 계산 및 메모리 오버헤드가 크게 감소하였다.
• 데이터 융합을 통해 관련 및 비관련 속성의 동시에 분류가 가능하여 모델 복잡도 증가 없이도 확장성을 향상시켰다.