[논문 리뷰] Computational optimization of convolutional neural networks using separated filters architecture

Elena Limonova, Alexander Sheshkus외 1명|arXiv (Cornell University)|2020. 02. 18.

Advanced Data Processing Techniques인용 수 6

한 줄 요약

이 논문은 2D 컨볼루션 필터를 분리 가능한 필터의 선형 조합으로 표현하여 컨volutional 신경망(CNNs)의 계산 최적화를 제안한다. 이는 효율적인 훈련과 추론을 가능하게 하며, 정확도 손실 없이 문자 및 숫자 인식 작업에서 15%의 속도 향상을 달성한다. 이는 모바일 및 임베디드 시스템에 적합하다.

ABSTRACT

This paper considers a convolutional neural network transformation that reduces computation complexity and thus speedups neural network processing. Usage of convolutional neural networks (CNN) is the standard approach to image recognition despite the fact they can be too computationally demanding, for example for recognition on mobile platforms or in embedded systems. In this paper we propose CNN structure transformation which expresses 2D convolution filters as a linear combination of separable filters. It allows to obtain separated convolutional filters by standard training algorithms. We study the computation efficiency of this structure transformation and suggest fast implementation easily handled by CPU or GPU. We demonstrate that CNNs designed for letter and digit recognition of proposed structure show 15% speedup without accuracy loss in industrial image recognition system. In conclusion, we discuss the question of possible accuracy decrease and the application of proposed transformation to different recognition problems. convolutional neural networks, computational optimization, separable filters, complexity reduction.

연구 동기 및 목표

• 모바일 및 임베디드 플랫폼과 같은 자원 제약 환경에서 CNN의 높은 계산 비용을 해결하기 위해.
• 모델 정확도를 훼손하지 않으면서 2D 컨볼루션 연산의 계산 복잡도를 감소시키기 위해.
• 변형된 필터 아키텍처에서 표준 최적화 알고리즘을 사용하여 효율적인 훈련과 추론을 가능하게 하기 위해.
• 실제 산업용 이미지 인식 시스템에서 인식 성능를 유지하면서 실질적인 속도 향상을 입증하기 위해.

제안 방법

• 2D 컨볼루션 필터를 1D 분리 가능한 필터의 선형 조합으로 표현하여 계산 복잡도를 감소시키기 위해.
• 변형된 네트워크의 엔드 투 엔드 훈련을 위해 표준 백프로파게이션과 확률적 경사 하강법을 적용하기 위해.
• CPU 및 GPU 하드웨어에서 모두 효율적으로 분리된 필터 아키텍처를 구현하기 위해.
• 필터 분해를 제약하면서도 표현 능력을 유지하기 위해 파라미터 공유 메커니즘을 사용하기 위해.
• 분해가 미분 가능하고 표준 딥 러닝 프레임워크와 호환되도록 네트워크를 설계하기 위해.
• 2D 컨볼루션을 연속된 1D 컨볼루션으로 대체하여 FLOPs와 메모리 액세스를 줄임으로써 추론을 최적화하기 위해.

실험 결과

연구 질문

• RQ1 정확도가 크게 떨어지지 않게 2D 컨볼루션 필터를 분리 가능한 필터로 효과적으로 분해할 수 있는가?
• RQ2 이러한 필터 분해 접근을 통해 계산 복잡도를 어느 정도 감소시킬 수 있는가?
• RQ3 실제 인식 작업 환경에서 제안된 방법의 추론 속도는 어떻게 성능을 보이는가?
• RQ4 이 변환은 표준 훈련 절차와 하드웨어 가속기와 호환되는가?
• RQ5 실제 구현 환경에서 모델 복잡도와 속도 향상 간의 상충 관계는 어떠한가?

주요 결과

• 제안된 방법은 정확도 손실 없이 문자 및 숫자 인식 작업에서 추론 시간에 15%의 속도 향상을 달성한다.
• 변형된 CNN 아키텍처는 산업용 이미지 인식 벤치마크에서 높은 성능를 유지한다.
• 이 방법은 표준 훈련 알고리즘과 호환되며, CPU 및 GPU에서 모두 효율적으로 구현될 수 있다.
• 필터 분해 이후 분리 가능한 컨볼루션을 사용함으로써 계산 복잡도가 크게 감소한다.
• 최소한의 아키텍처 변경으로도 모바일 및 임베디드 플랫폼에 효율적인 CNN 배포가 가능하다.
• 변환 및 재훈련 후에도 모델 정확도에 눈에 띄는 하락이 관찰되지 않았다.