[논문 리뷰] PydMobileNet: Improved Version of MobileNets with Pyramid Depthwise Separable Convolution

Van-Thanh Hoang, Kang-Hyun Jo|arXiv (Cornell University)|2018. 11. 17.

IoT and Edge/Fog Computing참고 문헌 45인용 수 4

한 줄 요약

이 논문은 표준 3×3 깊이 분리형 합성곱을 피라미드 커널 크기 전략으로 대체하여 더 풍부한 공간적 특징을 포착하는 개선된 MobileNet 변종인 PydMobileNet을 제안한다. 추가 또는 연결을 통한 특징 맵 통합과 너비 배수 조정을 통해 PydMobileNet는 CIFAR-10 및 CIFAR-100에서 MobileNet과 다른 최신 모델들보다 더 적은 파라미터 수와 더 나은 지연 시간 트레이드오프를 달성하면서도 뛰어난 정확도를 확보한다.

ABSTRACT

Convolutional neural networks (CNNs) have shown remarkable performance in various computer vision tasks in recent years. However, the increasing model size has raised challenges in adopting them in real-time applications as well as mobile and embedded vision applications. Many works try to build networks as small as possible while still have acceptable performance. The state-of-the-art architecture is MobileNets. They use Depthwise Separable Convolution (DWConvolution) in place of standard Convolution to reduce the size of networks. This paper describes an improved version of MobileNet, called Pyramid Mobile Network. Instead of using just a $3 imes 3$ kernel size for DWConvolution like in MobileNet, the proposed network uses a pyramid kernel size to capture more spatial information. The proposed architecture is evaluated on two highly competitive object recognition benchmark datasets (CIFAR-10, CIFAR-100). The experiments demonstrate that the proposed network achieves better performance compared with MobileNet as well as other state-of-the-art networks. Additionally, it is more flexible in fine-tuning the trade-off between accuracy, latency and model size than MobileNets.

연구 동기 및 목표

• 제한된 계산 자원을 가진 모바일 및 임베디드 디바이스에 컴act하고 정확한 CNN을 구현하는 데 도전하는 것.
• 고정된 3×3 깊이 분리형 합성곱에 의존하는 MobileNet의 한계를 극복하고 다중 척도 공간적 특징 추출을 가능하게 하는 것.
• 조정 가능한 네트워크 너비와 특징 통합 전략을 통해 정확도, 추론 지연 시간, 파라미터 수의 균형을 더 유연하게 조절할 수 있도록 하는 것.
• 피라미드 커널 크기 깊이 분리형 합성곱이 기준 깊이 분리형 합성곱보다 벤치마크 데이터셋에서 정확도와 효율성 측면에서 뛰어나다는 것을 입증하는 것.

제안 방법

• MobileNet의 표준 3×3 깊이 분리형 합성곱을 다중 커널 크기(예: 3×3, 5×5, 7×7)를 동시에 적용하는 피라미드 커널 크기 전략으로 대체한다.
• 채널 차원을 제어하고 계산 효율성을 유지하기 위해 버티컬 블록을 사용한다.
• 다양한 커널 크기에서 유도된 특징 맵을 요소별 덧셈 또는 연결을 통해 통합하여 공간적 및 채널별 정보를 유지한다.
• 모델 용량을 제어하기 위해 너비 배수 하이퍼파rameter를 도입하여 정확도, 크기, 지연 시간 간의 세밀한 트레이드오프를 가능하게 한다.
• 표준 최적화 프로토콜을 사용하여 CIFAR-10 및 CIFAR-100 데이터셋에서 네트워크를 엔드 투 엔드로 훈련한다.
• 특정 플랫폼에서 깊이 분리형 합성곱의 효율성 부족 문제를 고려하여 CPU 및 GPU에서의 추론 속도를 평가하여 실제 구현 가능성 여부를 점검한다.

실험 결과

연구 질문

• RQ1 MobileNet의 고정된 3×3 커널에 비해 피라미드 커널 크기 전략을 적용한 깊이 분리형 합성곱이 특징 표현 능력을 향상시킬 수 있는가?
• RQ2 덧셈 또는 연결을 통한 특징 통합 방식의 선택이 모델의 정확도, 파라미터 수, 추론 속도에 어떤 영향을 미치는가?
• RQ3 PydMobileNet이 CIFAR-10 및 CIFAR-100에서 MobileNet과 다른 최신 모델들보다 더 높은 정확도를 달성하면서도 더 적은 파라미터를 사용할 수 있는가?
• RQ4 현재 딥러닝 프레임워크에서 깊이 분리형 합성곱의 비효율성 문제를 고려할 때, CPU 및 GPU에 배포된 PydMobileNet의 추론 속도가 MobileNet 및 ResNet과 비교해 어떻게 되는가?

주요 결과

• PydMobileNet-Add-56-1은 단지 0.382M 파라미터로 CIFAR-100에서 상위-1 오차율 10.7%를 기록하여 MobileNet-56-1(0.416M 파라미터, 11.1% 오차율)과 다른 최신 모델들을 능가했다.
• CIFAR-10에서 PydMobileNet 변종들은 더 적은 파라미터를 사용하면서도 MobileNet 및 ResNet과 유사하거나 낮은 오차율을 기록했다.
• PydMobileNet-Concat-56-0.25 변종은 단지 0.175M 파라미터로 CIFAR-100에서 상위-1 오차율 17.7%를 기록하여 매우 높은 효율성을 입증했다.
• 추론 속도 평가 결과, PydMobileNet-Concat 변종들은 CPU 및 GPU에서 MobileNet과 유사한 속도를 기록하여 더 깊은 아키텍처임에도 불구하고 실용적인 배포 가능성과 함께 확인되었다.
• 모델 성능은 다양한 너비 배수와 통합 전략에 대해 뛰어난 안정성을 보였으며, 정확도-지연 시간-크기 트레이드오프를 조정하는 데 있어 높은 유연성을 확인했다.
• 훈련 곡선 분석 결과, 56층의 PydMobileNet-0.25-Concat는 더 적은 파라미터 수와 더 빠른 수렴 속도를 바탕으로 110층의 ResNet과 유사한 테스트 오차율을 기록했다.