[논문 리뷰] Traffic Sign Classification Using Deep Inception Based Convolutional Networks

Mrinal Haloi|arXiv (Cornell University)|2015. 11. 10.

Infrastructure Maintenance and Monitoring참고 문헌 11인용 수 29

한 줄 요약

이 논문은 교통 표지 분류를 위해 수정된 인셉션 모듈과 공간 변형기 레이어를 갖춘 딥 컨volution 네트워크를 제안하며, GTSRB 데이터셋에서 99.81%의 top-1 정확도를 달성한다. 공간 변형기를 통한 자동 기하 보정과 파rameter 효율적인 인셉션 설계를 통합함으로써 수동으로 만든 데이터 증강에 대한 의존도를 감소시키고, 단지 1050만 개의 파라미터로 최신 기술 수준의 성능을 달성한다.

ABSTRACT

In this work, we propose a novel deep network for traffic sign classification that achieves outstanding performance on GTSRB surpassing all previous methods. Our deep network consists of spatial transformer layers and a modified version of inception module specifically designed for capturing local and global features together. This features adoption allows our network to classify precisely intraclass samples even under deformations. Use of spatial transformer layer makes this network more robust to deformations such as translation, rotation, scaling of input images. Unlike existing approaches that are developed with hand-crafted features, multiple deep networks with huge parameters and data augmentations, our method addresses the concern of exploding parameters and augmentations. We have achieved the state-of-the-art performance of 99.81\% on GTSRB dataset.

연구 동기 및 목표

• 수동으로 만든 데이터 증강 기법과 고파라미터 딥 네트워크의 한계를 해결하기 위해.
• 실제 주행 조건에서의 이동, 회전, 확대/축소와 같은 공간적 왜곡에 대한 강건성을 향상시키기 위해.
• 기존 딥 러닝 방법과 비교해 정확도를 유지하거나 향상시키면서 모델 복잡성과 메모리 사용량을 줄이기 위해.
• 교통 표지 이미지에서 국소적 및 전반적 특징을 효과적으로 캐치하기 위해 특화된 새로운 수정된 인셉션 모듈을 개발하기 위해.
• 공간 변형기 네트워크를 통합해 엔드 투 엔드로 공간 변환을 학습함으로써, 외부 데이터 증강 없이도 변형에 대한 불변성을 향상시키기 위해.

제안 방법

• 다양한 크기의 필터(1×1, 3×3, 5×5)를 사용하고 1×1 컨볼루션을 통해 차원을 압축함으로써 다중 척도 특징을 효율적으로 캐치하는 수정된 인셉션 모듈(mIncept)을 도입한다.
• 컨볼루션 및 인셉션 블록 이전에 공간 변형기 네트워크(STNs)를 통합하여 이미지 왜곡(예: 이동, 회전)에 대한 공간 변환을 자동으로 학습함으로써 왜곡에 대한 강건성을 향상시킨다.
• 학습 안정성과 특징 표현 능력을 향상시키기 위해 가중치를 학습 가능한 파rametric ReLU(PReLU) 활성화 함수를 사용한다.
• PReLU 기반 네트워크에 효과적인 것으로 입증된 MSRA 방법을 사용해 네트워크 가중치를 초기화한다.
• Pooling 및 STN 레이어를 제외한 21층의 딥 네트워크를 설계하였으며, 컨볼루션 및 인셉션 레이어 이전에 네 개의 공간 변형기 모듈을 전략적으로 배치하였다.
• 수동 데이터 증강이나 진동 기법 없이도 표준 최적화 기법과 학습률 스케줄링을 사용해 네트워크를 훈련시켰다.

실험 결과

연구 질문

• RQ1 수정된 인셉션 모듈은 모델 복잡성 증가 없이도 교통 표지 분류의 특징 추출 효율성과 정확도를 향상시킬 수 있는가?
• RQ2 공간 변형기 네트워크는 수동으로 만든 데이터 증강에 대한 의존도를 얼마나 줄일 수 있으며, 공간 왜곡에 대한 강건성을 향상시킬 수 있는가?
• RQ3 기존 최신 기술 수준의 방법들, 예를 들어 GTSRB 벤치마크에서의 CNN 커미티에 비해 제안된 네트워크는 정확도와 파라미터 효율성 측면에서 어떻게 비교되는가?
• RQ4 공간 변환의 엔드 투 엔드 학습이 다양한 조명, 크기, 방향을 가진 실제 교통 표지 이미지에서 더 나은 일반화 성능을 이끌어낼 수 있는가?
• RQ5 1100만 개 이하의 파라미터를 가진 경량 딥 네트워크가 9000만 개 이상의 파라미터를 사용하는 더 큰 모델보다 교통 표지 분류에서 더 뛰어난 성능을 낼 수 있는가?

주요 결과

• 제안된 방법은 GTSRB 데이터셋에서 99.81%의 top-1 정확도를 달성하여, 이전의 모든 방법들—예를 들어 커미티 오브 CNNs(99.46%)와 인간 성능(98.84%)—을 초월한다.
• 모델은 단지 1050만 개의 파라미터만을 사용하여 커미티 오브 CNNs가 사용한 9000만 개의 파라미터보다 크게 줄였다. 이는 메모리 및 계산 요구량을 감소시킨다.
• 수정된 인셉션 모듈(mIncept)은 원본 GoogLeNet 인셉션 모듈보다 우수한 성능을 보였으며, 표준 모듈 대비 99.81%의 정확도를 기록했다.
• 모든 GTSRB 카테고리에서 그룹별 정확도가 99.7%를 초과했으며, 금지 표지(100%)와 의무 표지(99.72%)에서는 완벽하거나 거의 완벽한 성능을 보였다.
• 공간 변형기 레이어는 공간 왜곡을 효과적으로 처리하여 데이터 증강의 필요성을 줄이고, 어려운 실제 환경 변화에 대한 일반화 능력을 향상시켰다.
• 이 방법은 우수한 확장성과 효율성을 보이며, 자원 제약이 있는 자율 주행 차량 시스템에의 구현에 적합하다.