[논문 리뷰] Rethinking the Inception Architecture for Computer Vision

Christian Szegedy, Vincent Vanhoucke외 3명|arXiv (Cornell University)|2015. 12. 02.

Advanced Neural Network Applications인용 수 564

한 줄 요약

이 논문은 인코딩된 컨볼루션 필터, 공격적인 차원 축소, 배치 정규화, 레이블 스무딩을 통해 정확도를 향상시키는 개선된 컨볼루션 신경망 아키텍처인 Inception-v3을 소개한다. 단지 50억 개의 곱하기-더하기 연산과 2500만 개 이하의 파라미터를 사용하여 ImageNet ILSVRC 2012에서 상위 1위 오차 21.2%, 상위 5위 오차 5.6%를 기록하며 계산 효율성 측면에서 이전 모델을 크게 능가하는 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Convolutional networks are at the core of most state-of-the-art computer vision solutions for a wide variety of tasks. Since 2014 very deep convolutional networks started to become mainstream, yielding substantial gains in various benchmarks. Although increased model size and computational cost tend to translate to immediate quality gains for most tasks (as long as enough labeled data is provided for training), computational efficiency and low parameter count are still enabling factors for various use cases such as mobile vision and big-data scenarios. Here we explore ways to scale up networks in ways that aim at utilizing the added computation as efficiently as possible by suitably factorized convolutions and aggressive regularization. We benchmark our methods on the ILSVRC 2012 classification challenge validation set demonstrate substantial gains over the state of the art: 21.2% top-1 and 5.6% top-5 error for single frame evaluation using a network with a computational cost of 5 billion multiply-adds per inference and with using less than 25 million parameters. With an ensemble of 4 models and multi-crop evaluation, we report 3.5% top-5 error on the validation set (3.6% error on the test set) and 17.3% top-1 error on the validation set.

연구 동기 및 목표

• 컴퓨터 비전 작업을 위한 더 계산 효율적이고 정확도가 높은 컨볼루션 신경망 아키텍처를 설계하기 위해.
• 모델 스케일링을 단순하게 적용할 경우 파라미터와 FLOPs가 제곱적으로 증가하는 비효율성을 해결하기 위해.
• 저비용 계산 환경에서도 ImageNet 분류 성능을 향상시키면서도 계산 비용과 파라미터 수를 낮게 유지하기 위해.
• GoogLeNet을 초월한 Inception 스타일 네트워크에 대한 더 명확하고 체계적인 설계 프레임워크를 제공하기 위해.
• 공격적인 정규화와 아키텍처 혁신이 조용한 컴퓨팅 예산 조건에서도 높은 정확도를 낼 수 있음을 입증하기 위해.

제안 방법

• 큰 컨볼루션 필터(예: 7×7)를 더 작은 순차적 3×3 컨볼루션으로 분해하여 FLOPs와 파라미터를 감소시키기 위해.
• 모든 컨볼루션 레이어, 특히 보조 분류기까지 배치 정규화를 적용하여 학습 안정성과 일반화 성능을 향상시키기 위해.
• 레이블 스무딩을 학습 중에 적용하여 과신뢰도를 줄이고 정규화 성능 및 일반화 능력을 향상시키기 위해.
• 큰 필터 전에 1×1 컨볼루션을 사용하여 공격적인 차원 축소를 구현하여 계산 비용을 제한하기 위해.
• 초기 학습 단계에서 더 강력한 기울기를 제공하기 위해 배치 정규화를 적용한 보조 분류기를 도입하기 위해.
• 멀티-크롭 평가와 모델 앙상블을 적용하여 ILSVRC 2012 검증 세트에서 성능을 추가로 향상시키기 위해.

실험 결과

연구 질문

• RQ1 요소 분해 컨볼루션과 차원 축소는 정확도를 유지하면서도 FLOPs와 파라미터를 상당히 감소시킬 수 있는가?
• RQ2 배치 정규화와 레이블 스무딩은 깊은 Inception 네트워크에서 일반화 성능과 학습 안정성에 어떤 영향을 미치는가?
• RQ3 어떤 정도의 아키텍처 혁신이 계산 비용을 낮게 유지하면서도 상위 1위 및 상위 5위 정확도를 향상시킬 수 있는가?
• RQ4 FLOPs나 파라미터 수가 제곱적으로 증가하지 않도록 하면서도 공격적인 아키텍처 스케일링을 달성할 수 있는가?
• RQ5 멀티-크롭 평가와 모델 앙상블은 ILSVRC 2012 벤치마크에서 성능을 어떻게 향상시키는가?

주요 결과

• Inception-v3는 단일 프레임 평가를 통해 ILSVRC 2012 검증 세트에서 상위 1위 오차 21.2%, 상위 5위 오차 5.6%를 기록하여 새로운 최신 기술 수준을 수립했다.
• 4개 모델 앙성과 멀티-크롭 평가를 적용한 결과, 상위 5위 오차는 3.5%로 떨어졌으며, 최고로 발표된 앙성 결과 대비 25%의 상대적 감소를 기록했다.
• 모델은 추론 시 단지 50억 개의 곱하기-더하기 연산만을 사용했고, 파라미터 수는 2500만 개 미만이었으며, He 등 [6]의 더 깊고 빽직한 네트워크보다 뚜렷하게 뛰어난 성능을 보였다.
• 요소 분해된 7×7 컨볼루션의 사용은 정확도를 유지하면서도 FLOPs를 감소시켜 아키텍처 분해의 효과성을 입증했다.
• 레이블 스무딩과 배치 정규화된 보조 분류기는 일반화 성능 향상에 기여하여 과적합을 줄이고 성능을 향상시켰다.
• 수축된 수용체 영역(79×79)에서도 높은 성능을 달성하여 소형 객체 탐지에 유리한 조건을 제공했다.