[논문 리뷰] Cascaded Subpatch Networks for Effective CNNs

Xiaoheng Jiang, Yanwei Pang외 2명|arXiv (Cornell University)|2016. 03. 01.

Advanced Neural Network Applications참고 문헌 38인용 수 5

한 줄 요약

이 논문은 표준 컨볼루션 필터를 h×w 선형 필터와 그 다음에 1×1 필터로 구성된 연결된 서브패치 필터로 대체하는 새로운 CNN 아키텍처인 캐스케이드드 서브패치 네트워크(CSNet)를 제안한다. 이는 국소 이미지 패치에서 더 풍부하고 강건한 특징을 추출하기 위한 것으로, 공간 차원이 하나의 뉴런으로 감소할 때까지 이러한 레이어를 중첩함으로써 압축된 아키텍처로 최신 기술 수준의 성능을 달성하며, 모델 평균화 없이 CIFAR-10에서 5.68%의 테스트 오차를 기록한다.

ABSTRACT

Conventional Convolutional Neural Networks (CNNs) use either a linear or non-linear filter to extract features from an image patch (region) of spatial size $ H imes W $ (Typically, $ H $ is small and is equal to $ W$, e.g., $ H $ is 5 or 7). Generally, the size of the filter is equal to the size $ H imes W $ of the input patch. We argue that the representation ability of equal-size strategy is not strong enough. To overcome the drawback, we propose to use subpatch filter whose spatial size $ h imes w $ is smaller than $ H imes W $. The proposed subpatch filter consists of two subsequent filters. The first one is a linear filter of spatial size $ h imes w $ and is aimed at extracting features from spatial domain. The second one is of spatial size $ 1 imes 1 $ and is used for strengthening the connection between different input feature channels and for reducing the number of parameters. The subpatch filter convolves with the input patch and the resulting network is called a subpatch network. Taking the output of one subpatch network as input, we further repeat constructing subpatch networks until the output contains only one neuron in spatial domain. These subpatch networks form a new network called Cascaded Subpatch Network (CSNet). The feature layer generated by CSNet is called csconv layer. For the whole input image, we construct a deep neural network by stacking a sequence of csconv layers. Experimental results on four benchmark datasets demonstrate the effectiveness and compactness of the proposed CSNet. For example, our CSNet reaches a test error of $ 5.68\% $ on the CIFAR10 dataset without model averaging. To the best of our knowledge, this is the best result ever obtained on the CIFAR10 dataset.

연구 동기 및 목표

• 입력 패치 크기와 일치하는 필터를 사용하는 전통적인 CNN의 표현 능력이 제한되어 있다는 문제를 해결하기 위해.
• 네트워크의 깊이나 너비를 크게 늘리지 않고 국소 이미지 패치 내에서의 특징 추상화를 향상시키기 위해.
• 계층적인 서브패치 특징 학습을 통해 모델 복잡성을 줄이면서도 분류 능력을 향상시키기 위해.
• 표준 벤치마크에서 뛰어난 성능을 내기 위해 압축적이지만 매우 효과적인 컨볼루션 레이어 구조를 개발하기 위해.

제안 방법

• 표준 H×W 컨볼루션 필터를 h×w (h>1, w>1) 크기의 연결된 서브패치 필터로 대체하고, 그 다음에 1×1 필터를 적용한다.
• 첫 번째 서브패치 필터를 사용해 입력 패치의 부분 영역으로부터 공간적 특징을 추출한다.
• 첫 번째 필터 이후에 1×1 컨볼루션 필터를 적용하여 채널 간 정보를 융합하고 파라미터 수를 줄인다.
• 여러 개의 서브패치 네트워크를 순차적으로 중첩하여, 각 특징 맵당 하나의 뉴런만 남을 때까지 공간 차원을 감소시킨다.
• 단일 연결된 서브패치 네트워크의 출력으로 csconv 레이어를 구성하며, 이는 표준 컨볼루션 레이어를 대체한다.
• 종합적인 학습을 위해 네트워크 아키텍처 전반에 걸쳐 여러 개의 csconv 레이어를 중첩하여 깊은 네트워크를 구축한다.

실험 결과

연구 질문

• RQ1 표준 고정 크기 필터와 비교해 계층적인 서브패치 필터링 메커니즘이 CNN의 특징 표현 능력을 향상시킬 수 있는가?
• RQ2 공간 크기가 감소한 서브패치 필터를 연결하고 1×1 융합을 적용하면 파라미터 수를 줄이며 더 나은 일반화 성능을 달성할 수 있는가?
• RQ3 이 아키텍처는 데이터 증강 없이도 표준 비전 벤치마크에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ4 CIFAR 및 MNIST 데이터셋에서 제안된 csconv 레이어는 기존의 깊은 네트워크와 비교해 효율성과 정확도 면에서 어떻게 비교되는가?

주요 결과

• CSNet는 모델 평균화 없이 CIFAR-10에서 5.68%의 테스트 오차를 기록했으며, 이는 출판 당시 보고된 바 중에서 가장 좋은 결과이다.
• CIFAR-100에서 CSNet-M는 30.24%의 테스트 오차를 기록했으며, 두 번째로 좋은 방법인 RCNN-160(31.75%)보다 1.51%p 높은 성능을 보였다.
• MNIST에서 CSNet-S는 0.31%의 테스트 오차를 기록했으며, 최고 성능을 낸 방법과 동일한 결과를 내고 최신 기술 수준의 성능을 달성했다.
• SVHN에서 CSNet-M는 1.90%의 테스트 오차를 기록했으며, 최고 성능(1.80%)에 매우 가까이 도달했고, NIN보다 0.45%p 높은 성능을 보였다.
• 제안된 csconv 레이어는 파라미터 수를 줄이며 특징 추상화 능력을 향상시켜, 압축적이지만 강력한 네트워크를 가능하게 했다.
• 연결된 서브패치 설계는 효과적인 계층적 특징 학습을 가능하게 하며, H×W에서 1×1으로 감소하는 해상도의 피라미드를 모방한다.