[논문 리뷰] Multiscale Hierarchical Convolutional Networks

Jörn-Henrik Jacobsen, Edouard Oyallon외 2명|arXiv (Cornell University)|2017. 03. 12.

Image Retrieval and Classification Techniques참고 문헌 16인용 수 7

한 줄 요약

이 논문은 데이터에서 학습된 점점 더 높은 차원의 특성에 의해 인덱싱되는 계층적 구조를 가진 다중 척도 계층적 합성곱 네트워크(MHCNs)를 제안한다. 다중 차원 합성곱과 특성 색인을 따라 평균화하여 불변성을 계산함으로써, MHCNs는 파라미터 수를 크게 줄이며 CIFAR-10에서 최신 기술 수준의 분류 정확도를 달성한다. 이는 CNN의 불변성과 대칭군을 수학적으로 해석 가능한 프레임워크를 제공한다.

ABSTRACT

Deep neural network algorithms are difficult to analyze because they lack structure allowing to understand the properties of underlying transforms and invariants. Multiscale hierarchical convolutional networks are structured deep convolutional networks where layers are indexed by progressively higher dimensional attributes, which are learned from training data. Each new layer is computed with multidimensional convolutions along spatial and attribute variables. We introduce an efficient implementation of such networks where the dimensionality is progressively reduced by averaging intermediate layers along attribute indices. Hierarchical networks are tested on CIFAR image data bases where they obtain comparable precisions to state of the art networks, with much fewer parameters. We study some properties of the attributes learned from these databases.

연구 동기 및 목표

• CNN의 불변성과 대칭군을 수학적으로 해석 가능한 구조적 딥 러닝 아키텍처를 개발하기 위해.
• 학습된 특성 색인을 따라 평균화함으로써 점진적으로 차원을 감소시켜 네트워크 복잡성을 줄이기 위해.
• 계층적 특성 공간에서 저수준에서 고수준 표현으로의 딥 페처의 진화 과정을 이해하기 위해.
• 다중 차원 합성곱과 군 이론 원리를 활용하여 딥 네트워크의 불변성을 분석할 수 있는 프레임워크를 제공하기 위해.
• 계층적 특성 학습이 표준 CNN보다 파라미터 수를 줄이며 유사한 성능을 달성할 수 있음을 보여주기 위해.

제안 방법

• 네트워크는 훈련 데이터에서 학습된 점점 더 높은 차원의 특성에 의해 인덱싱되는 계층적 스택으로 구성된다.
• 각 층은 공간적 변수와 특성 변수를 따라 다중 차원 합성곱을 통해 계산되며, 작은 지원을 가진 필터를 사용한다.
• 중간 층의 차원을 특성 색인을 따라 평균화하여 불변성을 계산함으로써 차원을 감소시킨다.
• 비선형성으로는 지수선형단위(ELUs)를 사용하고, 경계 효과를 최소화하기 위해 원형 합성곱을 적용한다.
• 불변성은 특성 색인을 따라 합산하여 명시적으로 계산되며, 이는 학습된 특성가 불변성 유지 변환으로 해석할 수 있도록 한다.
• 구현은 5차원 합성곱과 배치 정규화를 사용하며, 코드는 텐서플로와 케라스를 통해 공개된다.

실험 결과

연구 질문

• RQ1 딥 합성곱 네트워크는 어떻게 구성되어야 학습된 불변성과 대칭군을 수학적으로 투명하게 만들 수 있는가?
• RQ2 계층적 특성 색인 인덱싱은 파라미터 수를 줄이면서도 분류 정확도를 유지하는 데 어떤 역할을 하는가?
• RQ3 다양한 깊이에서의 특성 변환은 저수준과 고수준 이미지 특성과 어떻게 대응되는가?
• RQ4 특성 색인을 따라 이동하는 것은 훈련 데이터에서 의미 있는 이미지 변형을 얼마나 잘 반영하는가?
• RQ5 딥 네트워크에서 학습된 특성 차원을 따라 합산함으로써 불변 표현을 체계적으로 계산할 수 있는가?

주요 결과

• MHCN은 파라미터 수를 크게 줄였음에도 불구하고, CIFAR-10에서 최신 기술 수준의 분류 정확도를 달성한다.
• 얕은 층에서는 특성 이동이 텍스처나 에지 패턴과 같은 세밀한 저수준 이미지 특성과 대응된다.
• 더 깊은 층에서는 특성 이동이 물체 자세나 형태 변화와 같은 대규모 구조적 변화로 점점 더 잘 대응된다.
• 네트워크의 불변성은 특성 색인을 따라 합산하여 계산되며, 이는 학습된 특성과 분류 함수의 대칭군 간의 직접적인 연결 고리를 가능하게 한다.
• 특성 맵의 특성 이동을 통해 이동된 이미지는 특히 깊은 층에서 동일한 클래스에 속할 확률이 높으며, 이는 의미 있는 구조적 불변성을 시사한다.
• 원형 합성곱을 사용할 경우 경계 효과에 대해 강건하며, 표준 합성곱과 거의 동일한 성능을 보인다.