[논문 리뷰] Ordinal Pooling Networks: For Preserving Information over Shrinking Feature Maps

Ashwani Kumar|arXiv (Cornell University)|2018. 04. 08.

Advanced Neural Network Applications참고 문헌 19인용 수 7

한 줄 요약

이 논문은 최대 풀링에서 발생하는 정보 손실을 줄이기 위해 풀링 영역 내 요소들을 순서 기반으로 정렬하고 가중치를 할당함으로써 더 많은 특징 정보를 유지하는 학습 가능한 풀링 메커니즘인 순서 풀링 네트워크(OPN)를 제안한다. 실험 결과, OPN은 최대 풀링 대비 이미지 분류 정확도를 향상시키며, 더 깊은 네트워크에서는 다운샘플링 과정에서의 정보 손실 감소로 인해 성능 향상이 더욱 커질 것으로 기대된다.

ABSTRACT

In the framework of convolutional neural networks that lie at the heart of deep learning, downsampling is often performed with a max-pooling operation that only retains the element with maximum activation, while completely discarding the information contained in other elements in a pooling region. To address this issue, a novel pooling scheme, Ordinal Pooling Network (OPN), is introduced in this work. OPN rearranges all the elements of a pooling region in a sequence and assigns different weights to these elements based upon their orders in the sequence, where the weights are learned via the gradient-based optimisation. The results of our small-scale experiments on image classification task demonstrate that this scheme leads to a consistent improvement in the accuracy over max-pooling operation. This improvement is expected to increase in deeper networks, where several layers of pooling become necessary.

연구 동기 및 목표

• 최대 풀링에서 발생하는 본질적인 정보 손실 문제를 해결하기 위해, 풀링 영역 내에서 최고 활성화값 이외의 모든 값을 버리는 방식을 개선한다.
• 특징 맵의 다운샘플링 과정에서 더 많은 공간적 정보와 활성화 수준의 정보를 유지하는 풀링 메커니즘을 개발한다.
• 풀링 윈도우 내 활성화의 상대적 순서에 기반해 학습 가능한 가중치를 할당하는 기울기 최적화 가능한, 미분 가능한 풀링 전략을 도입한다.
• 제안된 방법의 효과성을 이미지 분류 작업에서 평가하고, 더 깊은 네트워크로의 확장성도 입증한다.

제안 방법

• 풀링 영역 내 모든 요소를 그 활성화 값에 따라 정렬된 순서로 재배열한다.
• 정렬된 순서의 각 위치에 대해 학습 가능한 가중치를 할당하며, 이 가중치는 해당 요소가 순서에서 차지하는 순위에 대응한다.
• 이러한 학습 가능한 순서 가중치를 사용하여 정렬된 활성화값의 가중합을 계산함으로써 풀링 연산을 수행한다.
• 학습 중에 백프로파게이션을 통해 전체 네트워크에서 엔드 투 엔드로 가중치를 최적화한다.
• 기존의 표준 컨volution 네트워크 아키텍처에 적용되며, 최대 풀링 레이어를 OPN 레이어로 대체한다.
• 이 방법은 기존의 컨volution 네트워크 프레임워크와 호환되며, 표준 최적화 기법으로 학습이 가능하도록 설계되어 있다.

실험 결과

연구 질문

• RQ1 최대 활성화값 이외의 정보를 유지하는 풀링 메커니즘이 딥 컨볼루션 네트워크에서 분류 정확도 향상에 기여할 수 있는가?
• RQ2 특징 맵 요소들에 대해 순서 기반 가중치를 학습하는 방식이 고정된 최대 풀링 대비 더 나은 표현 학습을 이끌 수 있는가?
• RQ3 OPN의 성능은 표준 이미지 분류 벤치마크에서 최대 풀링 대비 어떻게 비교되는가?
• RQ4 다양한 풀링 레이어를 거치며 누적된 정보 보존 효과로 인해 네트워크 깊이가 증가할수록 OPN의 이점이 커지는가?

주요 결과

• 소규모 이미지 분류 실험에서 OPN은 최대 풀링 대비 일관된 정확도 향상을 달성한다.
• 제안된 방법은 상대적 활성화 순서와 크기를 유지함으로써 다운샘플링 과정에서의 정보 손실를 감소시킨다.
• 더 깊은 네트워크에서는 다운샘플링 과정에서 유발되는 정보 손실 감소의 누적 효과로 인해 정확도 향상이 더욱 커질 것으로 기대된다.
• 학습된 순서 가중치는 요소의 순위에 따라 적응적으로 정보가 풍부한 특징을 강조함으로써 더 견고한 특징 표현을 가능하게 한다.