[논문 리뷰] Basic Level Categorization Facilitates Visual Object Recognition

Panqu Wang, Garrison W. Cottrell|arXiv (Cornell University)|2015. 11. 12.

Face Recognition and Perception참고 문헌 49인용 수 8

한 줄 요약

이 논문은 인간 시각 발달을 영감으로 삼아, 먼저 기본 수준의 물체 카테고리(예: '개', '자동차')에서 사전 훈련한 후 하위 수준 작업(예: 특정 품종)으로 미세 조정하는 두 단계 훈련 전략을 제안한다. 뇌가 가정하는 기본 수준 처리에서 유래한 상향식 유도 기제를 활용함으로써 일반화 능력과 성능이 향상되며, ImageNet ILSVRC 2012에서 상위 5개 정확도가 80.13%에서 82.14%로 상승하고, 더 작은 데이터셋에서 우수한 전이 학습 성능을 달성한다.

ABSTRACT

Recent advances in deep learning have led to significant progress in the computer vision field, especially for visual object recognition tasks. The features useful for object classification are learned by feed-forward deep convolutional neural networks (CNNs) automatically, and they are shown to be able to predict and decode neural representations in the ventral visual pathway of humans and monkeys. However, despite the huge amount of work on optimizing CNNs, there has not been much research focused on linking CNNs with guiding principles from the human visual cortex. In this work, we propose a network optimization strategy inspired by both of the developmental trajectory of children's visual object recognition capabilities, and Bar (2003), who hypothesized that basic level information is carried in the fast magnocellular pathway through the prefrontal cortex (PFC) and then projected back to inferior temporal cortex (IT), where subordinate level categorization is achieved. We instantiate this idea by training a deep CNN to perform basic level object categorization first, and then train it on subordinate level categorization. We apply this idea to training AlexNet (Krizhevsky et al., 2012) on the ILSVRC 2012 dataset and show that the top-5 accuracy increases from 80.13% to 82.14%, demonstrating the effectiveness of the method. We also show that subsequent transfer learning on smaller datasets gives superior results.

연구 동기 및 목표

• 기본 수준의 물체 카테고리에서 사전 훈련하는 것이 시각 물체 인식을 위한 딥 컨volution 신경망(DCNN)의 성능을 향상시키는지 조사하는 것.
• 전측prefrontal cortex(PFC)에서 보조성 피각(IT)으로의 빠른 미각세포 경로를 통해 가정된 뇌의 상향식 유도 기제를 모델링하는 것.
• 어린이의 물체 분류 발달 궤적을 바탕으로 더 나은 딥 러닝 훈련 전략을 도출할 수 있는지 탐색하는 것.
• 하위 수준 분류를 위한 후속 학습에 대한 정규화 유도 편향으로서 기본 수준 사전 훈련의 효과를 평가하는 것.
• 이 두 단계 훈련 전략을 사용하여 더 작은 데이터셋에서 전이 학습 성능을 향상시킬 수 있음을 보여주는 것.

제안 방법

• 저자들은 ImageNet의 계층적 구조인 싱세트 트리 구조를 활용해 기본 수준 카테고리를 추출하여, '개', '자동차', '과일' 등 넓은 물체 유형을 대표하는 308개의 카테고리를 선정한다.
• 딥 컨volution 신경망(AlexNet)을 ImageNet 데이터셋을 사용해 이 308개의 기본 수준 카테고리에서 먼저 훈련시킨다.
• 사전 훈련 후 동일한 네트워크를 전체 1000개의 하위 수준 분류 작업인 ILSVRC 2012에 대해 미세 조정한다.
• 이 방법은 기본 수준 표현이 하위 수준 학습 동안 더 나은 일반화를 이끌어내기 위한 초기 '추측' 또는 사전 지식으로 기능한다는 아이디어를 활용한다.
• 이 방법은 ImageNet의 상위 5개 정확도와 Caltech 데이터셋에서의 전이 학습 성능을 통해 평가된다.
• 이 연구는 표준 훈련 및 다른 사전 훈련 기반 전략과의 비교를 통해 기본 수준 사전 훈련의 영향을 분리하여 평가한다.

실험 결과

연구 질문

• RQ1 기본 수준의 물체 카테고리에서 사전 훈련하면 하위 수준 이미지 분류 작업에 대한 딥 CNN의 성능이 향상되는가?
• RQ2 기본 수준 인식이 하위 수준 이전에 나타나는 인간의 물체 분류 발달 궤적은 더 나은 딥 러닝 훈련 전략을 도출하는 데 기여하는가?
• RQ3 PFC와 미각세포 경로를 포함한 Bar(2003)의 상향식 유도 기제가 딥 네트워크에 모델링되었을 때 실제로 유익한가?
• RQ4 기본 수준 사전 훈련은 더 작은 하류 데이터셋에서의 전이 학습 성능을 향상시키는가?
• RQ5 성능 향상은 사전 훈련 자체 때문이 아니라, 전체 작업에서의 지속적인 훈련이 필요한가?

주요 결과

• 308개의 기본 수준 카테고리에서 사전 훈련한 후 ILSVRC 2012의 1000개 하위 수준 분류 작업으로의 미세 조정을 거친 두 단계 훈련 전략은 상위 5개 정확도를 80.13%에서 82.14%로 상승시켰다.
• 전체 작업으로의 후속 미세 조정 없이 기본 수준 카테고리에서만 사전 훈련한 경우 성능 향상은 관찰되지 않았으며, 이는 목표 작업에서의 지속적 학습이 필수적임을 시사한다.
• 기본 수준 사전 훈련을 거친 네트워크는 표준 훈련 기반선 대비 Caltech 데이터셋에서 더 뛰어난 전이 학습 성능을 보였으며, 일반화 능력 향상을 입증했다.
• 결과는 기본 수준 사전 훈련이 하위 수준 작업을 위한 최적화 경로 수렴을 개선하는 정규화 유도 편향으로 작용한다는 것을 시사한다.
• 성능 향상은 기본 수준 표현에서 유용한 사전 지식을 학습하여 더 구체적인 특징 학습을 이끌어내는 데 기인한다.
• 저자들에 따르면, 이 연구는 발달 및 신경생물학적 원리를 기반으로 하여 딥 CNN에서 기본 수준 유도 효과를 모델링한 최초의 연구이다.