[논문 리뷰] A HMAX with LLC for visual recognition

Kean Hong Lau, Yong Haur Tay외 1명|arXiv (Cornell University)|2015. 02. 10.

Advanced Image and Video Retrieval Techniques참고 문헌 24인용 수 13

한 줄 요약

이 논문은 첫 번째 레이어에서 PCA를 대체하기 위해 단순한 방향성 필터 베이스를 재도입하고, L1 최소화 희소 코딩 대신 국소 제약 선형 코딩(LLC)을 도입함으로써 시각 인식을 위한 개선된 HMAX 아키텍처를 제안한다. 이 방법은 전이 학습 없이 Caltech-101에서 79.0%의 정확도를 달성하며, 부분 신호 화이트닝, 스팟 검출기, 공간 피라미드 매칭(SPM)을 통해 이전의 HMAX 변종들을 능가한다.

ABSTRACT

Today's high performance deep artificial neural networks (ANNs) rely heavily on parameter optimization, which is sequential in nature and even with a powerful GPU, would have taken weeks to train them up for solving challenging tasks [22]. HMAX [17] has demonstrated that a simple high performing network could be obtained without heavy optimization. In this paper, we had improved on the existing best HMAX neural network [12] in terms of structural simplicity and performance. Our design replaces the L1 minimization sparse coding (SC) with a locality-constrained linear coding (LLC) [20] which has a lower computational demand. We also put the simple orientation filter bank back into the front layer of the network replacing PCA. Our system's performance has improved over the existing architecture and reached 79.0% on the challenging Caltech-101 [7] dataset, which is state-of-the-art for ANNs (without transfer learning). From our empirical data, the main contributors to our system's performance include an introduction of partial signal whitening, a spot detector, and a spatial pyramid matching (SPM) [14] layer.

연구 동기 및 목표

• 구조적 단순성을 유지하면서 HMAX 아키텍처의 시각 인식 성능을 향상시키기 위해.
• L1 최소화 희소 코딩을 국소 제약 선형 코딩(LLC)으로 대체함으로써 계산 비용을 감소시키기 위해.
• 더 나은 특징 표현을 위해 첫 번째 레이어에서 단순한 방향성 필터 베이스를 복원하고 PCA를 대체하기 위해.
• 전이 학습 없이 Caltech-101에서 최신 기술 수준의 성능을 달성하기 위해.
• 부분 신호 화이트닝, 스팟 검출기, 공간 피라미드 매칭이 인식 정확도에 미치는 영향을 조사하기 위해.

제안 방법

• L1 최소화 희소 코딩을 대체하여 계산 부담을 줄이고도 분류 성능를 유지하는 국소 제약 선형 코딩(LLC)을 도입한다.
• 첫 번째 레이어에서 PCA를 대체하기 위해 단순한 방향성 필터 베이스를 재도입하여 국소 텍스처 및 에지 정보를 더 잘 포착한다.
• 특징 응답을 정규화하고 입력 변동에 대한 내성을 향상시키기 위해 부분 신호 화이트닝을 적용한다.
• 주목할 만한 이미지 영역에 더 잘 반응하고 국소 특징 검출을 향상시키기 위해 스팟 검출기를 도입한다.
• 다양한 공간 척도에서 특징을 집계함으로써 분류 능력을 향상시키기 위해 공간 피라미드 매칭(SPM) 레이어를 통합한다.
• 공간 위치와 특징 맵 간의 최대 풀링을 통해 불변 표현을 구축하는 HMAX를 모티프로 하는 계층적 아키텍처를 사용한다.

실험 결과

연구 질문

• RQ1 LLC가 HMAX에서 L1 최소화 희소 코딩을 대체함으로써 계산 비용을 줄이면서도 성능을 유지하거나 향상시킬 수 있는가?
• RQ2 첫 번째 레이어에서 방향성 필터 베이스를 PCA와 비교해 재도입할 경우 시각 인식 작업에서 어떤 성능 차이를 보이는가?
• RQ3 부분 신호 화이트닝이 HMAX 아키텍처 내에서 전체 인식 정확도에 기여하는 정도는 어떠한가?
• RQ4 스팟 검출기와 공간 피라미드 매칭(SPM)의 통합이 Caltech-101에서의 성능 향상에 어느 정도 기여하는가?
• RQ5 딥러닝이 아니며 최적화되지 않은 신경망 아키텍처가 전이 학습 없이도 Caltech-101에서 최신 기술 수준의 성능을 달성할 수 있는가?

주요 결과

• 제안된 HMAX와 LLC는 전이 학습 없이 Caltech-101 데이터셋에서 상위 1위 정확도 79.0%를 달성하여, 전이 학습 없이도 ANN 분야에서 최신 기술 수준의 결과를 기록한다.
• LLC를 사용함으로써 L1 최소화 희소 코딩 대비 계산 비용을 감소시키면서도 경쟁적인 특징 표현을 유지한다.
• 첫 번째 레이어에서 방향성 필터 베이스를 재도입함으로써 PCA 기반 전처리 대비 특징 추출 성능이 크게 향상된다.
• 부분 신호 화이트닝은 특징 응답을 정규화함으로써 정확도 향상과 내성 향상에 기여한다.
• 스팟 검출기는 특히 주목할 만한 이미지 구조에 대해 국소 특징 검출을 향상시킨다.
• 공간 피라미드 매칭(SPM)은 다중 척도 특징을 집계함으로써 성능 향상에 크게 기여하며, HMAX 아키텍처 내에서의 효과성을 입증한다.