[논문 리뷰] Efficient Visual Coding: From Retina To V2

Honghao Shan, Garrison W. Cottrell|arXiv (Cornell University)|2013. 12. 20.

Neural dynamics and brain function참고 문헌 4인용 수 6

한 줄 요약

이 논문은 망막에서 V2로 이르는 조기 시각 처리를 시뮬레이션하기 위해 희박 주성분 분석(sPCA)과 ICA를 사용한 개선된 계층적 시각 코드화 모델을 제안한다. 기존의 ICA 대신 sPCA를 재귀적 프레임워크(RICA)에 통합함으로써, 망막의 신경 세포, V1의 단순 세포 및 복합 세포, V2 세포와 유사한 생물학적으로 타당한 수용 영역을 학습한다. 이는 신경생리학적 연구를 위한 검증 가능한 예측을 제공한다.

ABSTRACT

The human visual system has a hierarchical structure consisting of layers of processing, such as the retina, V1, V2, etc. Understanding the functional roles of these visual processing layers would help to integrate the psychophysiological and neurophysiological models into a consistent theory of human vision, and would also provide insights to computer vision research. One classical theory of the early visual pathway hypothesizes that it serves to capture the statistical structure of the visual inputs by efficiently coding the visual information in its outputs. Until recently, most computational models following this theory have focused upon explaining the receptive field properties of one or two visual layers. Recent work in deep networks has eliminated this concern, however, there is till the retinal layer to consider. Here we improve on a previously-described hierarchical model Recursive ICA (RICA) [1] which starts with PCA, followed by a layer of sparse coding or ICA, followed by a component-wise nonlinearity derived from considerations of the variable distributions expected by ICA. This process is then repeated. In this work, we improve on this model by using a new version of sparse PCA (sPCA), which results in biologically-plausible receptive fields for both the sPCA and ICA/sparse coding. When applied to natural image patches, our model learns visual features exhibiting the receptive field properties of retinal ganglion cells/lateral geniculate nucleus (LGN) cells, V1 simple cells, V1 complex cells, and V2 cells. Our work provides predictions for experimental neuroscience studies. For example, our result suggests that a previous neurophysiological study improperly discarded some of their recorded neurons; we predict that their discarded neurons capture the shape contour of objects.

연구 동기 및 목표

• 망막에서 V2에 이르는 조기 시각 처리의 생물학적으로 타당한 계층적 모델을 개발하는 것.
• 딥 러닝 기반의 시각 코드화 프레임워크에서 망막 층을 모델링하는 데 있어 여전히 존재하는 격차를 메우는 것.
• 기존의 재귀적 ICA(RICA) 모델을 개선하기 위해 ICA 대신 희박 주성분 분석(sPCA)을 사용하여 더 높은 생물학적 타당성을 확보하는 것.
• 실험 신경과학, 특히 신경생리학적 연구에서의 뉴런 분류에 대한 검증 가능한 예측을 도출하는 것.

제안 방법

• 모델는 주성분 분석(PCA)으로 시작하여, 이어 sPCA를 적용하고, 기대 변수 분포에 기반한 성분별 비선형성을 적용하는 재귀적 아키텍처를 사용한다.
• sPCA는 반복적으로 계층 간에 적용되어 망막 및 피질 세포 유형과 유사한 희박하고 국소화된 수용 영역을 학습한다.
• 모델는 ICA 이론의 통계적 제약 조건을 통합하면서도, sPCA를 활용해 학습된 특징의 생물학적 타당성을 향상시킨다.
• 모델는 자연 이미지 패치를 학습하여 시각 입력의 통계적 구조를 시뮬레이션한다.
• 수용 영역의 형태와 조율 특성은 망막, V1, V2의 기존 신경생리학적 데이터와 분석 및 비교된다.
• 이 프레임워크는 이전에 기각된 뉴런들이 윤곽 감지 세포일 수 있으며, 이는 그들의 기능적 역할을 재평가할 필요가 있음을 예측한다.

실험 결과

연구 질문

• RQ1 계층적 시각 코드화 모델은 어떻게 조기 시각 처리의 여러 단계에서 수용 영역 특성을 정확히 시뮬레이션할 수 있는가?
• RQ2 기존의 ICA에 비해 희박 주성분 분석(sPCA)이 조기 시각 모델에서 더 생물학적으로 타당한 수용 영역을 생성할 수 있는가?
• RQ3 sPCA를 재귀적 ICA(RICA)에 통합할 경우 망막 및 V2 세포 반응을 모델링하는 데 어떤 의미가 있는가?
• RQ4 왜 일부 신경생리학적 뉴런들이 이전 연구에서 잘못 폐기되었을 수 있으며, 그들이 대체로 어떤 특징을 인코딩할 가능성이 있는가?
• RQ5 학습된 특징은 망막, V1, V2 세포의 알려진 해부학적 및 생리학적 특성과 어떻게 비교되는가?

주요 결과

• 모델는 망막의 간상 세포와 측부 위상핵(LGN) 세포의 특성과 일치하는 수용 영역을 성공적으로 학습하였다.
• V1 단순 세포의 수용 영역은 방향 선택성과 공간 주파수 조율 특성을 보이며, 신경생리학적 데이터와 일치한다.
• V1 복합 세포 유사 반응은 단순 세포 특징의 풀링을 통해 생성되며, 알려진 피질 처리 과정을 반영한다.
• 모델는 더 크고 겹치지 않으며 윤곽 감지 성질을 지닌 V2 유사 수용 영역을 생성한다.
• 본 연구는 이전에 기각된 뉴런들이 객체 윤곽을 인코딩할 가능성이 높으며, 이는 그들의 기능적 역할을 재평가할 필요가 있음을 예측한다.
• sPCA 기반 모델은 모든 시각 처리 단계에서 표준 ICA보다 생물학적으로 타당한 수용 영역을 더 잘 생성한다.