[논문 리뷰] View-tolerant face recognition and Hebbian learning imply mirror-symmetric neural tuning to head orientation

Joel Z. Leibo, Qianli Liao외 3명|arXiv (Cornell University)|2016. 06. 05.

Face Recognition and Perception인용 수 8

한 줄 요약

이 논문은 계층적 신경망에서 생물학적으로 타당한 히브시안 학습 규칙이 중간 층에서 머리 방향성에 대한 거울 대칭 조정을 자연스럽게 생성함을 보여주며, 이는 영양동물 얼굴 처리 신경세포의 핵심 특징인 영역 AL에서 관찰되는 것을 설명한다. 이 메커니즘은 반사군 G = {e, R}에 의해 대칭적인 얼굴 궤도를 학습함으로써 공분산 행렬의 주성분이 짝수 또는 홀수 함수가 되게 하여, 시각에 관계없이 얼굴을 인식할 수 있도록 하는 데 필수적인 거울 대칭 반응을 유도한다.

ABSTRACT

The primate brain contains a hierarchy of visual areas, dubbed the ventral stream, which rapidly computes object representations that are both specific for object identity and relatively robust against identity-preserving transformations like depth-rotations. Current computational models of object recognition, including recent deep learning networks, generate these properties through a hierarchy of alternating selectivity-increasing filtering and tolerance-increasing pooling operations, similar to simple-complex cells operations. While simulations of these models recapitulate the ventral stream's progression from early view-specific to late view-tolerant representations, they fail to generate the most salient property of the intermediate representation for faces found in the brain: mirror-symmetric tuning of the neural population to head orientation. Here we prove that a class of hierarchical architectures and a broad set of biologically plausible learning rules can provide approximate invariance at the top level of the network. While most of the learning rules do not yield mirror-symmetry in the mid-level representations, we characterize a specific biologically-plausible Hebb-type learning rule that is guaranteed to generate mirror-symmetric tuning to faces tuning at intermediate levels of the architecture.

연구 동기 및 목표

• 영양동물 얼굴 처리 네트워크, 특히 영역 AL에서 머리 방향성에 대한 거울 대칭 조정이 어떻게 발생하는지 설명하기 위해.
• 이러한 거울 대칭성을 시각에 관계없이 얼굴을 인식하는 데로 이끄는 필수 중간 단계로 만들어내는 데 필요한 학습 규칙과 아키텍처 조건을 규명하기 위해.
• 특정 학습 규칙이 핵심 신경생리학적 발견을 재현할 수 있음을 보여주며, 계층적 딥 러닝 모델과 생물학적 신경 표현 간의 격차를 메우기 위해.
• 히브시안 학습이 대칭적인 얼굴 궤도 데이터에서 고유함수를 생성함으로써 자연스럽게 홀수 또는 짝수 함수가 되어 거울 대칭 조정이 발생함을 보여주기 위해.

제안 방법

• 시각 특이성에서 시각에 관계없는 표현으로의 전환을 모델링하는 복합 컨볼루션 네트워크 아키텍처를 사용하며, 필터링과 풀링 연산을 번갈아 적용한다.
• 반사군 G = {e, R}에 따라 얼굴 궤도를 형성하는 얼굴 이미지 데이터셋을 대상으로 생물학적으로 타당한 히브시안 학습 규칙(특히 오자 규칙)을 적용하여 네트워크를 훈련시킨다.
• 이 훈련 설정 하에서 공분산 행렬의 주성분(고유함수)이 반사에 대해 짝수 또는 홀수 함수가 되어야 하며, 이는 거울 대칭 반응을 유도함을 수학적으로 증명한다.
• PCA 및 ICA 기반 특징 추출을 통해 이론을 실증적으로 검증하여, PCA(대칭을 유지함)는 거울 대칭 반응을 보이고 ICA는 그렇지 않음을 보여준다.
• 군 공분산 하에서의 가중치 갱신 동역학을 분석하여, 학습 규칙이 반사군에 대해 동치성을 유지함을 증명함으로써 학습된 표현의 대칭성이 보장됨을 보여준다.
• 공분산 행렬 대칭성(공분산 행렬 C(X)가 반사 R과 교환 가능함)의 이론적 분석을 통해 공통 고유함수는 반드시 홀수 또는 짝수여야 하며, 이는 데이터 구조와 신경 조정 간의 직접적인 연결을 보여준다.

실험 결과

연구 질문

• RQ1 왜 영양동물 뇌는 ML과 같은 더 이른 영역에서는 관찰되지 않는 영역 AL에서 머리 방향성에 대한 거울 대칭 조정을 생성하는가?
• RQ2 계층적 신경망에서 어떤 특정 학습 규칙이 거울 대칭 조정을 잠재적 성질로 생성할 수 있는가?
• RQ3 특히 반사에 대해 대칭적인 궤도를 포함하는 훈련 데이터의 구조는 어떻게 거울 대칭 표현의 발생을 가능하게 하는가?
• RQ4 왜 표준 딥 러닝 모델은 시각에 관계없이 얼굴을 인식함에도 불구하고 거울 대칭 조정을 재현하지 못하는가?
• RQ5 생물학적으로 타당한 학습 규칙인 히브시안 학습이 동시에 시각에 관계없는 인식과 거울 대칭성을 생성할 수 있는가?

주요 결과

• 반사 대칭성(G = {e, R})에 따라 궤도를 형성하는 얼굴 이미지에 대해 히브시안 학습 규칙(특히 오자 규칙)을 적용하면 주성분이 자연스럽게 홀수 또는 짝수 함수가 되어 거울 대칭 신경 조정이 발생한다.
• 훈련 데이터의 공분산 행렬은 반사 연산자 R과 교환 가능하므로, 그 고유함수도 R의 고유함수이자 반드시 홀수 또는 짝수 함수여야 한다.
• 이러한 주성분의 대칭성은 영양동물 얼굴 처리 네트워크의 영역 AL에서 실험적으로 관찰된 신경세포의 거울 대칭 조정을 직접 설명한다.
• 실증 결과는 PCA 기반 특징 추출이 거울 대칭을 유지하지만 ICA 기반 추출은 그렇지 않음을 보여주며, 대칭적인 데이터 구조가 대칭 표현을 생성하는 데서의 역할을 확인한다.
• 이론적 분석을 통해 학습 규칙의 가중치 갱신 동역학이 반사군에 대해 동치성을 유지함을 증명하여, 훈련 과정에서 대칭성이 유지됨을 보장한다.
• 이 연구는 대칭적인 데이터 궤도와 히브시안 학습의 조합이, 표준 딥 러닝 모델이 포착하지 못하는 핵심 신경생리학적 특징(거울 대칭 조정)을 설명하는 특정 메커니즘을 규명하였다.