[논문 리뷰] Brain-Like Object Recognition with High-Performing Shallow Recurrent ANNs

Jonas Kubilius, Martin Schrimpf외 12명|Lirias (KU Leuven)|2019. 09. 13.

Domain Adaptation and Few-Shot Learning인용 수 108

한 줄 요약

CORnet-S는 네 영역으로 구성된 순환 인공신경망으로 최고 Brain-Score를 달성하면서도 강한 ImageNet 성능을 유지하며, 순환이 뇌 유사성의 핵심임을 강조한다.

ABSTRACT

Deep convolutional artificial neural networks (ANNs) are the leading class of candidate models of the mechanisms of visual processing in the primate ventral stream. While initially inspired by brain anatomy, over the past years, these ANNs have evolved from a simple eight-layer architecture in AlexNet to extremely deep and branching architectures, demonstrating increasingly better object categorization performance, yet bringing into question how brain-like they still are. In particular, typical deep models from the machine learning community are often hard to map onto the brain's anatomy due to their vast number of layers and missing biologically-important connections, such as recurrence. Here we demonstrate that better anatomical alignment to the brain and high performance on machine learning as well as neuroscience measures do not have to be in contradiction. We developed CORnet-S, a shallow ANN with four anatomically mapped areas and recurrent connectivity, guided by Brain-Score, a new large-scale composite of neural and behavioral benchmarks for quantifying the functional fidelity of models of the primate ventral visual stream. Despite being significantly shallower than most models, CORnet-S is the top model on Brain-Score and outperforms similarly compact models on ImageNet. Moreover, our extensive analyses of CORnet-S circuitry variants reveal that recurrence is the main predictive factor of both Brain-Score and ImageNet top-1 performance. Finally, we report that the temporal evolution of the CORnet-S "IT" neural population resembles the actual monkey IT population dynamics. Taken together, these results establish CORnet-S, a compact, recurrent ANN, as the current best model of the primate ventral visual stream.

연구 동기 및 목표

• 복합적이지 않고 두뇌에 맞춘 간결한 아키텍처를 복측 시각 스트림 모델링을 위한 동기 부여.
• 해부학적으로 네 영역이 매핑되고 순환을 포함한 CORnet-S를 개발하여 두뇌 유사성을 향상시킨다.
• Brain-Score 및 행동 벤치마크를 사용해 CORnet-S를 다른 모델과 정량적으로 비교한다.

제안 방법

• V1, V2, V4, IT에 매핑된 네 영역으로 CORnet-S 설계.
• 영역 내 순환 도입, 각 영역별 특정 반복 횟수 지정.
• 모멘텀을 갖춘 SGD를 사용하여 ImageNet에서 학습; 배치 크기 256; 에폭 43.
• 신경 데이터와 행동 데이터를 결합한 합성 벤치마크로 Brain-Score를 사용.
• 신경 예측성, 행동 예측성, 객체 해결 시간(OST)을 평가.
• AlexNet, VGG, ResNet, Inception, NASNet, BaseNets 등 다양한 아키텍처와 비교.

실험 결과

연구 질문

• RQ1 얕고 해부학적으로 정렬된 순환 신경망이 더 깊은 모델과 비교했을 때 뇌 유사 벤치마크에서 어떤 성능을 보이나?
• RQ2 어떤 아키텍처 요소(순환, 병목 폭, 스킵 연결)가 Brain-Score와 ImageNet 성능에 가장 영향을 미치는가?
• RQ3 CORnet-S가 영장류 IT에서 관찰되는 시간적 IT 동역학과 객체 해결 시간(OST)을 포착할 수 있는가?
• RQ4 Brain-Score 측치가 새로운 신경/행동 데이터 세트와 전이 작업에 대해 얼마나 일반화되는가?

주요 결과

• CORnet-S는 테스트된 모델 중 가장 높은 Brain-Score를 달성하고 유사하게 컴팩트한 모델들보다 ImageNet에서 우수한 성능을 보인다.
• 순환이 Brain-Score와 ImageNet top-1 성능의 주요 예측 인자이다.
• CORnet-S는 시간적 IT 다이내믹스를 포착하여 원숭이 IT의 객체 해결 시간과 상관 관계를 보이며, 순전방만 모델과 달리.
• 깊이가 15인 가장 얕은 모델 중에서도 ImageNet 성능이 강하게 유지되며(73.1% top-1).
• Brain-Score는 새로운 피험자, 새로운 이미지 세트 및 CIFAR-100 전이 테스트에 일반화되며, 얕은 모델 중에서 CORnet-S가 앞서 있다.