[논문 리뷰] Assembly projections support the assignment of thematic roles to concepts in networks of spiking neurons

Robert Legenstein, Michael G. Müller외 3명|arXiv (Cornell University)|2016. 11. 11.

Neural dynamics and brain function참고 문헌 32인용 수 3

한 줄 요약

이 논문은 스파iking 신경망 모델을 제안하며, 어셈블리 프로젝션을 통해 개념에 주제 역할(예: 주어, 목적어)을 할당함으로써 라우팅이 없는 구조적 정보 검색과 복사 기능을 가능하게 한다. 이 모델은 신경 어셈블리가 개념적 역할과 일치하도록 정렬되어 있어, 스파이킹 네트워크에서 추상적 추론의 증명 가능성을 보여주며, 시간 피질의 조직 방식과 일치하는 fMRI 데이터를 반영한다.

ABSTRACT

Currently existing neural network models lack an important computational capability of networks of neurons in the brain: the capability to reason on an abstract level, and to structure information according to abstract categories. While hardly anything is known about the processes underlying these capabilities in the human brain, experimental evidence for the organization of an important prerequisite for abstract reasoning has recently been found: for assigning words to thematic roles, such as subject or object. Such data from fMRI recordings indicate that assemblies in subregions of temporal cortex which encode thematic roles are shaped by concepts that are assigned to that role. We propose a model for the assignment of thematic content to variables that is consistent with these data and provides new functions to neural network computations. We provide a proof of principle that this model can be implemented even in networks of spiking neurons. It enables structured information retrieval and copying of information without routing, and provides a basis for the emulation of more demanding cognitive computations in networks of spiking neurons.

연구 동기 및 목표

• 기존 신경망 모델에서의 추상적 추론 능력 부족 문제를 해결하기 위해.
• fMRI 데이터에 기반하여 인간의 시간 피질에서 역할별로 특화된 어셈블리가 관찰된 바에 따라, 뇌에서 주제 역할(예: 주어, 목적어)이 개념에 어떻게 할당되는지 모델링하기 위해.
• 스파이킹 신경망에서 구조적 정보 검색과 복사 기능을 위한 메커니즘을 개발하기 위해.
• 이 메커니즘이 스파이킹 뉴런 네트워크에서 어떻게 실현될 수 있는지 보여주어 고차원 인지 계산을 뒷받침할 수 있도록 하기 위해.

제안 방법

• 시간 피질의 하위 영역에서 분산된 어셈블리를 사용하여 주제 역할을 표현하며, 각 어셈블리는 해당 역할에 할당된 개념에 의해 형성된다.
• 어셈블리 프로젝션을 통해 개념 표현과 주제 역할 표현을 연결함으로써, 개념에 대한 역할의 동적 할당이 가능해진다.
• 스파크 기반 통신과 시간 코드를 사용하여, 명시적 라우팅 메커니즘 없이도 구조적 정보 검색과 복사를 지원한다.
• 인간 뇌에서 역할별로 특화된 신경 어셈블리가 관찰된 실험적 fMRI 데이터에 기반한다.
• 스파이킹 네트워크의 동역학 내에 개념적 역할을 통합함으로써, 추상적 추론의 증명 가능성을 실현한다.

실험 결과

연구 질문

• RQ1 어떻게 하면 신경망에서 추상적 추론을 지원하는 방식으로 주제 역할을 개념에 할당할 수 있는가?
• RQ2 스파이킹 신경망에서 어셈블리 프로젝션을 통해 라우팅 없이도 구조적 정보 검색과 복사를 구현할 수 있는가?
• RQ3 시간 피질의 신경 어셈블리는 어떻게 주제 역할이 개념에 할당되는 데 기여하는가? (fMRI 데이터에서 관찰된 바에 기반하여)
• RQ4 생물학적으로 타당한 메커니즘을 사용하여 스파이킹 뉴런 네트워크에서 추상적 추론 기능을 어떻게 실현할 수 있는가?

주요 결과

• 모델은 스파이킹 신경망에서 어셈블리 프로젝션을 사용하여 개념에 주제 역할을 성공적으로 할당한다.
• 이 메커니즘은 명시적 라우팅 경로가 필요 없이도 구조적 정보 검색과 복사 기능을 가능하게 한다.
• 모델는 주제 역할 어셈블리가 해당 역할에 할당된 개념에 의해 형성된다는 fMRI 증거와 일치한다.
• 추상적 추론 능력이 이 메커니즘을 통해 스파이킹 신경망에서 유추될 수 있음을 보여주는 증명 가능성이 입증되었다.