[논문 리뷰] A model of cortical cognitive function using hierarchical interactions of gating matrices in internal agents coding relational representations

Michael E. Hasselmo|arXiv (Cornell University)|2018. 09. 21.

Neural dynamics and brain function참고 문헌 68인용 수 3

한 줄 요약

이 논문은 내부 에이전트 내에서 계층적 게이팅 행렬을 사용하여 감각 입력 내의 관계적 구조를 탐지하고 예측하는 신경망 모델을 제안한다. 동적 관계와 애핀 변환을 모델링함으로써, 이 프레임워크는 시계열을 성공적으로 예측하고 레이븐의 진행성 매트릭스와 같은 추상적 추론 과제를 해결하여, neocortex에서의 유연하고 예측 가능한 인지 기능을 생물학적으로 타당한 메커니즘으로 구현함을 보여준다.

ABSTRACT

Flexible cognition requires the ability to rapidly detect systematic functions of variables and guide future behavior based on predictions. The model described here proposes a potential framework for patterns of neural activity to detect systematic functions and relations between components of sensory input and apply them in a predictive manner. This model includes multiple internal gating agents that operate within the state space of neural activity, in analogy to external agents behaving in the external environment. The multiple internal gating agents represent patterns of neural activity that detect and gate patterns of matrix connectivity representing the relations between different neural populations. The patterns of gating matrix connectivity represent functions that can be used to predict future components of a series of sensory inputs or the relationship between different features of a static sensory stimulus. The model is applied to the prediction of dynamical trajectories, the internal relationship between features of different sensory stimuli and to the prediction of affine transformations that could be useful for solving cognitive tasks such as the Ravens progressive matrices task.

연구 동기 및 목표

• 신경생물학적으로 타당한 프레임워크를 개발하여 neocortex에서의 유연하고 예측 가능한 인지를 가능하게 한다.
• 신경 회로가 감각 특징과 시간적 순서 사이의 체계적인 관계를 어떻게 탐지하고 표현할 수 있는지 설명한다.
• 내부 인지 과정을 연결성 패턴을 제어하는 게이팅 에이전트 간의 동적 상호작용으로 모델링한다.
• 이 모델을 시계열 예측 및 추상적 추론 문제에서의 변환 추론과 같은 예측 과제에 적용한다.
• 계층적 게이팅이 관계 표현을 통해 인간의 문제 해결에서 관찰되는 고차원 인지 기능을 지원할 수 있는지 보여준다.

제안 방법

• 모델는 신경 집단을 나타내는 내부 에이전트를 사용하며, 이들이 상호 간의 연결성을 제어하는 게이팅 행렬을 활용한다.
• 게이팅 행렬은 신경 집단 간의 기능적 관계를 표현하기 위해 동적으로 조정되며, 향후 상태의 예측을 가능하게 한다.
• 상태 표현을 위해 열 벡터를 사용하고, 계층적 상호작용을 모델링하기 위해 행렬 연산을 활용한다.
• 감각 입력 간의 관계는 맥락적 및 예측 신호에 기반한 게이팅을 거친 연결 패턴으로 표현된다.
• 모델는 시간적 순서와 정적 자극 관계 양쪽 모두에 적용 가능하며, 애핀 변환을 포함한다.
• 예측 성능 평가에 시계열 연속성 및 레이븐의 진행성 매트릭스 해결과 같은 과제가 사용된다.

실험 결과

연구 질문

• RQ1 신경 회로는 감각 입력의 구성 요소 사이의 체계적인 관계를 어떻게 탐지하고 표현할 수 있는가?
• RQ2 뇌는 현재의 감각 입력과 관계적 구조를 바탕으로 향후 상태를 예측하기 위해 어떤 메커니즘을 사용하는가?
• RQ3 게이팅 행렬의 계층적 상호작용은 어떻게 다유연하고 맥락에 따라 달라지는 인지 처리를 지원하는가?
• RQ4 생물학적으로 타당한 신경 모델이 레이븐의 진행성 매트릭스와 같은 추상적 추론 과제를 해결할 수 있는가?
• RQ5 동적 게이팅 메커니즘은 관계적 구조의 변환을 어떻게 예측할 수 있는가?

주요 결과

• 계층적 게이팅을 통한 관계 표현의 조절을 통해 모델은 순차적 감각 입력의 동적 궤적을 성공적으로 예측한다.
• 학습된 연결 패턴을 통해 정적 감각 자극의 특징 간 내부 관계를 정확히 모델링한다.
• 이 프레임워크는 애핀 변환을 추론하고 적용할 수 있으며, 이는 레이븐의 진행성 매트릭스와 같은 추상적 추론 문제 해결에 필수적이다.
• 열 벡터와 간소화된 표기법의 사용은 신경 상태 전이 모델링의 명확성과 일관성을 향상시킨다.
• 내부 게이팅 에이전트가 생물학적으로 타당한 메커니즘을 사용하여 예측 및 관계 추론과 같은 인지 기능을 시뮬레이션할 수 있음을 보여준다.
• 개선된 버전(v2)은 수학적 명확성을 향상시키고 문체적 오류를 수정했지만 핵심 결과에는 영향을 주지 않았다.