[논문 리뷰] Space is a latent sequence: Structured sequence learning as a unified theory of representation in the hippocampus

Rajkumar Vasudeva Raju, J. Swaroop Guntupalli외 3명|arXiv (Cornell University)|2022. 12. 03.

Memory and Neural Mechanisms인용 수 7

한 줄 요약

이 논문은 해마가 구조적 순서 학습을 통해 공간적 및 개념적 표현을 생성한다고 제안하며, 공간을 기하학적 지도가 아니라 잠재적 순서로 간주한다. 클론-구조적 원인 그래프(CSCG)를 사용하여, 유클리드 가정 없이 자기 중심 센서 입력에서 잠재 표현을 학습한다. 이는 장소 세포, 랜드마크 벡터 세포, 사건 특이적 코딩 등 다양한 해마 현상을 통합된 고차원 순서적 맥락 학습 메커니즘으로 설명한다.

ABSTRACT

Fascinating and puzzling phenomena, such as landmark vector cells, splitter cells, and event-specific representations to name a few, are regularly discovered in the hippocampus. Without a unifying principle that can explain these divergent observations, each experiment seemingly discovers a new anomaly or coding type. Here, we provide a unifying principle that the mental representation of space is an emergent property of latent higher-order sequence learning. Treating space as a sequence resolves myriad phenomena, and suggests that the place-field mapping methodology where sequential neuron responses are interpreted in spatial and Euclidean terms might itself be a source of anomalies. Our model, called Clone-structured Causal Graph (CSCG), uses a specific higher-order graph scaffolding to learn latent representations by mapping sensory inputs to unique contexts. Learning to compress sequential and episodic experiences using CSCGs result in the emergence of cognitive maps - mental representations of spatial and conceptual relationships in an environment that are suited for planning, introspection, consolidation, and abstraction. We demonstrate that over a dozen different hippocampal phenomena, ranging from those reported in classic experiments to the most recent ones, are succinctly and mechanistically explained by our model.

연구 동기 및 목표

• 장기간에 걸쳐 서로 관련이 없는 것처럼 보이는 다양한 해마 세포 유형(예: 장소 세포, 스플리터 세포, 시간 세포)을 설명하는 통합된 계산 원리를 규명하기 위해.
• 장소 영역을 직접적인 공간 지도로 간주하는 전통적 해석을 도전하며, 대신 그것이 순서적 맥락 학습에서 유도된다는 주장을 펼치기 위해.
• 유클리드 기하학에 대한 사전 지식 없이도 자기 중심 센서-운동 순서로부터 공간적 및 관계적 표현이 어떻게 유도될 수 있는지 보여주기 위해.
• 단일 프레임워크로 10여 가지가 넘는 해마 현상을 설명할 수 있는 기계적이고 계산적으로 탄탄한 모델을 제공하기 위해.

제안 방법

• 모델는 클론-구조적 원인 그래프(CSCG)를 사용한다. 이는 같은 관찰을 서로 다른 순서적 맥락에서 표현하기 위해 잠재 상태(클론)를 학습하는 고차원 그래픽 모델이다.
• 각 클론은 관찰과 순서적 맥락의 유일한 조합에 대응하며, 시간 역동성에 따라 표현을 분할하거나 통합할 수 있다.
• 순서적 체인 구조에서 정확한 추론을 위해 신뢰도 전파를 사용하며, 전이 행렬과 방출 확률을 이용해 클론 활성화의 주변 후행 확률을 계산한다.
• 핵심 식은 클론 활성화를 계산하는 것으로, $ r_i(n) = P(z_n = i | x_1,\text{...},x_n, a_1,\text{...},a_{n-1}) $이며, 정규화는 $ r(n) = \bar{r}(n) / \sum_i \bar{r}_i(n) $를 통해 이루어진다. 여기서 $ \bar{r}(n) = \mathbf{T}(a_{n-1})^\top r(n-1) \circ (E\tilde{x}_n) $이다.
• 모델는 행동 시퀀스와 이산화된 관찰(벡터 양자화를 통해)을 학습하여, 환경의 진짜 구조를 반영하는 잠재 그래프 구조를 학습한다.
• 장소 영역은 다수의 무작위 보행 동안 클론 활성화를 평균하여 계산되며, 실제 에이전트 위치를 사용해 클론 활성도를 공간 위치에 매핑한다.

실험 결과

연구 질문

• RQ1 장소 세포, 랜드마크 벡터 세포, 스플리터 세포와 같은 다양한 해마 세포 유형의 기원을 한 가지 계산 메커니즘으로 설명할 수 있는가?
• RQ2 장소 영역을 공간 지도로 간주하는 전통적 해석이 해마 표현의 진정한 순서적 본질을 얼마나 가리고 있는가?
• RQ3 유클리드 기하학을 가정하지 않고도 자기 중심 센서-운동 순서로부터 할로센트릭 공간 표현이 어떻게 유도될 수 있는가?
• RQ4 환경 변화에 대한 반응으로 장소 영역이 어떻게 재구성되는가? 이는 순서 기반 학습에서 어떻게 유도되는가?
• RQ5 통합 모델이 공간적 현상 외에도 사건 특이적 코딩과 관계 추론과 같은 비공간적 해마 현상을 모두 설명할 수 있는가?

주요 결과

• CSCG 모델은 할로센트릭 및 자기 중심 설정 모두에서 7×7 격자 환경의 정확한 위상적 구조를 학습했으며, 각각 9개와 117개의 고유한 관찰을 기록했다.
• 자기 중심 설정에서는 각 공간 위치가 네 개의 클론으로 표현되며, 이는 네 가지 가능한 방향성에 대응하여 모델이 방향 맥락을 인코딩할 수 있음을 보여준다.
• 장소 영역은 클론 활성도에서 자연스럽게 유도되며, 명시적인 공간 좌표 없이도 경험적 관찰과 일치하는 공간 적응 패턴을 보인다.
• 순서적 맥락이 클론 전이 및 활성도를 어떻게 변화시키는지 분석함으로써, 환경 변화에 대한 장소 영역의 재구성 현상을 모델이 설명할 수 있다.
• 모델는 고차원 순서 학습의 단일 메커니즘을 통해 랜드마크 벡터 세포, 시간 세포, 사건 특이적 표현 등 다양한 해마 현상을 설명할 수 있다.
• 신뢰도 전파를 통해 CSCG에서 정확한 추론이 가능해져, 클론 활성도 확률이 수학적으로 정밀하게 계산되며, 신뢰할 수 있는 정신적 지도 형성에 기여한다.