[논문 리뷰] Learning Through Time in the Thalamocortical Loops

Randall C. O’Reilly, Dean Wyatte외 1명|arXiv (Cornell University)|2014. 07. 13.

Neural dynamics and brain function참고 문헌 90인용 수 38

한 줄 요약

이 논문은 촉수피질 내 시간적 통합을 통해 예측 학습을 가능하게 하는 생물학적으로 타당한 프레임워크인 LeabraTI를 제안한다. 이는 촉수피질 순환과 10 Hz의 알파 주파수 진동을 활용하여, 시간에 따라 변화하는 맥락을 유지함으로써 예측 학습을 실현한다. 레이어 5b의 내재적으로 파동을 일으키는 뉴런의 리듬적 활동을 통해 시간을 이산화함으로써, 동적인 시간적 맥락 표현을 유지하며 오차 기반 학습을 지원함으로써, 혼잡한 시각적 환경에서 물체 궤적을 정확하게 예측할 수 있다.

ABSTRACT

We present a comprehensive, novel framework for understanding how the neocortex, including the thalamocortical loops through the deep layers, can support a temporal context representation in the service of predictive learning. Many have argued that predictive learning provides a compelling, powerful source of learning signals to drive the development of human intelligence: if we constantly predict what will happen next, and learn based on the discrepancies from our predictions (error-driven learning), then we can learn to improve our predictions by developing internal representations that capture the regularities of the environment (e.g., physical laws governing the time-evolution of object motions). Our version of this idea builds upon existing work with simple recurrent networks (SRN's), which have a discretely-updated temporal context representations that are a direct copy of the prior internal state representation. We argue that this discretization of temporal context updating has a number of important computational and functional advantages, and further show how the strong alpha-frequency (10hz, 100ms cycle time) oscillations in the posterior neocortex could reflect this temporal context updating. We examine a wide range of data from biology to behavior through the lens of this LeabraTI model, and find that it provides a unified account of a number of otherwise disconnected findings, all of which converge to support this new model of neocortical learning and processing. We describe an implemented model showing how predictive learning of tumbling object trajectories can facilitate object recognition with cluttered backgrounds.

연구 동기 및 목표

• 신경피질 내 시간적 통합을 위한 생물학적으로 타당한 메커니즘을 개발하는 것.
• 후측 신경피질에서 관찰되는 알파 주파수(10 Hz) 진동이 촉수피질 순환 내 이산적인 시간 맥락 갱신을 어떻게 조절하는지 설명하는 것.
• 알파 리듬 조절과 이산적 인지 등 다양한 생물학적 및 행동적 발견을 하나의 계산적 프레임워크로 통합하여 예측 학습을 설명하는 것.
• 혼잡한 조건에서 실제 세계의 시각적 인식 과제를 해결하는 데 있어 모델의 계산 능력을 입증하는 것.
• 예측 오차 기반 학습을 가능하게 하는 시간적 통합 메커니즘(LeabraTI)을 Leabra 프레임워크에 통합하는 것.

제안 방법

• 모델는 시간을 이산화한 프레임워크를 사용하며, 각 알파 주기(100 ms)마다 시간 맥락이 갱신되어 예측과 오차 신호 전달을 위한 '플러스-마이너스' 구조를 모방한다.
• 레이어 5b의 내재적으로 파동을 일으키는 Pyramidal 뉴런이 알파 주파수로 활동하여, 보호성 뉴런(레이어 6)의 갱신을 유도하며, 이는 촉수피질-총상순환을 통해 다시 피질으로 돌아온다.
• 촉수피질 순환은 이전 맥락을 지속적으로 유지함으로써, 학습된 시간적 규칙성에 기반해 향후 입력을 예측할 수 있도록 한다.
• 오차 기반 학습은 Leabra 프레임워크를 통해 실현되며, 얕은 층에서 계산된 예측 오차가 깊은 층의 시냅스 유연성 조절을 이끈다.
• 모델는 활동이 집단 스파iking 빈도를 반영하는 마이크로컬럼 수준의 단위를 통합하며, 단계 간의 시냅스 유연성 조율은 단계별로 타이밍이 맞춰진 신호를 통해 이루어진다.
• 시뮬레이션 결과는 혼잡한 시각적 디스플레이에서 뒤틀리는 물체 궤적의 예측 학습이 성공적으로 이루어졌으며, 인식 성능 향상이 확인되었다.

실험 결과

연구 질문

• RQ1 촉수피질 순환은 어떻게 신경피질 내 생물학적으로 타당한 시간 맥락 표현 메커니즘을 지원할 수 있는가?
• RQ2 알파 주파수(10 Hz) 진동은 예측 학습을 위한 이산적 시간 창을 조직하는 데 어떤 역할을 하는가?
• RQ3 제안된 LeabraTI 프레임워크는 알파 리듬 조절과 이산적 인지 등 다양한 생물학적 및 행동적 발견을 어떻게 통합하는가?
• RQ4 리듬적 시간 갱신과 오차 기반 학습을 기반으로 한 모델이 혼잡한 환경에서 높은 성능의 시각적 물체 인식을 달성할 수 있는가?
• RQ5 다른 뇌 리듬(예: 전두엽 피질의 베타, 해마의 테타)은 예측 학습에서 다양한 시간적 통합 timescale과 어떻게 관련이 있는가?

주요 결과

• LeabraTI 모델은 혼잡한 시각적 환경에서 뒤틀리는 물체의 궤적을 예측하는 데 성공적으로 학습하였으며, 간섭 요소가 존재하더라도 뛰어난 성능을 보였다.
• 알파 주파수 진동(10 Hz)은 관찰된 신경 및 행동 데이터의 인지 샘플링과 일치하는 자연스러운 시간 이산화 메커니즘을 제공한다.
• 모델의 시간 맥락 표현은 재귀적 촉수피질 순환을 통해 유지되며, 레이어 5b의 파동 뉴런이 예측 갱신을 위한 시계 역할을 한다.
• 얕은 층에서 계산된 예측 오차가 깊은 층의 시냅스 유연성 조절을 이끌어내며, 오차 기반 학습을 통해 장기적인 예측 정확도를 향상시킨다.
• 모델는 단계 간의 시냅스 활동이 단계별로 타이밍이 맞춰진 신호를 통해 조율되어, 피질의 마이크로컬럼 간 일관된 학습을 가능하게 한다.
• 이 프레임워크는 알파 리듬 조절, 인지의 이산화, 예측 코딩 등 다양한 발견을 하나의 생물학적으로 타당한 메커니즘으로 통합하여 설명한다.