[논문 리뷰] Encoding Reality: Prediction-Assisted Cortical Learning Algorithm in Hierarchical Temporal Memory

Fergal Byrne|arXiv (Cornell University)|2015. 09. 28.

Ferroelectric and Negative Capacitance Devices참고 문헌 3인용 수 11

한 줄 요약

이 논문은 계층적 시간 기억(HTM)의 코티컬 학습 알고리즘(CLA)을 수학적으로 엄밀하게 다듬은 예측 보조 코티컬 학습 알고리즘(paCLA)을 소개한다. 이 알고리즘은 원위수 분지에서 유래한 예측 가능한 맥락 입력을 통합하여 순서 학습과 예측 능력을 향상시킨다. 주요 기여는 희박 분산 표현(SDR), 시간 풀링, 계층적 순서 기억을 모델링하는 생물학적으로 타당하고 계산적으로 강력한 프레임워크를 제공하는 것으로, 복잡한 시공간 패턴의 노이즈에 강건한 인식과 예측을 가능하게 한다.

ABSTRACT

In the decade since Jeff Hawkins proposed Hierarchical Temporal Memory (HTM) as a model of neocortical computation, the theory and the algorithms have evolved dramatically. This paper presents a detailed description of HTM's Cortical Learning Algorithm (CLA), including for the first time a rigorous mathematical formulation of all aspects of the computations. Prediction Assisted CLA (paCLA), a refinement of the CLA is presented, which is both closer to the neuroscience and adds significantly to the computational power. Finally, we summarise the key functions of neocortex which are expressed in paCLA implementations.

연구 동기 및 목표

• 계층적 시간 기억(HTM)의 코티컬 학습 알고리즘(CLA)에 대한 엄밀하고 수학적인 공식화를 제공하여 이론적 기반을 강화한다.
• 예측 보조 CLA(paCLA)를 개발하여 CLA의 생물학적 정확도를 높이고 계산 능력을 향상시키며, 원위수 분지에서 온 예측 가능한 맥락 입력을 통합한다.
• paCLA가 의미 표현, 이질성 탐지, 계층적 순서 학습과 같은 주요 신령피질 기능을 어떻게 모델링하는지 보여준다.
• HTM 모델을 경험적 피질 구조와 기능과 비교할 수 있는 기반을 마련하여 향후 이론적·계산적 확장에 기여한다.

제안 방법

• 근위수 분지(전방 입력)와 원위수 분지(예측 가능한 맥락 입력)로 이루어진 두 개의 분지 구역을 가진 HTM 뉴런을 모델링하며, 원위수 세그먼트는 동시 활성화를 감지하고 임계치를 초과할 경우에만 분지 스파이크를 생성한다.
• 생물학적 증거에 기반하여 높은 시냅스 실패율과 신경 노이즈를 고려해 신경 활동을 이진 활성 벡터로 표현한다.
• 희박 분산 표현(SDR)을 고차원적이고 희박한 이진 코드로 사용하여 의미적 의미를 인코딩하고 노이즈 또는 완전하지 않은 입력에 대해 강건하게 일반화한다.
• 패턴 메모리(공간 풀링)에서 수정된 시냅스 가소성 규칙을 적용하며, 영구성 값은 사전 및 후행 신경 활동의 동시성에 따라 업데이트되며, 예측 입력과 폭발적 입력에 대해 각각 다른 학습 속도를 적용한다.
• 빠르게 변화하는 레이어 4 입력에서 안정적이고 느리게 변화하는 레이어 2/3 표현으로의 변환을 모델링하기 위해 시간 풀링을 도입하며, 예측된 SDR의 순서를 학습하는 풀링 뉴런을 사용한다.
• 학습 규칙을 미분 가소성으로 확장하여, 예측된 뉴런에서 온 시냅스의 증가율은 높고 감소율은 낮게 설정함으로써 예측 가능한 순서의 선택적 학습을 가능하게 한다.

실험 결과

연구 질문

• RQ1 코티컬 학습 알고리즘(CLA)은 어떻게 이론적 분석과 경험적 비교를 위한 엄밀한 수학적 공식화로 이루어질 수 있는가?
• RQ2 원위수 분지에서 온 예측 가능한 맥락 입력을 통합함으로써 HTM 모델의 계산 능력과 생물학적 타당성은 어느 정도 향상되는가?
• RQ3 paCLA 알고리즘은 노이즈 또는 완전하지 않은 입력 조건 하에서 고차원 순서와 안정된 표현의 강건한 학습을 어떻게 가능하게 하는가?
• RQ4 HTM에서의 시간 풀링은 레이어 4(빠르게 변화하는 입력)에서 레이어 2/3(안정적이고 순서 수준의 표현)로의 功能적 전환을 어떻게 모델링하는가?
• RQ5 의미 표현, 이질성 탐지, 계층적 처리와 같은 핵심 신령피질 기능들은 paCLA 프레임워크를 통해 어떻게 표현될 수 있는가?

주요 결과

• paCLA 알고리즘은 노이즈나 입력 손실에 강건한 희박 분산 표현(SDR)의 형성을 성공적으로 모델링하여 의미 일반화를 가능하게 한다.
• HTM 레이어는 자동으로 SDR 간의 고차원 전이를 학습하여 향후 입력 상태의 예측과 입력 동역학의 이질성 탐지를 가능하게 한다.
• 시간적 및 계층적 맥락이 강화된 전이 메모리는 원위수 분지에서 온 예측 입력을 통합함으로써 불확실성 하에서 패턴 인식의 안정성을 높인다.
• 시간 풀링은 빠르게 변화하는 레이어 4 입력으로부터 레이어 2/3에서 안정적이고 느리게 변화하는 순서 표현을 형성할 수 있게 하여, 피질 회로의 계층적 처리를 효과적으로 모델링한다.
• 시간 풀링에서의 차별화된 학습 규칙(예측된 뉴런에서 온 시냅스를 우선시)은 예측 가능한 순서의 선택적 학습을 가능하게 하며, 순서 기억 형성의 메커니즘을 보여준다.
• paCLA 프레임워크는 계산적으로 강력하고 생물학적으로 타당한 신령피질 기능 모델을 제공하며, 의미 인코딩, 순서 학습, 이질성 탐지와 같은 핵심 기능을 지원한다.