[논문 리뷰] Dendritic cortical microcircuits approximate the backpropagation algorithm

João Sacramento, Rui Ponte Costa외 2명|Bern Open Repository and Information System (University of Bern)|2018. 10. 26.

Neural dynamics and brain function인용 수 68

한 줄 요약

본 논문은 가지돌기 분할과 인터뉴런을 가진 다층 피질 미회로 모델을 제시하며, apical dendrites에서의 국소 예측 오차를 사용해 하향(bottom-up) 가중치를 학습하고, 교대 단계 없이 역전파를 근사한다.

ABSTRACT

Deep learning has seen remarkable developments over the last years, many of them inspired by neuroscience. However, the main learning mechanism behind these advances - error backpropagation - appears to be at odds with neurobiology. Here, we introduce a multilayer neuronal network model with simplified dendritic compartments in which error-driven synaptic plasticity adapts the network towards a global desired output. In contrast to previous work our model does not require separate phases and synaptic learning is driven by local dendritic prediction errors continuously in time. Such errors originate at apical dendrites and occur due to a mismatch between predictive input from lateral interneurons and activity from actual top-down feedback. Through the use of simple dendritic compartments and different cell-types our model can represent both error and normal activity within a pyramidal neuron. We demonstrate the learning capabilities of the model in regression and classification tasks, and show analytically that it approximates the error backpropagation algorithm. Moreover, our framework is consistent with recent observations of learning between brain areas and the architecture of cortical microcircuits. Overall, we introduce a novel view of learning on dendritic cortical circuits and on how the brain may solve the long-standing synaptic credit assignment problem.

연구 동기 및 목표

• 피질 미회로에서 오차 기반 학습을 위한 생물학적으로 타당한 메커니즘을 동기 부여하고 형식화한다.
• 세 구획 피라미드 뉴런 모델을 도입한다. 기저(bottom-up) 입력과 apical(top-down) 입력, 그리고 상향 예측을 상쇄하기 위한 보조 인터뉴런 집단을 포함한다.
• 다양한 구획 전위 u, v를 사용하는 dW/dt = eta (phi(u) - phi(v)) r 형태의 국소 시냅스 가소 규칙을 도출하고, 자기 예측 상태에서 역전파와의 관계를 보인다.
• 비선형 회귀 및 이미지 분류(MNIST) 과제에서 학습 능력을 시연하고, 역전파 및 관련 생물학적으로 영감을 받은 방법들과의 성능을 비교한다.

제안 방법

• 뉴런을 체상(몸체), 기저(basal), 선단(apical)의 세 구획 단위로 모델링하고, 하향 신호를 위한 기저 입력과 상향 신호를 위한 apical 입력을 사용한다.
• 상향 입력을 상쇄하는 인터뉴런 인구(두 구획 세포)를 도입하여 예측 오차를 인코딩한다.
• 시냅스 가소 규칙을 dW/dt = eta (phi(u) - phi(v)) r의 형태로 정의한다(다양한 연결 유형에 대해). 여기서 u, v는 구획 전위이고 r은 시냅스의 전 시냅스 활동이다.
• 자기 예측 네트에서 학습이 역전파를 근사한다는 것을 해석적으로 보여주며, 상향 가중치는 고정(피드백 정렬)되거나 학습된 상태(inverse reconstruction/target propagation)일 수 있다.
• 고정되거나 천천히 적응하는 상향 경로를 사용하여, 위상 기반 학습 없이도 비선형 회귀 및 MNIST 분류에서 온라인 연속 시간 학습을 시연한다.

실험 결과

연구 질문

• RQ1 apical dendrites에 인코딩된 가지돌기 예측 오차가 다층 네트워크에서 역전파와 유사한 오차 기반 학습을 지원할 수 있는가?
• RQ2 제안된 가지돌기 미회로가 역전파를 근사하는 조건은 무엇인가(예: 자기 예측 상태, 피드백 정렬, 또는 타깃 전파)?
• RQ3 이러한 네트워크의 학습 성능은 비선형 회귀 및 이미지 분류 과제에서 표준 역전파 및 얕은 기반선과 비교하여 어떤가?

주요 결과

• apical dendritic prediction errors와 인터뉴런 매개 상향 cancel을 갖는 다층 네트워크가 국소 가소 규칙을 통해 하향 시냅스를 학습한다.
• 해석적으로, 자기 예측 조건과 작은 피드백 하에서 은닉 계층 가중치 업데이트는 역전파를 근사한다(스케일 계수 및 가중치 대칭성 고려에 따라).
• 모델은 교대로 학습 없이 온라인으로 비선형 회귀 학습을 달성하고, 앞으로의 가중치와 뒤로의 가중치 간 대칭성이 제한적이어도 더 깊은 층으로의 오차 전달을 지원한다(피드백 정렬).
• MNIST에서 네 층 네트워크가 1.96%의 테스트 오차를 달성하여, 역전파로 학습된 비합성곱 네트워크에 근접하고, 고려된 여러 생물학적 아이디어 기반 대안들을 능가한다.
• 이 프레임워크는 가지돌기 오차 신호화, SST 인터뉴런의 역할, 그리고 영역 간 학습에 대한 실험적 관찰과 일치하며, 피질에서의 시냅스 크레딧 배정에 대한 일관된 설명을 제시한다.