[논문 리뷰] Dendritic cortical microcircuits approximate the backpropagation algorithm

João Sacramento, Rui Ponte Costa외 2명|arXiv (Cornell University)|2018. 10. 26.

Neural dynamics and brain function인용 수 93

한 줄 요약

본 논문은 에러 신호가 apical 수상돌기로 인코딩되고 학습이 연속적으로 일어나며, 구별된 단계 없이 역전파를 근사하는 다-구획 피질 유사 회로 모델을 제안한다.

ABSTRACT

Deep learning has seen remarkable developments over the last years, many of them inspired by neuroscience. However, the main learning mechanism behind these advances - error backpropagation - appears to be at odds with neurobiology. Here, we introduce a multilayer neuronal network model with simplified dendritic compartments in which error-driven synaptic plasticity adapts the network towards a global desired output. In contrast to previous work our model does not require separate phases and synaptic learning is driven by local dendritic prediction errors continuously in time. Such errors originate at apical dendrites and occur due to a mismatch between predictive input from lateral interneurons and activity from actual top-down feedback. Through the use of simple dendritic compartments and different cell-types our model can represent both error and normal activity within a pyramidal neuron. We demonstrate the learning capabilities of the model in regression and classification tasks, and show analytically that it approximates the error backpropagation algorithm. Moreover, our framework is consistent with recent observations of learning between brain areas and the architecture of cortical microcircuits. Overall, we introduce a novel view of learning on dendritic cortical circuits and on how the brain may solve the long-standing synaptic credit assignment problem.

연구 동기 및 목표

• 깊은 네트워크에서 시냅스 크레딧 할당 문제에 대해 생물학적으로 타당한 해결책을 제시한다.
• 학습을 위한 에러를 인코딩하는 수상돌기 구획을 가진 다층 네트워크를 제안한다.
• 연속적이고 국지적 가소성이 해석적으로이고 경험적으로 역전파를 근사함을 보여준다.
• 모델이 비선형 회귀와 MNIST 숫자 분류를 수행할 수 있음을 보인다.
• 프레임워크를 피질 미세회로 아키텍처 및 예측 부호 이론과 연계한다.

제안 방법

• 체성(몸체), 기저(basal), 및 apical 수상돌기 구획을 가진 피라미드 뉴런의 3-구획 모델을 사용한다.
• 상향 입력을 제거하여 apical 에러를 깨끗이 인코딩하는 인터뉴런을 도입한다.
• 국지 수상돌기 예측 오차와 시냅스 전 활동에 의존하는 시냅스 학습 규칙을 정의한다(Eqs. 6–10).
• 교수 신호가 없을 때 apical 활동이 소거되는 자기예측 네트워크 상태를 시연한다.
• 약한 피드백 한계와 피드백 정렬을 통해 업데이트가 역전파를 근사하는 방법을 보여주는 해석적 도출을 제공한다.
• 연속 학습과 비상호배치 학습 없이 비선형 회귀 및 MNIST 분류에서 경험적으로 평가한다.

실험 결과

연구 질문

• RQ1 수상돌기 구획이 생물학적으로 타당한 네트워크에서 바닥 방향(bottom-up) 연결의 학습을 이끄는 예측 오차를 인코딩할 수 있는가?
• RQ2 다층 수상돌기 회로에서 연속적이고 국지적인 시냅스 가소 규칙이 역전파를 근사하는가?
• RQ3 측부 SST 인터뉴런과 상향 피드백이 별도의 단계 없이 오차 신호화 및 학습에 어떻게 기여하는가?
• RQ4 이러한 네트워크가 비선형 매핑을 학습하고 MNIST 분류와 같은 실제 작업을 처리할 수 있는가?
• RQ5 피드백 정렬 및 상향 가중치 대칭이 역전파와 유사한 학습을 달성하는 데 어떤 역할을 하는가?],
• RQ6 key_findings_list_start_1s_empty_
• RQ7 key_findingsAdditionally_
• RQ8 key_findings możliwości
• RQ9 key_findings_again
• RQ10 key_findings_empty_headers

주요 결과

• 모델의 apical 수상돌기가 측방 인터뉴런 입력과 상향 피드백 사이의 불일치에서 오는 오차를 인코딩하고, 이로써 지역적 가소를 구동하여 오차를 최소화한다.
• 자기예측 조건과 작은 피드백 강도 하에서, 하향 가중치 업데이트가 역전파 업데이트로 수렴한다(스케일링 계수 또는 가중치 대칭성/정렬 제약은 예외).
• 네트워크는 연속 학습과 단계적 학습 없이 비선형 회귀 과제를 학습하며 경쟁력 있는 성능을 달성한다.
• 4계층 네트워크에서 MNIST 분류에 대해 테스트 오차 1.96%를 달성하며 역전파 기반 비합성 합성 네트워크에 접근한다.
• 이 접근법은 피질 영역 간 오차 전달에 대한 예측을 지지하고, 관찰되는 SST 인터뉴런의 역할 및 예측 부호 해석과 일치한다.
• 정방향 및 피드백 가중치의 대칭성 차이가 피드백 정렬을 통해 역전파와 같은 학습을 달성하는 데 견고하다.