[论文解读] Dendritic cortical microcircuits approximate the backpropagation algorithm

João Sacramento, Rui Ponte Costa+2 more|Bern Open Repository and Information System (University of Bern)|Oct 26, 2018

Neural dynamics and brain function被引用 68

一句话总结

本文提出了一种多层皮质微回路模型，包含树突分区和抑制性中间神经元，利用顶树突处的局部预测误差来学习自下而上的权重，在无需交替阶段的情况下逼近反向传播。

ABSTRACT

Deep learning has seen remarkable developments over the last years, many of them inspired by neuroscience. However, the main learning mechanism behind these advances - error backpropagation - appears to be at odds with neurobiology. Here, we introduce a multilayer neuronal network model with simplified dendritic compartments in which error-driven synaptic plasticity adapts the network towards a global desired output. In contrast to previous work our model does not require separate phases and synaptic learning is driven by local dendritic prediction errors continuously in time. Such errors originate at apical dendrites and occur due to a mismatch between predictive input from lateral interneurons and activity from actual top-down feedback. Through the use of simple dendritic compartments and different cell-types our model can represent both error and normal activity within a pyramidal neuron. We demonstrate the learning capabilities of the model in regression and classification tasks, and show analytically that it approximates the error backpropagation algorithm. Moreover, our framework is consistent with recent observations of learning between brain areas and the architecture of cortical microcircuits. Overall, we introduce a novel view of learning on dendritic cortical circuits and on how the brain may solve the long-standing synaptic credit assignment problem.

研究动机与目标

• 在皮层微回路中为误差信号驱动的学习提供一个生物学上可行的机制，并对其形式化。
• 引入一个三腔室锥体神经元模型，具有基底（自下而上）输入和顶树突（自上而下）输入，以及一个辅助抑制性中间神经元群来抵消顶向预测。
• 推导实现树突预测误差的局部突触可塑性规则，并在自预测条件下展示它们与反向传播的关系。
• 展示在非线性回归和图像分类（MNIST）任务中的学习能力，并将性能与反向传播及相关生物启发方案进行比较。

提出的方法

• 将神经元建模为三腔单位（体细胞、基底腔、顶树突），基底输入用于自下而上的信号，顶树突输入用于自上而下的信号。
• 引入一个抑制性中间神经元群（两腔单位），在顶树突处抵消顶向输入以编码预测误差。
• 给出形如 dW/dt = eta (phi(u) - phi(v)) r 的突触可塑性规则，适用于不同连接类型，其中 u 和 v 为腔室电位，r 为前突触活动。
• 解析性地显示，在自预测网络中，学习近似反向传播，顶向权重要么固定（反馈对齐），要么学得（逆重构/目标传播）。
• 在非线性回归和 MNIST 分类任务上演示在线、连续时间学习，无需基于阶段的学习，使用固定或缓慢适应的顶向路径。

实验结果

研究问题

• RQ1 是否可在顶树突编码的树突预测误差支持类似于多层网络中反向传播的误差信号驱动学习？
• RQ2 在什么条件下所提出的树突微回路会近似反向传播（如自预测状态、反馈对齐或目标传播）？
• RQ3 与标准反向传播和简单基线相比，这样的网络在非线性回归和图像分类任务上的学习性能如何？

主要发现

• 一个具有顶树突预测误差和抑制性中间神经元介导的顶向抵消的多层网络，通过局部可塑性规则学习自下而上的突触。
• 从解析角度，在自预测条件和小型反馈下，隐藏层权重更新近似反向传播（在一个比例因子和潜在权重对称性考虑之内）。
• 该模型实现在线非线性回归学习，无需交替阶段，并且即使正向与反向权重对称性有限，也能将误差传播到更深层（反馈对齐）。
• 在 MNIST 上，四层网络达到 1.96% 的测试误差，接近使用反向传播训练的非卷积网络，并优于所比较的若干生物启发替代方法。
• 该框架与树突误差信号、SST 抑制性中间神经元的作用以及区域间学习的实验观测一致，提供了对皮层中突触信用分配的整体解释。