[论文解读] Learning efficient backprojections across cortical hierarchies in real time

Kevin Max, Laura Kriener+5 more|arXiv (Cornell University)|Dec 20, 2022

Neural dynamics and brain function被引用 6

一句话总结

本文提出相位无关对齐学习（PAL），一种在深层皮层层级中实现高效信用分配的生物可实现方法，无需权重传输或分阶段学习。通过利用神经元内在噪声作为误差信息的载体，PAL 实现了跨层的连续、局部且实时的反馈权重学习，相较于随机反馈，在更少神经元下实现更优的表征能力，显著提升了分类任务的性能。

ABSTRACT

Models of sensory processing and learning in the cortex need to efficiently assign credit to synapses in all areas. In deep learning, a known solution is error backpropagation, which however requires biologically implausible weight transport from feed-forward to feedback paths. We introduce Phaseless Alignment Learning (PAL), a bio-plausible method to learn efficient feedback weights in layered cortical hierarchies. This is achieved by exploiting the noise naturally found in biophysical systems as an additional carrier of information. In our dynamical system, all weights are learned simultaneously with always-on plasticity and using only information locally available to the synapses. Our method is completely phase-free (no forward and backward passes or phased learning) and allows for efficient error propagation across multi-layer cortical hierarchies, while maintaining biologically plausible signal transport and learning. Our method is applicable to a wide class of models and improves on previously known biologically plausible ways of credit assignment: compared to random synaptic feedback, it can solve complex tasks with less neurons and learn more useful latent representations. We demonstrate this on various classification tasks using a cortical microcircuit model with prospective coding.

研究动机与目标

• 为解决人工神经网络反向传播中生物不可行的要求，特别是权重传输和离散的前向/反向阶段问题。
• 开发一种连续时间、完全动态的学习系统，具备始终在线的可塑性，且仅依赖局部信息。
• 仅使用局部可获取的信号和内在噪声，实现深层皮层层级中的高效误差传播。
• 通过学习有用的反馈权重，实现深层网络中的信用分配，而无需依赖随机或固定反馈连接。

提出的方法

• PAL 使用基于发放率的连续时间动力系统，采用漏斗积分神经元，通过局部信息实时更新突触权重。
• 利用神经元噪声（Ornstein-Uhlenbeck 过程）作为误差信息的载体，实现无需显式误差反向传播的反馈权重学习。
• 通过膜电位的高通滤波引入前瞻性编码机制，实现对输入的准瞬时响应，支持连续学习。
• 反馈权重通过一种局部学习规则进行更新，该规则基于噪声调制的误差信号，将自上而下的权重与自下而上的连接对齐。
• 该算法通过始终保持可塑性，避免了分阶段学习，无需缓冲或交替进行推理与学习阶段。
• 该框架在皮层微电路模型中实现，并在 MNIST 和 CIFAR-10 上通过在关键层注入噪声的改进 LeNet-5 架构进行验证。

实验结果

研究问题

• RQ1 是否可以在无需权重传输或离散学习阶段的情况下，在深层皮层层级中实现信用分配？
• RQ2 是否可以将内在神经元噪声作为误差信息的功能性载体，用于反馈权重学习？
• RQ3 与随机反馈或固定反馈对齐相比，PAL 在性能和样本效率方面表现如何？
• RQ4 PAL 是否能在最小架构改动下，学习到深层网络中有用的潜在表征？
• RQ5 PAL 是否可扩展至更大基准如 CIFAR-10，同时保持生物可实现的信号传输与学习动力学？

主要发现

• 与随机反馈相比，PAL 在 MNIST 和 CIFAR-10 分类任务中表现更优，且在解决复杂任务时所需神经元更少。
• 该方法在完全连续时间、无相位的框架中实现了多层间的高效误差传播，且具备始终在线的可塑性。
• 通过利用噪声作为信息载体，PAL 消除了对权重传输的需求，避免了如反向传播等生物不可行的机制。
• 基于 PAL 学习到的潜在表征训练的线性分类器达到高测试准确率，证明了所学特征的质量。
• 该算法能有效扩展至更大网络，包括连续时间版本的 LeNet-5，实现稳定收敛并提升泛化能力。
• 无噪声验证确保了公平比较，确认 PAL 的性能提升源于其学习机制，而非噪声引起的效应。