[论文解读] Hebbian Deep Learning Without Feedback

Adrien Journé, Hector Garcia Rodriguez+2 more|arXiv (Cornell University)|Sep 23, 2022

Advanced Memory and Neural ComputingEngineering被引用 17

一句话总结

该论文提出 SoftHebb，一种生物可解释的深度学习算法，通过在软 winner-take-all（WTA）网络中利用赫布学习，无需反馈信号、误差信号或目标监督即可训练深度神经网络。该方法仅通过一次无监督预训练阶段，就在 MNIST（99.4%）、CIFAR-10（80.3%）、STL-10（76.2%）和 ImageNet（27.3%）上实现了最先进性能，同时消除了权重传输、非局部可塑性和更新锁定等反向传播及其先前生物可解释方法的关键限制。

ABSTRACT

Recent approximations to backpropagation (BP) have mitigated many of BP's computational inefficiencies and incompatibilities with biology, but important limitations still remain. Moreover, the approximations significantly decrease accuracy in benchmarks, suggesting that an entirely different approach may be more fruitful. Here, grounded on recent theory for Hebbian learning in soft winner-take-all networks, we present multilayer SoftHebb, i.e. an algorithm that trains deep neural networks, without any feedback, target, or error signals. As a result, it achieves efficiency by avoiding weight transport, non-local plasticity, time-locking of layer updates, iterative equilibria, and (self-) supervisory or other feedback signals -- which were necessary in other approaches. Its increased efficiency and biological compatibility do not trade off accuracy compared to state-of-the-art bio-plausible learning, but rather improve it. With up to five hidden layers and an added linear classifier, accuracies on MNIST, CIFAR-10, STL-10, and ImageNet, respectively reach 99.4%, 80.3%, 76.2%, and 27.3%. In conclusion, SoftHebb shows with a radically different approach from BP that Deep Learning over few layers may be plausible in the brain and increases the accuracy of bio-plausible machine learning. Code is available at https://github.com/NeuromorphicComputing/SoftHebb.

研究动机与目标

• 开发一种无需反向传播、反馈信号或误差目标的深度学习算法，以解决反向传播在生物学和计算层面的关键局限。
• 消除反向传播及其他生物可解释学习方法中固有的权重传输问题、非局部可塑性和更新锁定机制。
• 仅通过局部、突触可塑性规则的无监督赫布学习，实现深度网络中的高准确率。
• 证明在生物和神经形态计算环境中，无反馈的深度学习在可行性和准确性方面均是可实现的。

提出的方法

• 提出 SoftHebb，一种基于软 WTA 网络中赫布学习最新理论的多层深度学习算法。
• 采用基于权重向量大小的自适应学习率，根据权重向量的幅值动态调整，实现单位范数的稳定且快速收敛。
• 使用局部赫布式可塑性规则，突触权重仅根据突触前和突触后活动进行更新，无需误差信号或全局反馈。
• 在每一层中应用软 WTA 机制，以促进神经元之间的竞争，推动稀疏且分布式表征。
• 采用单次无监督预训练阶段，无需反向传播或目标监督，随后使用线性分类器进行最终预测。
• 使用 RePU 和 softmax 激活函数，并通过调优超参数以优化深层中的表征学习。

实验结果

研究问题

• RQ1 是否可以在完全无反馈、无误差信号或无目标监督的情况下有效训练深度神经网络？
• RQ2 是否可能在消除权重传输问题和非局部可塑性的同时，实现深度学习的高准确率？
• RQ3 软 WTA 网络中的赫布学习能否支持与反向传播相当的层次化特征学习？
• RQ4 所提出的基于范数的自适应学习率如何影响深层网络中的收敛性和性能？
• RQ5 SoftHebb 在标准视觉基准上学习复杂层次化特征的表征能力如何？

主要发现

• SoftHebb 在 MNIST 上使用五个隐藏层和线性分类器实现了 99.4% 的准确率，优于大多数生物可解释方法。
• 在 CIFAR-10 上，SoftHebb 仅通过一次无监督预训练阶段即达到 80.3% 的准确率，超越了所有其他无反馈方法，仅低于反向传播。
• 在 STL-10 上，SoftHebb 达到 76.2% 的准确率，表明其在更深层、更复杂数据集上具有强大的泛化能力。
• 在 ImageNet 上，SoftHebb 实现了 27.3% 的 top-1 准确率，对于一种无反馈、无监督方法而言是显著成果。
• 基于范数的自适应学习率可加速权重向量收敛至单位范数，并在不同权重初始化下提升鲁棒性。
• SoftHebb 深层中的感受野表现出日益复杂的特性，包括 Gabor 类滤波器和多样化纹理的混合，表明其具备层次化特征学习能力。