[论文解读] Multi-layer Hebbian networks with modern deep learning frameworks

Thomas Miconi|arXiv (Cornell University)|Jul 4, 2021

Neural dynamics and brain function参考文献 5被引用 4

一句话总结

该论文表明，通过设计特定的损失函数，其梯度可精确复现生物上合理的学习规则（如赫布型、Instar 和欧亚规则），从而能够利用现代深度学习框架高效实现分层卷积赫布网络。该方法通过引入稀疏可塑性和剪枝等干预措施，有效缓解特征退化问题，提升多层特征的信息量，从而实现更优的多层对象识别性能。

ABSTRACT

Deep learning networks generally use non-biological learning methods. By contrast, networks based on more biologically plausible learning, such as Hebbian learning, show comparatively poor performance and difficulties of implementation. Here we show that hierarchical, convolutional Hebbian learning can be implemented almost trivially with modern deep learning frameworks, by using specific losses whose gradients produce exactly the desired Hebbian updates. We provide expressions whose gradients exactly implement a plain Hebbian rule (dw ~= xy), Grossberg's instar rule (dw ~= y(x-w)), and Oja's rule (dw ~= y(x-yw)). As an application, we build Hebbian convolutional multi-layer networks for object recognition. We observe that higher layers of such networks tend to learn large, simple features (Gabor-like filters and blobs), explaining the previously reported decrease in decoding performance over successive layers. To combat this tendency, we introduce interventions (denser activations with sparse plasticity, pruning of connections between layers) which result in sparser learned features, massively increase performance, and allow information to increase over successive layers. We hypothesize that more advanced techniques (dynamic stimuli, trace learning, feedback connections, etc.), together with the massive computational boost offered by modern deep learning frameworks, could greatly improve the performance and biological relevance of multi-layer Hebbian networks.

研究动机与目标

• 通过在多层网络中实现其实际应用，弥合生物上合理的学习规则与现代深度学习之间的差距。
• 通过与现代深度学习框架集成，解决赫布学习在深度网络中性能差和实现困难的问题。
• 探究赫布学习在深度网络架构中是否能在对象识别任务中实现具有竞争力的性能。
• 识别并缓解高层网络倾向于学习大而简单的特征、从而降低解码性能的倾向。
• 探索稀疏可塑性和剪枝等干预措施如何增强特征稀疏性并提升层间信息流动。

提出的方法

• 设计定制化损失函数，使其梯度精确实现原始赫布规则（dw ~= xy）、格罗斯伯格的Instar规则（dw ~= y(x-w)）和欧亚规则（dw ~= y(x-yw)）。
• 利用现代深度学习框架反向传播这些损失的梯度，实现多层卷积赫布网络的端到端训练。
• 采用分层卷积架构，以逐层方式学习特征，模拟皮层处理过程。
• 引入更密集的激活与稀疏可塑性，以促进学习特征的稀疏性，防止特征退化。
• 实施层间连接的剪枝，以减少冗余并提升层间信息流动。
• 在对象识别任务上训练网络，同时监控各层特征的演化与解码性能。

实验结果

研究问题

• RQ1 能否通过现代深度学习框架，在深度卷积网络中有效实现生物启发的赫布学习规则？
• RQ2 为何赫布网络的高层倾向于学习大而简单的特征？这如何影响性能？
• RQ3 稀疏可塑性和剪枝等干预措施能否提升赫布网络的特征稀疏性与性能？
• RQ4 在应用适当干预措施后，赫布网络中信息量是否在各层间实现增长？
• RQ5 现代深度学习框架在多大程度上能够推动更生物合理化的深度学习模型的开发？

主要发现

• 未经修改的赫布网络中，高层学习到大而简单的特征（如Gabor样滤波器和斑块），这与解码性能下降相关。
• 引入更密集的激活与稀疏可塑性后，网络性能显著提升，因为学习到的特征更稀疏且更具信息量。
• 对层间连接实施剪枝可进一步提升性能，并实现信息在连续各层间的增长。
• 使用精确实现赫布规则的基于梯度的损失函数，使得这些生物上合理的学习机制可轻松集成到现代深度学习流水线中。
• 结果表明，通过适当的架构与训练干预，赫布网络可在保持生物合理性的同时实现具有竞争力的性能。
• 该框架为未来探索高级技术（如痕迹学习与反馈连接）在生物启发深度学习中的应用打开了大门。