[论文解读] An Online Learning Algorithm for Neuromorphic Hardware Implementation

Chetan Singh Thakur, Runchun Wang+5 more|arXiv (Cornell University)|May 11, 2015

Advanced Memory and Neural Computing参考文献 26被引用 10

一句话总结

本文提出了一种基于符号的在线学习（SOL）算法，用于训练可训练模拟块（TAB）脉冲神经网络类脑硬件框架，该算法基于隐藏层激活和输出误差的符号进行权重更新。该方法实现了在脉冲神经网络中针对回归任务的高效、可硬件实现的在线学习，计算开销极低。

ABSTRACT

We propose a sign-based online learning (SOL) algorithm for a neuromorphic hardware framework called Trainable Analogue Block (TAB). The TAB framework utilises the principles of neural population coding, implying that it encodes the input stimulus using a large pool of nonlinear neurons. The SOL algorithm is a simple weight update rule that employs the sign of the hidden layer activation and the sign of the output error, which is the difference between the target output and the predicted output. The SOL algorithm is easily implementable in hardware, and can be used in any artificial neural network framework that learns weights by minimising a convex cost function. We show that the TAB framework can be trained for various regression tasks using the SOL algorithm.

研究动机与目标

• 开发一种与类脑系统兼容、可实时运行的硬件高效学习算法。
• 在TAB框架中实现在线学习，仅使用适合模拟VLSI实现的极低计算资源。
• 设计一种仅利用隐藏层激活和输出误差符号的权重更新规则，以降低复杂度。
• 通过所提算法证明TAB框架在多种回归任务中训练的可行性。
• 确保学习规则与任何神经网络框架兼容，且适用于最小化凸损失函数。

提出的方法

• SOL算法使用隐藏层神经元激活的符号作为梯度信息的代理。
• 基于输出误差的符号计算权重更新，输出误差定义为目标输出与预测输出之间的差值。
• 权重更新规则表述为 Δw ∝ sign(activation) × sign(error)，支持类似二值的计算。
• 该方法以在线、增量方式运行，在每次输入呈现后更新权重。
• 该算法专为直接在模拟VLSI硬件中实现而设计，最大限度降低面积和功耗。
• 该框架依赖于神经元群体编码，其中输入通过大量非线性神经元池进行编码。

实验结果

研究问题

• RQ1 基于符号的学习规则是否能在计算复杂度极低的类脑硬件框架中实现有效训练？
• RQ2 SOL算法在训练TAB框架用于回归任务时表现如何？
• RQ3 基于符号的权重更新规则是否与脉冲神经网络中的在线、增量学习兼容？
• RQ4 该算法是否可高效地在模拟VLSI硬件中实现，而无需全精度算术运算？
• RQ5 仅使用符号信息是否能保留足够的学习能力以应对实际的回归任务？

主要发现

• SOL算法成功利用隐藏激活和输出误差的符号信息，对TAB框架在多个回归任务中实现了有效训练。
• 该方法在计算开销极低的情况下实现了稳定的训练收敛，适用于实时类脑系统。
• 由于其二值权重更新机制，该算法天然兼容模拟VLSI实现。
• 该框架在多种回归基准测试中表现出稳健性能，证实了基于符号学习的可行性。
• 与传统反向传播相比，该方法显著降低了硬件复杂度，实现了低功耗类脑计算。
• 即使在稀疏的符号信号下，该算法仍保持学习效率，验证了其在能效受限环境中的设计合理性。