[论文解读] Developing All-Skyrmion Spiking Neural Network

Zhezhi He, Deliang Fan|arXiv (Cornell University)|May 8, 2017

Advanced Memory and Neural Computing参考文献 11被引用 7

一句话总结

该论文提出了一种全自旋子脉冲神经网络（AS-SNN），利用拓扑稳定的磁性自旋子作为信息载体和计算单元，无需电荷-自旋转换。通过将脉冲序列编码为自旋子序列，并利用纳米线中的自旋子动力学，该系统在MNIST数据集上实现了87.1%的推理准确率，每脉冲能耗约为1 fJ，比CMOS架构系统（如IBM TrueNorth）低三个数量级以上。

ABSTRACT

In this work, we have proposed a revolutionary neuromorphic computing methodology to implement All-Skyrmion Spiking Neural Network (AS-SNN). Such proposed methodology is based on our finding that skyrmion is a topological stable spin texture and its spatiotemporal motion along the magnetic nano-track intuitively interprets the pulse signal transmission between two interconnected neurons. In such design, spike train in SNN could be encoded as particle-like skyrmion train and further processed by the proposed skyrmion-synapse and skyrmion-neuron within the same magnetic nano-track to generate output skyrmion as post-spike. Then, both pre-neuron spikes and post-neuron spikes are encoded as particle-like skyrmions without conversion between charge and spin signals, which fundamentally differentiates our proposed design from other hybrid Spin-CMOS designs. The system level simulation shows 87.1% inference accuracy for handwritten digit recognition task, while the energy dissipation is ~1 fJ/per spike which is 3 orders smaller in comparison with CMOS based IBM TrueNorth system.

研究动机与目标

• 解决传统CMOS冯·诺依曼架构在认知计算任务中能效低和速度受限的问题。
• 克服混合自旋-CMOS类脑系统中电荷与自旋之间信号转换带来的能量开销。
• 开发一种完全基于自旋的类脑计算平台，其中信号传输和计算均由自旋子介导。
• 通过模拟自旋子运动与相互作用来实现神经动力学，从而实现高能效和生物合理性。
• 通过在MNIST数据集上的系统级仿真，验证AS-SNN架构的可行性和性能。

提出的方法

• 将输入脉冲序列编码为沿磁性纳米线传播的类粒子自旋子序列。
• 在Y型分叉纳米线结构中，利用电压控制磁各向异性（VCMA）实现二值突触权重，根据权重值（'0'或'1'）实现自旋子的路由。
• 设计一种基于自旋子的整合-放电神经元，利用畴壁对（DWP）动力学：自旋子在凹槽区域累积，直至达到阈值。
• 在阈值被跨越时，通过相邻纳米线间的磁耦合在输出路径中引发新的DWP，随后将其转换为输出自旋子。
• 通过自旋子在Y型分叉结构中的复制实现扇出，支持事件驱动的神经元互连。
• 在发放后的不应期，通过自旋极化器重新生成DWP以实现神经元复位。

实验结果

研究问题

• RQ1 自旋子能否在无需电荷-自旋转换的情况下，同时作为信息载体和计算单元应用于脉冲神经网络？
• RQ2 如何利用自旋子动力学实现类似生物的整合-放电神经元行为？
• RQ3 与传统CMOS实现相比，全自旋子基SNN可实现的推理准确率和能效水平如何？
• RQ4 能否通过VCMA控制的势垒实现自旋子路由，从而有效实现二值突触权重？
• RQ5 在系统层面，电荷与自旋之间无信号转换对能效和可扩展性有何影响？

主要发现

• 全自旋子脉冲神经网络（AS-SNN）在MNIST手写数字识别任务中实现了87.1%的推理准确率。
• AS-SNN的每脉冲能量损耗约为1 fJ，相比IBM TrueNorth CMOS系统降低了三个多数量级。
• 该系统表明，自旋子动力学——特别是DWP去钉扎和DWP到自旋子的转换——可有效模拟整合-放电神经元行为。
• 通过在Y型纳米线中利用VCMA诱导的磁各向异性势垒，成功实现了二值突触权重，实现了自旋子的选择性路由。
• Y型结构中的自旋子复制实现了能量高效的扇出，支持大规模互连，且每份副本无额外能耗。
• AS-SNN架构中无电荷-自旋转换从根本上降低了能量开销，并相比混合自旋-CMOS设计提升了生物合理性。