[论文解读] Functional Specification of the RAVENS Neuroprocessor

Adam Z. Foshie, James S. Plank+2 more|arXiv (Cornell University)|Jul 27, 2023

Advanced Memory and Neural Computing被引用 4

一句话总结

本文提出了 RAVENS 神经处理器的功能规范，该处理器专为在 FPGA、微控制器和 CMOS 等多样化平台上的脉冲神经网络设计。规范详细描述了神经元与突触动力学、不应期、STDP 塑性以及硬件常数，通过统一的软件框架实现所有 RAVENS 变体的一致性实现与仿真。

ABSTRACT

RAVENS is a neuroprocessor that has been developed by the TENNLab research group at the University of Tennessee. Its main focus has been as a vehicle for chip design with memristive elements; however it has also been the vehicle for all-digital CMOS development, plus it has implementations on FPGA's, microcontrollers and software simulation. The software simulation is supported by the TENNLab neuromorphic software framework so that researchers may develop RAVENS solutions for a variety of neuromorphic computing applications. This document provides a functional specification of RAVENS that should apply to all implementations of the RAVENS neuroprocessor.

研究动机与目标

• 为所有实现形式（FPGA、微控制器、CMOS、软件仿真）的 RAVENS 神经处理器定义统一的功能规范。
• 通过标准化的硬件常数和网络设置，实现脉冲神经网络应用的一致性设计与部署。
• 通过兼容多种神经形态硬件平台的可移植、可扩展框架，支持神经形态计算研究。
• 形式化神经元行为、突触动力学及可塑性规则（如 STDP），以确保神经处理器运行的可靠性和可复现性。
• 为神经形态启动套件及未来嵌入式神经形态系统中的软硬件协同设计提供基础。

提出的方法

• 通过 JSON 或 HDL 文件定义硬件常数（如最大突触延迟、位宽），这些常数在实现时固定，影响资源使用与性能。
• 使用网络设置——包括神经元设置（阈值、静息电位）、突触设置（权重、可塑性表）以及整体设置——通过 JSON 文件定义网络行为。
• 实现神经元时采用离散积分周期：将累积寄存器与阈值比较；若超过则触发脉冲传播，并可能进入不应期状态。
• 建模两种不应期：绝对不应期（不处理任何输入）和相对不应期（输入敏感度降低），在持续时间结束后恢复至标准操作。
• 使用可配置表格应用 STDP（脉冲时间依赖可塑性），根据突触前与突触后脉冲的时间关系动态调整突触权重。
• 分时间步逐步仿真网络活动，追踪脉冲传播、电荷累积及权重变化，支持‘飞行中’脉冲的处理。

Figure 1: Simple integrate-and-fire network.

实验结果

研究问题

• RQ1 如何对神经处理器架构进行功能规范，以确保在不同实现形式（FPGA、微控制器、CMOS、软件仿真）中行为一致？
• RQ2 硬件常数在决定 RAVENS 实现的资源消耗、性能与可扩展性方面发挥什么作用？
• RQ3 不应期（绝对与相对）如何影响脉冲神经网络中神经元的响应与网络动力学？
• RQ4 当脉冲处于‘飞行中’时，STDP 可塑性如何运作，其对突触权重演化有何影响？
• RQ5 统一的软件框架是否能够实现 RAVENS 基于神经形态应用在不同平台上的可移植开发与仿真？

主要发现

• 通过基于硬件常数与网络设置的标准化功能规范，RAVENS 在所有实现中均表现出一致行为。
• 硬件常数（如最大突触延迟）直接影响资源消耗、处理时间与功耗，网络规模与性能之间存在权衡。
• 神经元表现出两种不应期：绝对不应期（不处理输入）与相对不应期（敏感度降低），在规定持续时间结束后恢复至标准操作。
• STDP 可塑性根据脉冲时间动态调整突触权重；即使脉冲处于‘飞行中’，权重更新仍能根据时间表正确执行。
• 在仿真中，由于在不应期重复接收脉冲，突触可抑制至零（例如，初始权重为 4 时降至 0），从而阻止进一步放电。
• 集成于 TENNLab 软件框架中的 RAVENS 仿真器，能够准确、可复现地仿真复杂网络行为，包括多时间步脉冲传播与权重变化。

Figure 2: A network set so that $Main$ fires every timestep when turned “on.”