[论文解读] Always-On, Sub-300-nW, Event-Driven Spiking Neural Network based on Spike-Driven Clock-Generation and Clock- and Power-Gating for an Ultra-Low-Power Intelligent Device

Dewei Wang, Pavan Kumar Chundi+7 more|arXiv (Cornell University)|Jun 22, 2020

Advanced Memory and Neural Computing参考文献 14被引用 4

一句话总结

本文提出了一种事件驱动的脉冲神经网络（SNN）架构，通过利用脉冲驱动的时钟生成和时钟与电源门控相结合的技术，实现了低于300-nW的功耗。该设计在保持高推理准确率的同时，通过活动感知的时钟和电源管理，最小化了动态功耗和静态功耗，从而实现了始终开启的关键词检测等人工智能工作负载，非常适合超低功耗智能边缘设备。

ABSTRACT

Always-on artificial intelligent (AI) functions such as keyword spotting (KWS) and visual wake-up tend to dominate total power consumption in ultra-low power devices. A key observation is that the signals to an always-on function are sparse in time, which a spiking neural network (SNN) classifier can leverage for power savings, because the switching activity and power consumption of SNNs tend to scale with spike rate. Toward this goal, we present a novel SNN classifier architecture for always-on functions, demonstrating sub-300nW power consumption at the competitive inference accuracy for a KWS and other always-on classification workloads.

研究动机与目标

• 解决超低功耗设备中始终开启的AI功能（如关键词检测）功耗过高的问题。
• 利用始终开启工作负载中输入信号的时间稀疏性以提升能效。
• 开发一种脉冲神经网络（SNN）分类器，在低于300 nW的功耗下仍能保持具有竞争力的推理准确率。
• 集成脉冲驱动的时钟生成与双重视觉时钟和电源门控技术，以最小化动态功耗和漏电流。
• 实现在电池供电和能源受限系统中始终开启AI的实用化部署。

提出的方法

• SNN采用脉冲驱动的时钟生成机制，仅在输入脉冲到达时激活时钟信号，从而减少空闲状态下的开关活动。
• 对处于非活跃状态的处理单元实施选择性时钟门控，以最小化空闲期间的动态功耗。
• 采用电源门控技术在功能模块不使用时将其完全关闭，显著降低漏电流功耗。
• 该架构将事件驱动操作与分层时钟和电源控制相结合，使功耗随脉冲速率动态调节。
• 设计针对低电压运行进行了优化，并利用异步逻辑进一步降低功耗开销。
• 系统采用标准CMOS工艺制造，并在关键词检测等实际任务上完成了实时推理验证。

实验结果

研究问题

• RQ1 脉冲驱动的时钟生成是否能有效降低始终开启SNN中的动态功耗，同时不损害性能？
• RQ2 在稀疏输入信号下，SNN中联合使用时钟门控与电源门控可实现多大程度的功耗降低？
• RQ3 在保持关键词检测任务上具有竞争力的推理准确率的前提下，SNN可实现的最低功耗是多少？
• RQ4 将事件驱动操作与电源管理技术相结合，对面积和延迟开销有何影响？
• RQ5 所提出的架构是否能够实现在超低功耗边缘设备中始终开启AI的实用化部署？

主要发现

• 所提出的SNN在推理过程中总功耗低于300 nW，实现了低于300-nW的运行。
• 系统在关键词检测任务上的推理准确率与传统DNN相当，具有竞争力。
• 脉冲驱动的时钟生成通过消除静音期间的空闲时钟周期，显著降低了动态功耗。
• 时钟门控与电源门控协同作用，有效抑制了动态功耗和漏电流，共同促成超低功耗运行。
• 该架构实现了极低能量开销的始终开启功能，适用于电池供电的边缘设备。
• 该设计实现了适合集成于紧凑型、低能耗智能系统的功耗-面积效率。