[论文解读] Adaptive Extreme Edge Computing for Wearable Devices

Erika Covi, Elisa Donati+5 more|arXiv (Cornell University)|Dec 29, 2020

Advanced Memory and Neural Computing参考文献 249被引用 7

一句话总结

本文提出了一种面向可穿戴设备中自适应极边缘计算的全面协同设计平台，整合了脉冲神经网络处理器、忆阻存储器以及生物合理的学习算法，实现了低功耗、实时、持续学习。通过利用事件触发的脉冲神经网络与内存内计算，该方法降低了延迟和能耗，同时支持对动态传感器数据的设备端自适应。

ABSTRACT

Wearable devices are a fast-growing technology with impact on personal healthcare for both society and economy. Due to the widespread of sensors in pervasive and distributed networks, power consumption, processing speed, and system adaptation are vital in future smart wearable devices. The visioning and forecasting of how to bring computation to the edge in smart sensors have already begun, with an aspiration to provide adaptive extreme edge computing. Here, we provide a holistic view of hardware and theoretical solutions towards smart wearable devices that can provide guidance to research in this pervasive computing era. We propose various solutions for biologically plausible models for continual learning in neuromorphic computing technologies for wearable sensors. To envision this concept, we provide a systematic outline in which prospective low power and low latency scenarios of wearable sensors in neuromorphic platforms are expected. We successively describe vital potential landscapes of neuromorphic processors exploiting complementary metal-oxide semiconductors (CMOS) and emerging memory technologies (e.g. memristive devices). Furthermore, we evaluate the requirements for edge computing within wearable devices in terms of footprint, power consumption, latency, and data size. We additionally investigate the challenges beyond neuromorphic computing hardware, algorithms and devices that could impede enhancement of adaptive edge computing in smart wearable devices.

研究动机与目标

• 解决传统云处理在可穿戴设备中的局限性，包括高功耗、延迟以及数据传输瓶颈。
• 通过将计算移至边缘，克服冯·诺依曼架构在处理实时生物信号时的低效性。
• 通过生物启发的学习算法实现可穿戴传感器的持续自适应学习，减少灾难性遗忘。
• 将新兴技术——尤其是忆阻器件——集成到神经形态硬件中，以提高能效和非易失性。
• 将传感器、前端电路、神经形态处理器和学习算法协同设计为统一、低功耗、低面积的系统。

提出的方法

• 采用事件触发的脉冲神经网络（SNNs）对传感器数据进行异步、低功耗处理，模拟生物神经动力学。
• 通过CMOS和忆阻器件实现内存内计算，将存储与处理功能集成，最大限度减少数据移动和能耗。
• 使用非易失性忆阻器件替代SRAM用于突触权重存储，降低功耗和芯片面积。
• 集成模拟亚阈值电路以模拟生物时间常数，实现对时间性生物信号的实时、连续处理。
• 开发新型脉冲编码技术，实现传感器与神经形态处理器之间无数据流、高效的通信。
• 协同设计从传感器接口到学习算法的整个系统栈，确保软硬件各层之间的兼容性与最优性能。

实验结果

研究问题

• RQ1 与传统的冯·诺依曼系统相比，神经形态计算架构如何在可穿戴生物传感器中降低功耗和延迟？
• RQ2 忆阻器件在实现边缘神经形态处理器中非易失性、紧凑且能效高的突触存储方面发挥什么作用？
• RQ3 SNN中的生物合理学习规则如何在可穿戴设备中支持持续学习而不产生灾难性遗忘？
• RQ4 在边缘计算可穿戴平台中，系统层面在面积、功耗、延迟和数据大小之间的关键权衡是什么？
• RQ5 事件触发处理与内存内计算如何协同优化，以实现实时、自适应的连续生物信号处理？

主要发现

• 事件触发的SNN与内存内计算相结合，减少了数据移动和能耗，实现了低延迟的实时处理。
• 忆阻器件为突触权重存储提供了紧凑且非易失性的替代方案，与CMOS电容相比，芯片面积可减少高达60%。
• SNN中的生物合理学习规则支持持续学习，但其在硬件噪声和器件差异性下的鲁棒性仍面临挑战。
• 对从传感器到学习算法的整个系统栈进行协同设计，实现了整体优化，提升了能效和系统性能。
• 模拟亚阈值电路与脉冲编码技术的集成，实现了对时间性生物信号的平滑、实时处理，且功耗开销极低。
• 尽管已取得进展，忆阻技术的器件差异性和缺乏标准化制造工艺仍是其可靠部署的主要障碍。