[论文解读] Artificial Neural Networks for Sensor Data Classification on Small Embedded Systems

Marcus Venzke, Daniel Klisch+4 more|arXiv (Cornell University)|Dec 15, 2020

Traffic Prediction and Management Techniques参考文献 21被引用 12

一句话总结

本文提出在低成本8位微控制器上直接部署轻量级人工神经网络（ANN），以实现实时分类时间序列传感器数据，例如光学手势。采用参数量为1,493的前馈神经网络，系统在仅配备2 kB RAM和32 kB闪存的微控制器上实现36 ms的执行时间，手势识别准确率达到83%，证明了无需依赖云端的设备端推理是可行的。

ABSTRACT

In this paper we investigate the usage of machine learning for interpreting measured sensor values in sensor modules. In particular we analyze the potential of artificial neural networks (ANNs) on low-cost micro-controllers with a few kilobytes of memory to semantically enrich data captured by sensors. The focus is on classifying temporal data series with a high level of reliability. Design and implementation of ANNs are analyzed considering Feed Forward Neural Networks (FFNNs) and Recurrent Neural Networks (RNNs). We validate the developed ANNs in a case study of optical hand gesture recognition on an 8-bit micro-controller. The best reliability was found for an FFNN with two layers and 1493 parameters requiring an execution time of 36 ms. We propose a workflow to develop ANNs for embedded devices.

研究动机与目标

• 在低成本嵌入式系统中直接实现传感器数据的语义增强，避免对云端处理的依赖。
• 研究在内存受限（2 kB RAM，32 kB flash）且处理能力有限（16 MHz时钟）的8位微控制器上部署人工神经网络（ANN）的可行性。
• 比较前馈神经网络（FFNN）与循环神经网络（RNN）在资源受限环境中对时间序列传感器数据分类的性能与可靠性。
• 开发一种实用的端到端工作流程，用于在嵌入式传感器模块上设计、训练、压缩和部署ANN。
• 评估环境因素（尤其是光照条件）对实际部署中分类可靠性的影响。

提出的方法

• 针对8位微控制器的极低内存与处理能力，设计并实现FFNN与RNN。
• 使用配备九个光传感器的传感器模块作为低分辨率摄像头，捕获手势的时间序列。
• 采用缓冲区存储一段传感器数据作为前馈网络的输入，实现对手势序列的分类。
• 通过人工预处理将手势划分为五个阶段，提升RNN性能，使神经元激活具有更清晰的可解释性。
• 采用ReLU与Max激活函数，以减少计算开销和执行时间。
• 通过剪枝（减少68%连接）与Huffman编码实现模型压缩，但受限于模型大小与冗余度。

实验结果

研究问题

• RQ1 能否在仅配备2 kB RAM与32 kB闪存的8位微控制器上有效部署人工神经网络，实现对传感器数据的实时分类？
• RQ2 在嵌入式系统中，前馈神经网络（FFNN）与循环神经网络（RNN）在时间序列传感器数据分类中的准确率与计算效率方面有何差异？
• RQ3 环境条件（特别是光照变化）对基于设备端ANN的手势识别可靠性有何影响？
• RQ4 在超低资源设备上，剪枝与量化等模型压缩技术能在多大程度上减小模型尺寸而不牺牲分类性能？
• RQ5 可建立何种实用工作流程，以实现对嵌入式传感器模块上ANN的设计、训练、压缩与部署，且硬件与软件开销最小？

主要发现

• 性能最佳的模型为两层前馈神经网络，参数量1,493，实现83%的手势分类准确率，推理时间仅36 ms。
• RNN实现71%的准确率，但需对手势进行手动分段与更复杂的标注，表明其实施开销更高。
• 系统在无浮点运算单元的8位微控制器上以40 Hz帧率稳定运行，仅使用2 kB RAM与32 kB flash存储。
• 在光照条件变差时，分类可靠性显著下降，凸显环境敏感性。
• 模型压缩将最终模型大小缩减至原始大小的11.5%，但效果不如在AlexNet或VGG-16等大模型中显著，因冗余度较低。
• 本研究证实，当可接受最小预处理时，采用输入缓冲的FFNN比RNN在嵌入式手势识别中更具实用性与可靠性。