[论文解读] Characterization of Neural Networks Automatically Mapped on Automotive-grade Microcontrollers

Giulia Crocioni, Giambattista Gruosso+4 more|arXiv (Cornell University)|Feb 27, 2021

Advanced Battery Technologies Research参考文献 29被引用 6

一句话总结

本文提出了一种在汽车级微控制器上部署预训练神经网络的框架，用于实时边缘推理，展示了其在CAN总线入侵检测和锂离子电池剩余容量估计方面的有效性。这些模型在SPC58NH微控制器上实现了低于5ms的推理时间，Flash存储空间不足36KB，RAM使用量低于3KB，满足汽车安全与性能约束要求。

ABSTRACT

Nowadays, Neural Networks represent a major expectation for the realization of powerful Deep Learning algorithms, which can determine several physical systems' behaviors and operations. Computational resources required for model, training, and running are large, especially when related to the amount of data that Neural Networks typically need to generalize. The latest TinyML technologies allow integrating pre-trained models on embedded systems, allowing making computing at the edge faster, cheaper, and safer. Although these technologies originated in the consumer and industrial worlds, many sectors can greatly benefit from them, such as the automotive industry. In this paper, we present a framework for implementing Neural Network-based models on a family of automotive Microcontrollers, showing their efficiency in two case studies applied to vehicles: intrusion detection on the Controller Area Network bus and residual capacity estimation in Lithium-Ion batteries, widely used in Electric Vehicles.

研究动机与目标

• 在资源受限的汽车微控制器上实现预训练神经网络的设备端推理。
• 解决在内存和处理能力有限的安全关键型汽车系统中部署复杂神经网络的挑战。
• 验证TinyML在两个关键汽车应用中的可行性与效率：CAN总线入侵检测和锂离子电池健康状态估计。
• 对多种汽车MCU上的模型复杂度进行分析，涵盖Flash、RAM和推理时间。

提出的方法

• 为时序数据处理设计了混合CNN-LSTM架构，采用1D卷积层、最大池化层以及使用Tanh激活函数的LSTM层。
• 采用LSTM自编码器对CAN总线流量进行异常检测，输入数据使用MinMaxScaler进行归一化，并使用Adam优化器和MSE损失函数进行训练。
• 用于电池容量估计的CNN-LSTM模型使用20个时间步长和4个特征，输出层为单个全连接层，评估指标为平均绝对误差（MAE）。
• 通过SPC5-STUDIO AI插件，将预训练模型自动映射到三款汽车MCU（SPC584B、SPC58EC、SPC58NH）上。
• 通过测量所有MCU上的Flash内存、RAM使用量和平均推理时间，对模型复杂度进行性能分析。
• 每种模型均使用不同的随机种子训练10次，以确保鲁棒性，验证阶段使用原始模型输出作为真实标签，实现100%交叉准确率。

实验结果

研究问题

• RQ1 预训练神经网络能否在汽车级微控制器上有效部署，以实现实时边缘推理，应用于安全关键型应用？
• RQ2 当神经网络模型映射到汽车MCU时，其计算资源占用（Flash、RAM、推理时间）如何？
• RQ3 不同的MCU时钟频率如何影响嵌入式神经网络部署中的推理性能？
• RQ4 在严格的内存和延迟约束下，神经网络能否在CAN总线入侵检测和锂离子电池容量估计任务中实现可接受的准确率？
• RQ5 模型架构（如LSTM自编码器与CNN-LSTM）如何影响汽车MCU上的资源利用率和推理效率？

主要发现

• LSTM自编码器在SPC58NH MCU上的平均推理时间为6ms，Flash使用量为24.92KB，RAM使用量为4.05KB。
• CNN-LSTM模型的Flash使用量为35.13KB，RAM使用量为2.25KB，在SPC58NH MCU上的平均推理时间为3.86ms。
• CNN-LSTM模型在剩余容量估计任务中实现了0.0434的平均绝对误差（MAE），低于电动汽车可接受阈值±0.05。
• 在两个模型中，LSTM层均为最耗资源的组件，占用了最高比例的Flash、RAM和执行时间。
• 推理时间随MCU时钟频率的提高呈线性下降，SPC58NH在两个模型中均实现了最快性能。
• 两个模型在验证阶段均实现了100%的交叉准确率，证实了C模型映射过程的保真度。