[论文解读] Semi-supervised on-device neural network adaptation for remote and portable laser-induced breakdown spectroscopy

Kshitij Bhardwaj, Maya Gokhale|arXiv (Cornell University)|Apr 8, 2021

Laser-induced spectroscopy and plasma参考文献 13被引用 7

一句话总结

本文提出 MLP-LIBS-ADAPT，一种轻量级半监督边缘神经网络，适用于便携式和远程激光诱导击穿光谱（LIBS）系统，可在无标注数据的情况下适应领域偏移。该模型采用两层隐藏层的多层感知机（MLP），通过梯度反传实现无监督领域自适应，数据流处理中平均准确率达 89.3%，较非自适应模型最高提升 2.1%；在 Google Pixel 2 上，推理时间与微调时间分别为 0.097 秒和 599 秒。

ABSTRACT

Laser-induced breakdown spectroscopy (LIBS) is a popular, fast elemental analysis technique used to determine the chemical composition of target samples, such as in industrial analysis of metals or in space exploration. Recently, there has been a rise in the use of machine learning (ML) techniques for LIBS data processing. However, ML for LIBS is challenging as: (i) the predictive models must be lightweight since they need to be deployed in highly resource-constrained and battery-operated portable LIBS systems; and (ii) since these systems can be remote, the models must be able to self-adapt to any domain shift in input distributions which could be due to the lack of different types of inputs in training data or dynamic environmental/sensor noise. This on-device retraining of model should not only be fast but also unsupervised due to the absence of new labeled data in remote LIBS systems. We introduce a lightweight multi-layer perceptron (MLP) model for LIBS that can be adapted on-device without requiring labels for new input data. It shows 89.3% average accuracy during data streaming, and up to 2.1% better accuracy compared to an MLP model that does not support adaptation. Finally, we also characterize the inference and retraining performance of our model on Google Pixel2 phone.

研究动机与目标

• 解决在资源受限、电池供电的便携式 LIBS 系统中部署轻量级、高精度机器学习模型的挑战。
• 实现在无远程部署标注数据的情况下，对设备端模型进行领域偏移自适应。
• 在智能手机等嵌入式设备典型的内存与功耗严格限制下，优化模型性能。
• 对真实嵌入式处理器（Google Pixel 2）上的模型进行推理与微调性能的表征。
• 提出一种异构硬件加速器架构，以高效支持未来部署中的设备端推理与自适应。

提出的方法

• 为 LIBS 光谱分类提出一种轻量级两层隐藏层 MLP（MLP-LIBS），每层含 64 个神经元。
• 通过引入两个辅助层，基于梯度反传（Ganin & Lempitsky, 2015）实现无监督领域自适应，将 MLP-LIBS 扩展为 MLP-LIBS-ADAPT。
• 采用半监督自适应策略，在设备端微调过程中使用标注的长期记忆（LLTM）与未标注的短期记忆（USTM）。
• 通过 10 个数据块的数据流评估方式，其中 USTM 持续更新，模型在无标签条件下进行微调。
• 在嵌入式设备上通过标准反向传播实现模型自适应，最大限度降低计算开销。
• 提出一种异构加速器架构，包含用于原始光谱的 DRAM、用于只读 LLTM 的 NVM（如 ReRAM），以及用于 USTM 的 SRAM，并配备专用的 MLP 加速器以支持低功耗训练与推理。

实验结果

研究问题

• RQ1 在缺乏新环境标注数据的情况下，能否有效实现轻量级神经网络在设备端对 LIBS 的自适应？
• RQ2 标注的长期记忆（LLTM）大小如何影响在领域偏移场景下的设备端自适应性能？
• RQ3 在消费级嵌入式处理器（如 Google Pixel 2）上，该自适应模型的推理与微调延迟是多少？
• RQ4 在数据流条件下，设备端自适应模型的准确率与非自适应基线模型相比如何？
• RQ5 何种硬件架构可实现便携式 LIBS 系统中设备端推理与自适应的高效支持？

主要发现

• MLP-LIBS-ADAPT 在包含 12 种矿物类别的知名 LIBS 数据集上，数据流处理中实现了 89.3% 的平均准确率。
• 在领域偏移条件下，该模型较非自适应的 MLP-LIBS 基线模型最高提升 2.1% 的准确率。
• 在 Google Pixel 2 上，每数据块的平均推理时间为 0.097 秒，10 个数据流块的平均微调时间为 599 秒。
• 当 LLTM 大小等于初始离线训练数据量（18,000 个样本）时，性能达到最优；LLTM 大小较小（如 4,500）时，准确率显著下降（降至 85.6%）。
• 配置 18000i-18000L-100U 在 Pixel 2 上实现了准确率、内存占用与微调时间的最佳平衡。
• 本研究识别出，需采用结合 NVM 用于 LLTM、SRAM 用于 USTM，以及专用 MLP 训练加速器的异构硬件加速器，以支持高效的设备端自适应。