[论文解读] Explanation of Unintended Radiated Emission Classification via LIME

Tom Grimes, E. Church+2 more|arXiv (Cornell University)|Sep 4, 2020

Integrated Circuits and Semiconductor Failure Analysis参考文献 7被引用 4

一句话总结

本文提出了一种基于LIME的解释框架，用于解释深度学习模型在分类消费电子产品无意辐射发射（URE）时的决策过程。通过将LIME应用于在Flaming Moes数据集的电压波形短时傅里叶变换（STFT）上训练的ResNet-18分类器，作者识别出用于设备分类的关键频率带，实现了接近100%的准确率，并通过集成学习实现的稳健特征提取，增强了模型的可信度和可迁移性。

ABSTRACT

Unintended radiated emissions arise during the use of electronic devices. Identifying and mitigating the effects of these emissions is a key element of modern power engineering and associated control systems. Signal processing of the electrical system can identify the sources of these emissions. A dataset known as Flaming Moes includes captured unintended radiated emissions from consumer electronics. This dataset was analyzed to construct next-generation methods for device identification. To this end, a neural network based on applying the ResNet-18 image classification architecture to the short time Fourier transforms of short segments of voltage signatures was constructed. Using this classifier, the 18 device classes and background class were identified with close to 100 percent accuracy. By applying LIME to this classifier and aggregating the results over many classifications for the same device, it was possible to determine the frequency bands used by the classifier to make decisions. Using ensembles of classifiers trained on very similar datasets from the same parent data distribution, it was possible to recover robust sets of features of device output useful for identification. The additional understanding provided by the application of LIME enhances the trainability, trustability, and transferability of URE analysis networks.

研究动机与目标

• 提高深度学习模型在电力工程应用中对无意辐射发射（URE）分类的可解释性。
• 识别神经网络用于分类不同消费电子产品时所依赖的特定频率带。
• 通过LIME等可解释人工智能技术，增强模型的可信度、可训练性和可迁移性。
• 利用同一分布下的相似数据子集训练的分类器集成，构建稳健的特征集以实现设备识别。

提出的方法

• 采用ResNet-18架构，基于Flaming Moes数据集中电压信号段的短时傅里叶变换（STFT）进行图像分类任务。
• 模型通过以STFT频谱图为输入，对18种设备类别和一个背景类别进行高精度分类。
• 应用LIME（局部可解释模型无关解释）对单个预测结果进行分析，以识别影响分类决策的关键频率带。
• 将同一设备的多个预测结果的LIME解释进行聚合，以提取一致且稳健的频率特征。
• 采用集成学习方法，利用在相同数据分布下略有差异的子集训练多个分类器，以提升特征的稳定性和可靠性。
• 对提取出的频率带特征进行分析，以评估其在不同模型和设备间的相关性与一致性。

实验结果

研究问题

• RQ1 在深度学习模型对无意辐射发射进行分类时，哪些频率带最具影响力？
• RQ2 如何有效应用LIME来解释URE分类中复杂神经网络的决策过程？
• RQ3 集成方法能否提升从URE数据中提取的可解释特征的鲁棒性和一致性？
• RQ4 通过LIME实现的可解释性在多大程度上增强了URE分类模型的可信度和可迁移性？

主要发现

• ResNet-18模型在使用电压信号的STFT表示时，对18种设备类别和一个背景类别的分类准确率接近100%。
• LIME分析成功识别出模型用于分类决策所依赖的特定频率带，实现了模型决策的可解释性。
• 通过对同一设备的多个预测结果的LIME解释进行聚合，揭示了用于设备识别的一致且稳健的频率特征。
• 在相似数据子集上进行集成训练，提升了所提取频率特征的稳定性和可靠性。
• LIME的集成应用通过使决策过程透明化和可解释化，显著增强了模型的可信度。
• 该方法在不同设备类型和信号条件下，展现出显著提升URE分析模型可迁移性的潜力。