[论文解读] Explaining RADAR features for detecting spoofing attacks in Connected Autonomous Vehicles

Nidhi Rastogi, Sara Rampazzi+4 more|arXiv (Cornell University)|Mar 1, 2022

Adversarial Robustness in Machine Learning被引用 4

一句话总结

本文提出了一种基于Dempster-Shafer理论的框架，用于解释联网自动驾驶汽车（CAVs）中雷达传感器数据的不确定性，以检测欺骗攻击。通过量化雷达特征中的信任度、可能性和不确定性，该方法提升了机器学习模型的鲁棒性，在分类障碍物状态时实现了96%的准确率，并以高置信度将全部11个欺骗数据包识别为静止状态。

ABSTRACT

Connected autonomous vehicles (CAVs) are anticipated to have built-in AI systems for defending against cyberattacks. Machine learning (ML) models form the basis of many such AI systems. These models are notorious for acting like black boxes, transforming inputs into solutions with great accuracy, but no explanations support their decisions. Explanations are needed to communicate model performance, make decisions transparent, and establish trust in the models with stakeholders. Explanations can also indicate when humans must take control, for instance, when the ML model makes low confidence decisions or offers multiple or ambiguous alternatives. Explanations also provide evidence for post-incident forensic analysis. Research on explainable ML to security problems is limited, and more so concerning CAVs. This paper surfaces a critical yet under-researched sensor data extit{uncertainty} problem for training ML attack detection models, especially in highly mobile and risk-averse platforms such as autonomous vehicles. We present a model that explains extit{certainty} and extit{uncertainty} in sensor input -- a missing characteristic in data collection. We hypothesize that model explanation is inaccurate for a given system without explainable input data quality. We estimate extit{uncertainty} and mass functions for features in radar sensor data and incorporate them into the training model through experimental evaluation. The mass function allows the classifier to categorize all spoofed inputs accurately with an incorrect class label.

研究动机与目标

• 解决基于机器学习的CAV攻击检测中输入数据质量缺乏可解释性的问题，特别是传感器数据不确定性方面。
• 通过在训练数据中引入不确定性量化，提升模型的可信度和可 forensics 分析能力，实现更好的决策透明度。
• 使安全专家能够通过基于证据的推理，区分真实传感器行为与对抗性欺骗攻击。
• 证明考虑不确定性的输入数据可增强机器学习模型在检测雷达传感器输入欺骗攻击方面的可靠性。
• 提供一种将不确定传感器数据集成到机器学习模型中的框架，以支持更安全、更透明的自动驾驶汽车决策。

提出的方法

• 使用Dempster-Shafer理论（DST）对每个雷达特征（如速度、反射强度、距离）在识别框架{静止, 运动, 两者}中建模信任度、可能性和不确定性。
• 应用DST方程计算每个特征的信任度、可能性和不确定性值，以表示无知和部分证据。
• 为每个假设（s, m, sm）分配质量函数，以表示对每个类别的支持程度，质量值越高表示证据越强。
• 在混合雷达数据集上进行实证评估，该数据集结合了模拟数据和真实世界数据，特征以CSV格式提供，并预先分配了类别标签。
• 注入11个欺骗雷达数据包（将静止物体标记为运动）以在对抗性条件下测试检测能力。
• 使用最高信任度值确定类别预测，并利用质量函数的偏移（如运动类别的质量增加）检测欺骗行为，即使类别标签因对抗性干扰而错误。

实验结果

研究问题

• RQ1 雷达传感器数据中的不确定性量化是否能提升基于机器学习的CAV攻击检测的可解释性和可靠性？
• RQ2 将基于Dempster-Shafer理论的证据函数整合进来，如何增强对雷达输入欺骗攻击的检测能力？
• RQ3 当机器学习模型的标签分配因对抗性操纵而错误时，质量函数在多大程度上能检测到欺骗数据？
• RQ4 在输入特征中整合不确定性是否能带来更准确且可信的障碍物状态分类（静止与运动）？
• RQ5 该方法是否能通过提供传感器读数异常和不确定性的可解释证据，支持取证分析？

主要发现

• 当使用组合特征（速度和反射强度）对障碍物状态（静止或运动）进行分类时，模型准确率达到96%。
• 当仅使用距离作为特征进行类别归属时，准确率下降至90%以下，表明特征对不确定性的敏感性存在差异。
• 所有11个注入的欺骗数据包均被正确分类为静止状态，且‘运动’类别的质量函数值显著低于预期。
• 对于欺骗数据包#2，‘运动’类别的质量为0.3023，而‘静止’类别的信任度为0.6976，正确揭示了不一致性和潜在欺骗行为。
• 对于欺骗数据包#1，组合类别‘s,m’（静止和运动）的质量函数达到0.36，表明存在高度不确定性，可能暗示数据操纵。
• 该方法通过识别异常的质量函数偏移（尤其是当‘运动’质量较高但物体实际静止时）成功检测到欺骗行为，为对抗性干扰提供了取证证据。