[论文解读] A Novel Framework for Threat Analysis of Machine Learning-based Smart Healthcare Systems

Nur Imtiazul Haque, Mohammad Ashiqur Rahman+3 more|arXiv (Cornell University)|Jan 1, 2021

Adversarial Robustness in Machine Learning参考文献 45被引用 7

一句话总结

本文提出SHChecker，一种结合机器学习与形式化方法的新型威胁分析框架，用于识别基于机器学习的智能医疗系统（SHS）中潜在的对抗性攻击向量。通过建模传感器数据间的关系，并形式化分析最小传感器值变化如何欺骗疾病分类与异常检测模型，SHChecker揭示了可被利用的攻击路径，表明即使单个传感器的操纵也可能危及患者安全，为实时SHS部署中提升模型鲁棒性提供了设计指南。

ABSTRACT

Smart healthcare systems (SHSs) are providing fast and efficient disease treatment leveraging wireless body sensor networks (WBSNs) and implantable medical devices (IMDs)-based internet of medical things (IoMT). In addition, IoMT-based SHSs are enabling automated medication, allowing communication among myriad healthcare sensor devices. However, adversaries can launch various attacks on the communication network and the hardware/firmware to introduce false data or cause data unavailability to the automatic medication system endangering the patient's life. In this paper, we propose SHChecker, a novel threat analysis framework that integrates machine learning and formal analysis capabilities to identify potential attacks and corresponding effects on an IoMT-based SHS. Our framework can provide us with all potential attack vectors, each representing a set of sensor measurements to be altered, for an SHS given a specific set of attack attributes, allowing us to realize the system's resiliency, thus the insight to enhance the robustness of the model. We implement SHChecker on a synthetic and a real dataset, which affirms that our framework can reveal potential attack vectors in an IoMT system. This is a novel effort to formally analyze supervised and unsupervised machine learning models for black-box SHS threat analysis.

研究动机与目标

• 为应对依赖无线体域传感器网络与植入式医疗设备的基于机器学习的智能医疗系统（SHS）日益增长的网络攻击威胁。
• 识别通过最小化传感器测量值改动即可欺骗基于机器学习的疾病分类与异常检测模型的潜在攻击向量。
• 为实时SHS提供一种形式化、系统化的方法，评估系统在对抗性操纵下的弹性能力。
• 通过量化不同算法的脆弱性，为SHS设计者选择更具鲁棒性的机器学习模型提供指导。
• 在面向关键安全的网络物理医疗系统中，开启黑箱机器学习模型形式化验证的新研究方向。

提出的方法

• 整合监督学习模型（如决策树、逻辑回归、神经网络）用于疾病分类，以及无监督聚类模型（DBSCAN或K-means）用于异常检测。
• 利用历史传感器数据学习生命体征关系的正常模式，并生成形式化威胁建模的约束条件。
• 通过灵活属性定义攻击模型：攻击者能力（传感器变化阈值）、目标状态（疾病标签）及方法（如单传感器或多传感器操纵）。
• 应用形式化分析生成所有可行的攻击向量——即在被篡改后可导致目标疾病分类且规避异常检测的传感器测量值集合。
• 通过机器学习模型生成约束，定义有效传感器状态的边界，实现对抗性输入的系统性枚举。
• 在合成数据集与真实UQVS数据集上验证该框架，测量其可扩展性与攻击向量检测性能。

实验结果

研究问题

• RQ1 在基于机器学习的SHS中，导致患者疾病状态误分类的最小传感器值改动是什么？
• RQ2 在相同攻击模型下，不同机器学习模型（如DT、LR、NN）在对抗性攻击下的敏感性有何差异？
• RQ3 攻击者在保持传感器测量值处于正常运行范围内的前提下，能在多大程度上通过操纵传感器数据规避异常检测？
• RQ4 当系统传感器测量数量增加时，该威胁分析框架的可扩展性如何？
• RQ5 即使仅一个传感器被攻破，该框架是否仍能识别出可被利用的攻击向量？

主要发现

• 基于逻辑回归的疾病分类模型在对抗性攻击下比决策树或神经网络更具脆弱性。
• 即使仅对单个传感器值进行操纵，也可能生成可成功规避异常检测并触发错误治疗决策的攻击向量。
• 尽管神经网络模型的准确率略低，但其检测到的攻击向量数量显著少于逻辑回归模型。
• 该框架具有合理的可扩展性，30个传感器测量值的威胁分析耗时仅略超过5分钟，表明实时攻击可行性成立。
• SHChecker在合成数据集与真实世界UQVS数据集上均成功识别出可被利用的攻击路径，证实其实际应用价值。
• 该框架为SHS设计者提供了可操作的洞见，表明模型选择会直接影响系统在对抗性传感器操纵下的弹性能力。