[论文解读] Explainable Machine Learning-Based Security and Privacy Protection Framework for Internet of Medical Things Systems

Ayoub Si-Ahmed, Mohammed Ali Al-Garadi+1 more|arXiv (Cornell University)|Mar 14, 2024

Artificial Intelligence in Healthcare and Education被引用 5

一句话总结

本论文提出了一种基于联邦学习的物联网医疗设备(IoMT)入侵检测框架，使用人工神经网络（ANN）进行异常检测，并结合可解释性AI（XAI）来解释模型决策，旨在在保护隐私的同时达到与集中方法相当的性能。

ABSTRACT

The Internet of Medical Things transcends traditional medical boundaries, enabling a transition from reactive treatment to proactive prevention. This innovative method revolutionizes healthcare by facilitating early disease detection and tailored care, particularly in chronic disease management, where IoMT automates treatments based on real-time health data collection. Nonetheless, its benefits are countered by significant security challenges that endanger the lives of its users due to the sensitivity and value of the processed data, thereby attracting malicious interests. Moreover, the utilization of wireless communication for data transmission exposes medical data to interception and tampering by cybercriminals. Additionally, anomalies may arise due to human error, network interference, or hardware malfunctions. In this context, anomaly detection based on Machine Learning (ML) is an interesting solution, but it comes up against obstacles in terms of explicability and privacy protection. To address these challenges, a new framework for Intrusion Detection Systems is introduced, leveraging Artificial Neural Networks for intrusion detection while utilizing Federated Learning for privacy preservation. Additionally, eXplainable Artificial Intelligence methods are incorporated to enhance model explanation and interpretation. The efficacy of the proposed framework is evaluated and compared with centralized approaches using multiple datasets containing network and medical data, simulating various attack types impacting the confidentiality, integrity, and availability of medical and physiological data. The results offer compelling evidence that the FL method performs comparably to the centralized method, demonstrating high performance. Additionally, it affords the dual advantage of safeguarding privacy and providing model explanation while adhering to ethical principles.

研究动机与目标

• 通过解决无线数据传输中的安全性和隐私风险以及医学数据中的异常情况，推动 IoMT 的安全部署。
• 提出一种基于 ML 的入侵检测系统架构，通过联邦学习（Federated Learning）来保护隐私，避免集中式数据收集。
• 整合 XAI 方法，提高对患者、设计者和监管者的可解释性和信任度。
• 在多个网络和医疗数据集上，将所提框架与集中式方法进行比较评估。

提出的方法

• 设计一个用于 IoMT 的 IDS 框架，使用联邦学习在本地设备上训练模型，并共享模型权重而非原始数据。
• 实现基于深度学习的入侵检测，使用人工神经网络进行实时异常检测。
• 结合 XAI 技术，为利益相关者解释和解读模型决策。
• 使用三层 IoMT 架构（数据采集层、个人服务器层、医疗服务器层），并在 FL 中优化通信轮次和本地训练轮次。
• 提供带有 Adam 优化器和二元交叉熵损失的本地模型更新的详细训练设置。
• 在四个数据集上比较 FL 与集中学习，以评估性能、隐私和可解释性的优势。

实验结果

研究问题

• RQ1 在 IoMT 环境中，联邦学习是否能达到与集中训练相媲美的入侵检测性能？
• RQ2 将 XAI 融入是否提供有意义的解释，提升信任度而不牺牲检测准确性？
• RQ3 在 IoMT 中，基于 FL 的 IDS 在多个数据集上的隐私、延迟和可扩展性影响是什么？
• RQ4 在 IoMT 的网络与医疗数据组合中，所提出的基于 ANN 的 IDS 的表现如何？

主要发现

• 基于 FL 的 IDS 在评估的数据集上实现了与集中方法相当的高性能。
• 联邦学习通过交换模型权重而非原始数据来保护隐私，降低带宽和延迟问题。
• XAI 集成提高了对患者、设计者和监管者的可解释性，同时不牺牲检测能力。
• 实验展示了该框架在含有网络和医疗数据的四个不同数据集上的适用性和鲁棒性。
• 所提出的框架解决了与集中式模型相关的单点故障风险，并支持系统扩展性。