[논문 리뷰] Explainable Machine Learning-Based Security and Privacy Protection Framework for Internet of Medical Things Systems

Ayoub Si-Ahmed, Mohammed Ali Al-Garadi외 1명|arXiv (Cornell University)|2024. 03. 14.

Artificial Intelligence in Healthcare and Education인용 수 5

한 줄 요약

논문은 ANN을 활용한 이상 탐지와 모델 결정 설명을 위한 XAI 기술을 이용하여 프라이버시를 보존하고 중앙집중 방식과 비슷한 성능을 달성하는 IoMT 기반 연합학습(IoMT Federated Learning) 침입 탐지 프레임워크를 제시한다.

ABSTRACT

The Internet of Medical Things transcends traditional medical boundaries, enabling a transition from reactive treatment to proactive prevention. This innovative method revolutionizes healthcare by facilitating early disease detection and tailored care, particularly in chronic disease management, where IoMT automates treatments based on real-time health data collection. Nonetheless, its benefits are countered by significant security challenges that endanger the lives of its users due to the sensitivity and value of the processed data, thereby attracting malicious interests. Moreover, the utilization of wireless communication for data transmission exposes medical data to interception and tampering by cybercriminals. Additionally, anomalies may arise due to human error, network interference, or hardware malfunctions. In this context, anomaly detection based on Machine Learning (ML) is an interesting solution, but it comes up against obstacles in terms of explicability and privacy protection. To address these challenges, a new framework for Intrusion Detection Systems is introduced, leveraging Artificial Neural Networks for intrusion detection while utilizing Federated Learning for privacy preservation. Additionally, eXplainable Artificial Intelligence methods are incorporated to enhance model explanation and interpretation. The efficacy of the proposed framework is evaluated and compared with centralized approaches using multiple datasets containing network and medical data, simulating various attack types impacting the confidentiality, integrity, and availability of medical and physiological data. The results offer compelling evidence that the FL method performs comparably to the centralized method, demonstrating high performance. Additionally, it affords the dual advantage of safeguarding privacy and providing model explanation while adhering to ethical principles.

연구 동기 및 목표

• 무선 데이터 전송의 보안 및 프라이버시 위험과 의료 데이터의 이상치를 다루어 안전한 IoMT 배포를 촉진한다.
• 프라이버시를 연합학습으로 보존하고 중앙 집중식 데이터 수집을 피하는 ML 기반 IDS 아키텍처를 제안한다.
• 설계와 규정 준수를 강화하기 위해 설명 가능성(XAI) 방법을 통합한다.
• 여러 네트워크 및 의료 데이터셋에서 제안된 프레임워크를 중앙집중 방식과 비교 평가한다.

제안 방법

• 로컬 디바이스에서 모델을 학습하고 원시 데이터를 공유하는 대신 모델 가중치를 공유하는 연합학습을 사용하여 IoMT용 IDS 프레임워크를 설계한다.
• 실시간 이상 탐지를 위해 인공신경망(ANN)을 활용한 딥러닝 기반 침입 탐지 시스템을 구현한다.
• 관계자들을 위해 모델 의사결정을 설명하고 해석하기 위한 XAI 기법을 도입한다.
• 데이터 수집 계층, 개인 서버 계층, 메디컬 서버 계층의 3계층 IoMT 아키텍처를 사용하고 FL에서의 통신 라운드와 로컬 에포크를 최적화한다.
• Adam 옵티마이저와 로컬 모델 업데이트를 위한 이진 교차 엔트로피 손실을 사용한 상세한 학습 설정을 제공한다.
• 4개의 데이터셋에 걸친 FL과 중앙집중 학습을 비교하여 성능, 프라이버시 및 설명가능성의 이점을 평가한다.

실험 결과

연구 질문

• RQ1 연합학습이 IoMT 환경에서 중앙집중 학습과 유사한 침입 탐지 성능을 달성할 수 있는가?
• RQ2 XAI를 도입하면 탐지 정확도를 저해하지 않으면서 신뢰를 높이는 의미 있는 설명을 제공하는가?
• RQ3 IoMT에서 다수의 데이터셋에 걸친 FL 기반 IDS의 프라이버시, 지연(latency), 확장성에 어떤 영향을 미치는가?
• RQ4 제안된 ANN 기반 IDS가 IoMT의 네트워크 및 의료 데이터 조합에서 어떻게 작동하는가?

주요 결과

• FL 기반 IDS는 평가된 데이터셋에서 중앙집중 방식과 유사한 높은 성능을 달성한다.
• 연합학습은 원시 데이터 대신 가중치를 교환함으로써 프라이버시를 보존하고 대역폭 및 지연 문제를 감소시킨다.
• XAI 통합은 환자, 설계자 및 규제기관에 대한 해석 가능성을 향상시키면서 탐지 능력을 희생하지 않는다.
• 실험은 네트워크 및 의료 데이터를 포함하는 네 가지 서로 다른 데이터셋에서 프레임워크의 적용 가능성과 강건성을 보인다.
• 제안된 프레임워크는 중앙 집중식 모델의 단일 장애 지점을 해결하고 시스템 확장성을 지원한다.