[논문 리뷰] A Novel Framework for Threat Analysis of Machine Learning-based Smart Healthcare Systems

Nur Imtiazul Haque, Mohammad Ashiqur Rahman외 3명|arXiv (Cornell University)|2021. 01. 01.

Adversarial Robustness in Machine Learning참고 문헌 45인용 수 7

한 줄 요약

이 논문은 기계 학습과 형식적 방법을 융합한 새로운 위협 분석 프레임워크인 SHChecker를 제안한다. 이는 기계 학습 기반 스마트 헬스케어 시스템(SHS)에서 잠재적인 적대적 공격 경로를 식별하는 데 목적이 있다. 센서 데이터 간의 관계를 모델링하고, 최소한의 센서 값 변경이 질병 분류 및 이상 탐지 모델을 기만할 수 있는지를 형식적으로 분석함으로써, 공격자가 악용할 수 있는 공격 경로를 드러낸다. 이는 단일 센서 조작만으로도 환자의 안전을 위협할 수 있음을 입증하며, 실시간 SHS 구현에서 모델의 강건성을 향상시키기 위한 설계 가이드를 제공한다.

ABSTRACT

Smart healthcare systems (SHSs) are providing fast and efficient disease treatment leveraging wireless body sensor networks (WBSNs) and implantable medical devices (IMDs)-based internet of medical things (IoMT). In addition, IoMT-based SHSs are enabling automated medication, allowing communication among myriad healthcare sensor devices. However, adversaries can launch various attacks on the communication network and the hardware/firmware to introduce false data or cause data unavailability to the automatic medication system endangering the patient's life. In this paper, we propose SHChecker, a novel threat analysis framework that integrates machine learning and formal analysis capabilities to identify potential attacks and corresponding effects on an IoMT-based SHS. Our framework can provide us with all potential attack vectors, each representing a set of sensor measurements to be altered, for an SHS given a specific set of attack attributes, allowing us to realize the system's resiliency, thus the insight to enhance the robustness of the model. We implement SHChecker on a synthetic and a real dataset, which affirms that our framework can reveal potential attack vectors in an IoMT system. This is a novel effort to formally analyze supervised and unsupervised machine learning models for black-box SHS threat analysis.

연구 동기 및 목표

• 무선 신체 센서 네트워크와 식통 의료 장치에 의존하는 기계 학습 기반 스마트 헬스케어 시스템(SHS)을 대상으로 증가하는 사이버 공격 위협을 다루기 위해.
• 최소한의 센서 측정치 변경이 기계 학습 기반 질병 분류 및 이상 탐지 모델을 기만할 수 있는 잠재적 공격 경로를 식별하기 위해.
• 실시간 SHS에서 적대적 조작에 대한 시스템의 내성 수준을 평가하기 위한 형식적이고 체계적인 방법을 제공하기 위해.
• 다양한 알고리즘 간의 취약성 수준을 정량화하여 SHS 설계자가 더 강건한 기계 학습 모델을 선택할 수 있도록 도와주기 위해.
• 안전이 중요한 사이버-물리 헬스케어 시스템에서 블랙박스 기계 학습 모델의 형식적 검증 분야에 새로운 연구 방향을 열기 위해.

제안 방법

• 질병 분류를 위한 지도 학습 기반 기계 학습 모델(예: 결정 트리, 로지스틱 회귀, 신경망)과 이상 탐지를 위한 비지도 학습 기반 클러스터링 모델(DBSCAN 또는 K-means)을 통합한다.
• 역사적 센서 데이터를 활용해 생체 신호 관계의 정상 패턴을 학습하고, 형식적 위협 모델링을 위한 제약 조건을 생성한다.
• 유연한 속성을 갖춘 공격 모델을 정의한다: 공격자의 능력(센서 변경의 임계값), 대상 상태(질병 레이블), 방법론(예: 단일 또는 다중 센서 조작 등).
• 형식적 분석을 적용하여 모든 가능한 공격 경로—목표 질병 분류로 이어지면서도 이상 탐지 시스템을 회피하는 센서 측정치 조합—를 생성한다.
• 기계 학습 모델을 통한 제약 조건 생성을 활용해 유효한 센서 상태의 경계를 정의함으로써, 적대적 입력의 체계적 열거를 가능하게 한다.
• 합성 및 실제 UQVS 데이터셋을 대상으로 프레임워크를 검증하여 확장성과 공격 경로 탐지 성능을 측정한다.

실험 결과

연구 질문

• RQ1 기계 학습 기반 SHS에서 환자의 질병 상태를 잘못 분류하는 데에 필요한 최소한의 센서 값 변경은 무엇인가?
• RQ2 동일한 공격 모델 하에서 다양한 기계 학습 모델(예: DT, LR, NN)은 공격에 얼마나 다른 정도로 취약한가?
• RQ3 정상 운영 범위 내에서 머물면서 센서 측정치를 조작함으로써 공격자가 이상 탐지 시스템을 얼마나 효과적으로 회피할 수 있는가?
• RQ4 센서 측정치 수가 증가함에 따라 위협 분석 프레임워크의 확장성은 어느 정도인가?
• RQ5 단일 센서만 손상된 경우에도 프레임워크가 공격 가능한 경로를 식별할 수 있는가?

주요 결과

• 로지스틱 회귀 기반 질병 분류 모델은 결정 트리나 신경망보다 공격에 더 취약한 것으로 밝혀졌다.
• 단일 센서 값 조작만으로도 이상 탐지 시스템을 회피하고 잘못된 치료 결정을 유도하는 성공적인 공격 경로를 만들 수 있었다.
• 로지스틱 회귀 모델의 경우 신경망 모델보다 검출된 공격 경로의 수가 현저히 많았으며, 이는 후자의 정확도가 略로 낮다는 점과도 대비된다.
• 프레임워크는 합리적으로 확장 가능했으며, 30개의 센서 측정치에 대한 위협 분석이 5분이 조금 넘는 시간에 수행되어 실시간 공격 가능성은 실현 가능하다고 확인되었다.
• SHChecker는 합성 및 실제 UQVS 데이터셋 모두에서 공격 가능한 경로를 성공적으로 식별하여 실용적 유용성을 입증했다.
• 프레임워크는 SHS 설계자에게 실질적인 통찰을 제공하였으며, 모델 선택이 적대적 센서 조작에 대한 시스템의 내성에 직접적인 영향을 미친다는 점을 보여주었다.