[論文レビュー] A Novel Framework for Threat Analysis of Machine Learning-based Smart Healthcare Systems

Nur Imtiazul Haque, Mohammad Ashiqur Rahman+3 more|arXiv (Cornell University)|Jan 1, 2021

Adversarial Robustness in Machine Learning参考文献 45被引用数 7

ひとこと要約

本稿では、機械学習と形式的手法を組み合わせることで、機械学習ベースのスマートヘルスケアシステム（SHS）における潜在的な敵対的攻撃ベクトルを特定する、新しい脅威分析フレームワークSHCheckerを提案する。センサデータの関係性をモデル化し、最小限のセンサ値の変更が疾患分類および異常検出モデルをだます可能性を形式的に分析することで、攻撃者が利用可能な攻撃経路を特定する。本研究では、単一センサの改ざんでさえも患者の安全を脅かす可能性があることを示しており、リアルタイムのSHSへの展開におけるモデルの頑健性向上に向けた設計ガイドを提供する。

ABSTRACT

Smart healthcare systems (SHSs) are providing fast and efficient disease treatment leveraging wireless body sensor networks (WBSNs) and implantable medical devices (IMDs)-based internet of medical things (IoMT). In addition, IoMT-based SHSs are enabling automated medication, allowing communication among myriad healthcare sensor devices. However, adversaries can launch various attacks on the communication network and the hardware/firmware to introduce false data or cause data unavailability to the automatic medication system endangering the patient's life. In this paper, we propose SHChecker, a novel threat analysis framework that integrates machine learning and formal analysis capabilities to identify potential attacks and corresponding effects on an IoMT-based SHS. Our framework can provide us with all potential attack vectors, each representing a set of sensor measurements to be altered, for an SHS given a specific set of attack attributes, allowing us to realize the system's resiliency, thus the insight to enhance the robustness of the model. We implement SHChecker on a synthetic and a real dataset, which affirms that our framework can reveal potential attack vectors in an IoMT system. This is a novel effort to formally analyze supervised and unsupervised machine learning models for black-box SHS threat analysis.

研究の動機と目的

• 無線身体センサネットワークや埋め込み医療デバイスに依存する機械学習ベースのスマートヘルスケアシステム（SHS）に対するサイバー攻撃の増加する脅威に対処すること。
• 最小限のセンサ測定値の変更が機械学習ベースの疾患分類および異常検出モデルをだます可能性がある攻撃ベクトルを特定すること。
• リアルタイムのSHSにおける敵対的改ざんに対するシステムのレジリエンスを評価する形式的で体系的な手法を提供すること。
• 異なるアルゴリズムにおける脆弱性を定量的に評価することで、SHS設計者がより頑健な機械学習モデルを選択できるようにすること。
• 安全が重要なサイバーフィジカルヘルスケアシステムにおけるブラックボックス機械学習モデルの形式的検証分野に新たな研究方向性を開くこと。

提案手法

• 疾患分類に教師あり機械学習モデル（例：決定木、ロジスティック回帰、ニューラルネットワーク）、異常検出に非教師ありクラスタリングモデル（DBSCANまたはK-means）を統合する。
• 過去のセンサデータを用いて、バイタルサインの関係性の正常パターンを学習し、形式的脅威モデリングのための制約を生成する。
• 攻撃者の能力（センサ変更のしきい値）、標的状態（疾患ラベル）、手法（例：単一または複数センサの改ざん）といった柔軟な属性を用いて攻撃モデルを定義する。
• 形式的解析を適用し、標的疾患分類に至るが異常検出を回避できる、すべての可能な攻撃ベクトル（センサ測定値の集合）を生成する。
• 機械学習モデルを用いた制約生成により、有効なセンサ状態の境界を定義し、敵対的入力を体系的に列挙可能にする。
• 合成データおよび実際のUQVSデータセットを用いてフレームワークの妥当性を検証し、スケーラビリティおよび攻撃ベクトル検出性能を測定する。

実験結果

リサーチクエスチョン

• RQ1 機械学習ベースのSHSにおいて、患者の疾患状態を誤分類するための最小限のセンサ値の変更は何か？
• RQ2 同じ攻撃モデル下で、異なる機械学習モデル（例：DT、LR、NN）は、敵対的攻撃に対してどのように感受性を示すか？
• RQ3 正常運用範囲内に留まるようにセンサ測定値を改ざんすることで、攻撃者は異常検出をどれほど効果的に回避できるか？
• RQ4 センサ測定値の数が増加するシステムに適用した場合、脅威分析フレームワークのスケーラビリティはどの程度か？
• RQ5 単一のセンサが損傷した場合でも、フレームワークは攻撃可能な攻撃ベクトルを特定できるか？

主な発見

• ロジスティック回帰ベースの疾患分類モデルは、決定木やニューラルネットワークよりも敵対的攻撃に対してより脆弱であることが判明した。
• 単一のセンサ値の改ざんですら、異常検出を回避し、誤った治療意思決定を引き起こす成功する攻撃ベクトルを生成できる。
• ロジスティック回帰モデルでは、わずかに精度が低いニューラルネットワークよりも、検出された攻撃ベクトルの数が顕著に多かった。
• フレームワークは妥当なスケーラビリティを示しており、30個のセンサ測定値に対する脅威分析が5分をわずかに超える時間で実行可能であり、リアルタイムでの攻撃可能性が現実的であることを示した。
• SHCheckerは、合成データおよび実世界のUQVSデータセットの両方で、攻撃可能な攻撃経路を正常に同定し、実用的有用性を確認した。
• フレームワークはSHS設計者にとって実行可能なインサイトを提供しており、モデル選択が敵対的センサ改ざんに対するシステムのレジリエンスに直接影響することを示した。