[論文レビュー] Explainable Intrusion Detection Systems (X-IDS): A Survey of Current Methods, Challenges, and Opportunities

Subash Neupane, Jesse Ables+5 more|arXiv (Cornell University)|Jul 13, 2022

Network Security and Intrusion Detection被引用数 4

ひとこと要約

本調査では、AIベースのIDSにおけるホワイトボックスおよびブラックボックスの説明可能性アプローチを分析することで、説明可能インシデント検出システム（X-IDS）の体系的フレームワークを提案する。3層構造のヒューマンインザループアーキテクチャを提示し、モデルの不透明性や対策攻撃といった主な課題を特定。サイバーセキュリティオペレーションセンター（CSoCs）における信頼性と意思決定の向上を目指し、標準化されたメトリクスとステークホルダー別に最適化された説明を提言する。

ABSTRACT

The application of Artificial Intelligence (AI) and Machine Learning (ML) to cybersecurity challenges has gained traction in industry and academia, partially as a result of widespread malware attacks on critical systems such as cloud infrastructures and government institutions. Intrusion Detection Systems (IDS), using some forms of AI, have received widespread adoption due to their ability to handle vast amounts of data with a high prediction accuracy. These systems are hosted in the organizational Cyber Security Operation Center (CSoC) as a defense tool to monitor and detect malicious network flow that would otherwise impact the Confidentiality, Integrity, and Availability (CIA). CSoC analysts rely on these systems to make decisions about the detected threats. However, IDSs designed using Deep Learning (DL) techniques are often treated as black box models and do not provide a justification for their predictions. This creates a barrier for CSoC analysts, as they are unable to improve their decisions based on the model's predictions. One solution to this problem is to design explainable IDS (X-IDS). This survey reviews the state-of-the-art in explainable AI (XAI) for IDS, its current challenges, and discusses how these challenges span to the design of an X-IDS. In particular, we discuss black box and white box approaches comprehensively. We also present the tradeoff between these approaches in terms of their performance and ability to produce explanations. Furthermore, we propose a generic architecture that considers human-in-the-loop which can be used as a guideline when designing an X-IDS. Research recommendations are given from three critical viewpoints: the need to define explainability for IDS, the need to create explanations tailored to various stakeholders, and the need to design metrics to evaluate explanations.

研究の動機と目的

• 深層学習ベースのインシデント検出システム（IDS）における透明性の欠如に起因するブラックボックス化が、アナリストの信頼性と意思決定を阻害するという問題に対処する。
• ホワイトボックスおよびポストホック（ブラックボックス）説明技術を含む、IDSにおける説明可能AI（XAI）の現在の手法を体系的にレビューする。
• X-IDSにおける主要な課題、例えば説明に対する対策攻撃、誤解を招く解釈、パフォーマンスのオーバーヘッドを特定する。
• DARPAのXAIフレームワークに整合する汎用的で3層構造のX-IDSアーキテクチャを提案し、ヒューマンインザループのセキュリティオペレーションを支援する。
• 説明可能性の定義、ステークホルダーに応じた説明の最適化、評価メトリクスの開発に関する研究的提言を提供する。

提案手法

• X-IDS手法をホワイトボックス（注釈可能モデル、例：アテンションメカニズムや意思決定木）とブラックボックス（LIME や SHAP などのポストホック説明ツール）に分類する。
• モデルのパフォーマンスと説明可能性のトレードオフを分析し、ブラックボックス手法がしばしば高い精度を達成するが、追加の説明計算を要することに注意する。
• 3層構造のX-IDSアーキテクチャを提案：(1) データの取り込みと前処理、(2) 説明可能な機械学習モデル（例：説明可能なDNNやハイブリッドモデル）、(3) CSoCアナリスト向けの説明インターフェース。
• ドメイン知識に基づくアナリストによる説明の検証、是正、再トレーニングを可能にするヒューマンインザループフィードバックを統合する。
• DARPAのXAIフレームワークを設計指針として用い、モジュラリティ、拡張性、および現実世界のCSoCワークフローとの整合性を確保する。
• 100篇以上の最近のXAIおよびIDS関連論文を包括的に調査し、分野におけるトレンド、ギャップ、未解決課題を同定する。

実験結果

リサーチクエスチョン

• RQ1 ホワイトボックスとブラックボックスの説明可能性アプローチは、IDSにおける検出精度と説明の透明性のバランスをどのように異なる能力で達成するか？
• RQ2 実際のサイバーセキュリティオペレーションセンター（CSoCs）にX-IDSを展開するにあたり、説明に対する対策攻撃やパフォーマンスのオーバーヘッドを含めた主な課題は何か？
• RQ3 アナリスト、監査者、システムアーキテクトなどの異なるステークホルダーに応じて、説明をどのようにカスタマイズすれば信頼性と意思決定の質を向上させられるか？
• RQ4 X-IDSにおける説明の質と信頼性を客観的に評価するためのメトリクスは何か？
• RQ5 リアルタイムの脅威検出と説明を支援するスケーラブルでモジュラーかつヒューマンセンタードのX-IDSアーキテクチャをどのように設計できるか？

主な発見

• LIME や SHAP といったブラックボックス説明手法は、高精度な深層学習モデルとの互換性があるため、ホワイトボックスモデルよりも広く採用されている。
• ホワイトボックスモデルは一般的に忠実度が高く詳細な説明を提供するが、ブラックボックスモデルに比べて検出性能が犠牲になりがちである。
• データ汚染やモデル回避攻撃などの説明に対する対策攻撃は、説明の質を操作または低下させ、X-IDSの信頼性に対して深刻な脅威をもたらす。
• 低品質なデータや不適切な説明アルゴリズムによって生じる誤解を招くまたは誤った説明は、CSoCアナリストを誤導し、システムの信頼性を低下させる。
• 説明生成に伴うパフォーマンスのオーバーヘッドは深刻な懸念事項である。高リスクのサンプルにのみ説明を適用する選択的説明は、リアルタイム動作を維持するための有効な最適化戦略である。
• IDSにおける「説明可能性」の定義について合意がなく、説明の質を評価するための標準化されたメトリクスも存在しないため、大きな研究ギャップが浮き彫りになっている。