[論文レビュー] Explaining Network Intrusion Detection System Using Explainable AI Framework

Shraddha Mane, Dattaraj Jagdish Rao|arXiv (Cornell University)|Mar 12, 2021

Explainable Artificial Intelligence (XAI)参考文献 6被引用数 63

ひとこと要約

論文は、深層ニューラルネットワークベースのネットワーク侵入検知システムの説明可能 AI フレームワークを開発し、NSL-KDD データセット上で SHAP、LIME、CoM、ProtoDash、Boolean ルールを用いた説明を示します。

ABSTRACT

Cybersecurity is a domain where the data distribution is constantly changing with attackers exploring newer patterns to attack cyber infrastructure. Intrusion detection system is one of the important layers in cyber safety in today's world. Machine learning based network intrusion detection systems started showing effective results in recent years. With deep learning models, detection rates of network intrusion detection system are improved. More accurate the model, more the complexity and hence less the interpretability. Deep neural networks are complex and hard to interpret which makes difficult to use them in production as reasons behind their decisions are unknown. In this paper, we have used deep neural network for network intrusion detection and also proposed explainable AI framework to add transparency at every stage of machine learning pipeline. This is done by leveraging Explainable AI algorithms which focus on making ML models less of black boxes by providing explanations as to why a prediction is made. Explanations give us measurable factors as to what features influence the prediction of a cyberattack and to what degree. These explanations are generated from SHAP, LIME, Contrastive Explanations Method, ProtoDash and Boolean Decision Rules via Column Generation. We apply these approaches to NSL KDD dataset for intrusion detection system and demonstrate results.

研究の動機と目的

• データ分布の変化と攻撃パターンの進化により機械学習ベースの侵入検知における透明性の必要性を動機づける。
• MLパイプラインの各段階で説明を提供するエンドツーエンドのExplainable AI フレームワークを提案する。
• 複数の XAI 技術を適用して特徴の影響と推論を明らかにする。
• NSL-KDD 侵入検知データセットでアプローチを実演する。

提案手法

• ネットワーク侵入検知のための深層ニューラルネットワークを訓練する。
• 複数の XAI 手法（SHAP、LIME、Contrastive Explanations Method、ProtoDash、Boolean Decision Rules via Column Generation）を統合して説明を生成する。
• 推論の特徴の影響と推論を定量化する説明を提供する。
• NSL-KDD データセットに説明を適用して意思決定の透明性を示す。

実験結果

リサーチクエスチョン

• RQ1 深層学習ベースの侵入検知パイプラインの各段階でどのように説明を生成できるか？
• RQ2 異なる explainable AI 手法に従って、どの特徴が侵入予測に最も影響を与えるか？
• RQ3 XAI の説明は NSL-KDD データに対する IDS の意思決定を理解し信頼するのに役立つか？

主な発見

• 深層ニューラルネットワークベースの IDS に透明性を追加する説明可能 AI フレームワークが提案されている。
• 説明は SHAP、LIME、Contrastive Explanations Method、ProtoDash、Boolean ルールを用いて生成される。
• このフレームワークは予測に影響を与える特徴とその程度を測定することを可能にする。
• NSL-KDD データセットを用いてアプローチの説明能力を実証する。