[논문 리뷰] Explaining Network Intrusion Detection System Using Explainable AI Framework

Shraddha Mane, Dattaraj Jagdish Rao|arXiv (Cornell University)|2021. 03. 12.

Explainable Artificial Intelligence (XAI)참고 문헌 6인용 수 63

한 줄 요약

논문은 SHAP, LIME, CoM, ProtoDash 및 Boolean 규칙을 사용하여 NSL-KDD 데이터셋에서 설명 가능한 AI 프레임워크를 개발하고 딥 뉴럴 네트워크 기반 네트워크 침입 탐지 시스템의 설명을 시연한다.

ABSTRACT

Cybersecurity is a domain where the data distribution is constantly changing with attackers exploring newer patterns to attack cyber infrastructure. Intrusion detection system is one of the important layers in cyber safety in today's world. Machine learning based network intrusion detection systems started showing effective results in recent years. With deep learning models, detection rates of network intrusion detection system are improved. More accurate the model, more the complexity and hence less the interpretability. Deep neural networks are complex and hard to interpret which makes difficult to use them in production as reasons behind their decisions are unknown. In this paper, we have used deep neural network for network intrusion detection and also proposed explainable AI framework to add transparency at every stage of machine learning pipeline. This is done by leveraging Explainable AI algorithms which focus on making ML models less of black boxes by providing explanations as to why a prediction is made. Explanations give us measurable factors as to what features influence the prediction of a cyberattack and to what degree. These explanations are generated from SHAP, LIME, Contrastive Explanations Method, ProtoDash and Boolean Decision Rules via Column Generation. We apply these approaches to NSL KDD dataset for intrusion detection system and demonstrate results.

연구 동기 및 목표

• 변화하는 데이터 분포와 진화하는 공격 패턴으로 인해 ML 기반 침입 탐지의 투명성 필요성 동기 부여.
• ML 파이프라인의 각 단계에서 설명을 제공하는 End-to-end Explainable AI 프레임워크 제안.
• 다양한 XAI 기법 적용하여 특성 영향력 및 예측 근거 밝히기.
• NSL-KDD 침입 탐지 데이터셋에 적용

제안 방법

• 네트워크 침입 탐지를 위한 딥 뉴럴 네트워크 학습.
• 여러 XAI 방법(SHAP, LIME, Contrastive Explanations Method, ProtoDash, 및 Column Generation을 통한 Boolean Decision Rules)을 통합하여 설명을 생성한다.
• 특성 영향력 및 예측 근거를 정량화한 설명을 제공한다.
• NSL-KDD 데이터셋에 설명을 적용하여 의사결정에서의 투명성을 보여준다.

실험 결과

연구 질문

• RQ1 딥 러닝 기반 침입 탐지 파이프라인의 각 단계에서 어떻게 설명을 생성할 수 있는가?
• RQ2 다양한 설명 가능한 AI 방법에 따라 어떤 특성이 침입 예측에 가장 큰 영향을 미치는가?
• RQ3 XAI 설명이 NSL-KDD 데이터에 대한 IDS 의사결정을 이해하고 신뢰하는 데 도움이 되는가?

주요 결과

• 설명 가능한 AI 프레임워크가 딥 뉴럴 네트워크 기반 IDS에 투명성을 추가하기 위해 제안된다.
• 설명은 SHAP, LIME, Contrastive Explanations Method, ProtoDash, 및 Boolean 규칙을 사용하여 생성된다.
• 프레임워크는 어떤 특성이 예측에 어느 정도 영향을 미치는지 측정하게 한다.
• NSL-KDD 데이터셋은 접근 방식의 설명 능력을 보여주기 위해 사용된다.