[论文解读] Domain Knowledge Aided Explainable Artificial Intelligence for Intrusion Detection and Response

Sheikh Md. Rabiul Islam, William Eberle+3 more|arXiv (Cornell University)|Nov 21, 2019

Anomaly Detection Techniques and Applications被引用 30

一句话总结

本文提出了一种融合领域知识的可解释人工智能入侵检测模型，通过将CIA三元组（机密性、完整性、可用性）整合到机器学习流程中。通过仅将特征减少为C、I和A，该模型实现了高度可解释性，推理速度快（朴素贝叶斯比支持向量机快444倍），并对未知攻击具有强大的泛化能力，在未见数据中对多种攻击类型的检测率达到100%。

ABSTRACT

Artificial Intelligence (AI) has become an integral part of modern-day security solutions for its ability to learn very complex functions and handling "Big Data". However, the lack of explainability and interpretability of successful AI models is a key stumbling block when trust in a model's prediction is critical. This leads to human intervention, which in turn results in a delayed response or decision. While there have been major advancements in the speed and performance of AI-based intrusion detection systems, the response is still at human speed when it comes to explaining and interpreting a specific prediction or decision. In this work, we infuse popular domain knowledge (i.e., CIA principles) in our model for better explainability and validate the approach on a network intrusion detection test case. Our experimental results suggest that the infusion of domain knowledge provides better explainability as well as a faster decision or response. In addition, the infused domain knowledge generalizes the model to work well with unknown attacks, as well as opens the path to adapt to a large stream of network traffic from numerous IoT devices.

研究动机与目标

• 为解决基于人工智能的入侵检测系统（IDS）中可解释性严重不足的问题，该问题阻碍了信任建立并延迟了人工介入的响应时间。
• 通过将既定的安全领域知识（CIA三元组）嵌入学习过程，提升模型的可解释性与决策透明度。
• 通过利用语义原则而非原始数据模式，提升对未知或零日攻击的泛化能力。
• 通过降低模型复杂度，在保持高检测准确率的同时加快响应时间。
• 通过轻量级、可解释的模型实现在高流量物联网和大数据网络流量中的可扩展部署。

提出的方法

• 在入侵检测系统（IDS）流程的特征工程阶段，将CIA三元组（机密性、完整性、可用性）作为领域知识注入。
• 构建仅包含三个衍生特征的最小特征集：C、I和A，分别表示各领域被破坏的程度。
• 在简化后的特征集上应用朴素贝叶斯（NB），以优先保证速度与可解释性，从而实现实时分析大规模流量流。
• 使用CICIDS2017数据集验证性能，涵盖15种常见攻击类型，包括DDoS、端口扫描、SQL注入和僵尸网络攻击。
• 通过统计分析（如混淆矩阵、F1分数）比较多种算法（随机森林、极坐标树、梯度提升、神经网络、支持向量机）及不同特征设置下的模型性能。
• 通过测量在测试集中此前未见过的攻击类型上的检测率，评估模型对未知攻击的泛化能力。

实验结果

研究问题

• RQ1 将CIA三元组作为领域知识嵌入是否能提升基于人工智能的入侵检测模型的可解释性？
• RQ2 仅将特征空间缩减为C、I和A是否能在不牺牲检测准确率的前提下增强模型的可解释性？
• RQ3 像朴素贝叶斯这样轻量级的模型，若结合领域增强特征，是否能与复杂模型一样有效检测未知攻击？
• RQ4 与传统黑箱模型相比，该领域知识增强模型的执行时间如何？
• RQ5 领域知识的引入在多大程度上提升了模型对零日或此前未见攻击的泛化能力？

主要发现

• 基于CIA特征的朴素贝叶斯模型在未见测试集中对14种攻击类型中的7种实现了100%的检测率，包括DDoS、端口扫描和SSH-Patator攻击。
• 朴素贝叶斯的执行速度比支持向量机快444.50倍，比梯度提升快77.06倍，适用于大规模流量的实时分析。
• 在采用所构建特征设置的情况下，该模型在未见数据中对Heartbleed和Web Attack-Sql实例的检测率达到100%，尽管其基础样本数量较低。
• 基于CIA的特征集对DDoS攻击的检测率达到83.22%，对Web Attack-XSS的检测率达到95.65%，在特定攻击类别中优于其他模型。
• 尽管其精确率和召回率低于随机森林，但结合领域特征的NB模型在速度、可解释性与对未知攻击的泛化能力之间实现了最佳平衡。
• CIA原则的引入使模型能够跨攻击类型实现泛化，表明对安全目标的语义理解可提升对新型威胁的鲁棒性。