[论文解读] XAI for Cybersecurity: State of the Art, Challenges, Open Issues and Future Directions

Gautam Srivastava, Rutvij H. Jhaveri+8 more|arXiv (Cornell University)|Jun 3, 2022

Network Security and Intrusion Detection被引用 58

一句话总结

对可解释AI（XAI）在网络安全中的应用进行全面综述，阐述现状、挑战、行业与研究实现及未来方向。

ABSTRACT

In the past few years, artificial intelligence (AI) techniques have been implemented in almost all verticals of human life. However, the results generated from the AI models often lag explainability. AI models often appear as a blackbox wherein developers are unable to explain or trace back the reasoning behind a specific decision. Explainable AI (XAI) is a rapid growing field of research which helps to extract information and also visualize the results generated with an optimum transparency. The present study provides and extensive review of the use of XAI in cybersecurity. Cybersecurity enables protection of systems, networks and programs from different types of attacks. The use of XAI has immense potential in predicting such attacks. The paper provides a brief overview on cybersecurity and the various forms of attack. Then the use of traditional AI techniques and its associated challenges are discussed which opens its doors towards use of XAI in various applications. The XAI implementations of various research projects and industry are also presented. Finally, the lessons learnt from these applications are highlighted which act as a guide for future scope of research.

研究动机与目标

• 提供关于网络安全和常见攻击形式的基本信息。
• 证明在网络安全中需要XAI，并识别AI结果可解释性中的空白。
• 展示基于XAI的网络安全框架在各行业的应用。
• 讨论在网络安全中实施XAI的研究和行业项目。
• 突出经验教训，以指导未来在网络安全领域的XAI研究。

提出的方法

• 对网络安全中的XAI进行广泛文献综述。
• 讨论传统AI在网络安全中的局限性以推动XAI。
• 对研究和行业中的XAI实现进行调查，附示例和技术。
• 对现有工作进行比较分析（表2），以定位本研究。
• 总结经验教训并概述未来研究方向。

实验结果

研究问题

• RQ1 在将XAI应用于网络安全方面，当前的最新进展是什么？
• RQ2 在部署XAI以用于网络安全时，主要挑战和未解决的问题是什么？
• RQ3 XAI方法在不同行业的网络安全中是如何应用的？
• RQ4 从现有的XAI网络安全实现中可以得出哪些教训来指导未来工作？

主要发现

• XAI在AI驱动的网络安全决策中实现透明性和可辩性，解决黑箱问题。
• SHAP、CHEM 和多样化对照反事实解释（DiCE）是用于理解网络安全任务中模型行为的技术之一。
• 若干研究表明XAI增强的入侵检测系统和网络安全框架具有更好的可解释性，在某些情况下还提升了性能。
• 本文指出在网络安全领域日益增长的XAI应用，并提供了对文献的比较分析（表2）。
• 探索零-shot解释和基于决策树的XAI方法，以在准确性与可解释性之间取得平衡。
• 经验教训确定未来的研究方向、挑战以及跨行业的潜在应用。