[論文レビュー] XAI for Cybersecurity: State of the Art, Challenges, Open Issues and Future Directions

Gautam Srivastava, Rutvij H. Jhaveri+8 more|arXiv (Cornell University)|Jun 3, 2022

Network Security and Intrusion Detection被引用数 58

ひとこと要約

XAIがサイバーセキュリティに適用される方法の総合的なレビュー、最先端、課題、産業・研究の実装、および将来の方向性を詳述。

ABSTRACT

In the past few years, artificial intelligence (AI) techniques have been implemented in almost all verticals of human life. However, the results generated from the AI models often lag explainability. AI models often appear as a blackbox wherein developers are unable to explain or trace back the reasoning behind a specific decision. Explainable AI (XAI) is a rapid growing field of research which helps to extract information and also visualize the results generated with an optimum transparency. The present study provides and extensive review of the use of XAI in cybersecurity. Cybersecurity enables protection of systems, networks and programs from different types of attacks. The use of XAI has immense potential in predicting such attacks. The paper provides a brief overview on cybersecurity and the various forms of attack. Then the use of traditional AI techniques and its associated challenges are discussed which opens its doors towards use of XAI in various applications. The XAI implementations of various research projects and industry are also presented. Finally, the lessons learnt from these applications are highlighted which act as a guide for future scope of research.

研究の動機と目的

• サイバーセキュリティの基本情報と一般的な攻撃形態を提供する。
• サイバーセキュリティにおけるXAIの必要性を正当化し、AI結果の説明可能性のギャップを特定する。
• 産業界全体でのXAIベースのサイバーセキュリティ・フレームワークの適用を提示する。
• サイバーセキュリティのためにXAIを実装する研究・産業プロジェクトについて議論する。
• サイバーセキュリティのためのXAIの今後の研究を導く教訓を強調する。

提案手法

• サイバーセキュリティにおけるXAIの広範な文献調査を実施する。
• 従来のAIがサイバーセキュリティにおいて持つ限界を議論し、XAIを動機づける。
• 研究と産業におけるXAIの実装を例と技術とともに調査する。
• 既存研究の比較分析を提供し（Table 2）、本研究の位置づけを示す。
• 得られた教訓を要約し、今後の研究の方向性を概説する。

実験結果

リサーチクエスチョン

• RQ1 サイバーセキュリティへのXAI適用における最新の技術状況はどのようなものか。
• RQ2 サイバーセキュリティ向けにXAIを展開する際の主な課題と未解決の問題は何か。
• RQ3 XAI手法は異なる産業分野でサイバーセキュリティのためにどのように適用されてきたか。
• RQ4 既存のXAIサイバーセキュリティ実装から将来の取り組みを導く教訓は何か。

主な発見

• XAIはAI駆動のサイバーセキュリティ決定に透明性と正当性をもたらし、ブラックボックスの懸念に対処する。
• SHAP、CHEM、およびDiversified Counterfactual Explanations (DiCE) は、サイバーセキュリティのタスクにおけるモデルの挙動を理解するために用いられる手法の一部である。
• いくつかの研究は、解釈性の向上と場合によっては性能を改善したXAI強化IDSおよびサイバーセキュリティ・フレームワークを示している。
• The paper notes a growing body of XAI applications in cybersecurity and provides a comparative literature analysis (Table 2).
• ゼロショット説明と決定木ベースのXAIアプローチは、精度と説明可能性のバランスをとるために探究されている。
• 教訓は将来の研究の方向性、課題、産業横断の潜在的な応用を特定する。