[논문 리뷰] XAI for Cybersecurity: State of the Art, Challenges, Open Issues and Future Directions

Gautam Srivastava, Rutvij H. Jhaveri외 8명|arXiv (Cornell University)|2022. 06. 03.

Network Security and Intrusion Detection인용 수 58

한 줄 요약

Explainable AI(XAI)가 사이버 보안에 적용되는 방식의 포괄적 리뷰로, 최신 기술 현황, 도전과제, 산업 및 연구 구현, 그리고 향후 방향을 상세히 다룬다.

ABSTRACT

In the past few years, artificial intelligence (AI) techniques have been implemented in almost all verticals of human life. However, the results generated from the AI models often lag explainability. AI models often appear as a blackbox wherein developers are unable to explain or trace back the reasoning behind a specific decision. Explainable AI (XAI) is a rapid growing field of research which helps to extract information and also visualize the results generated with an optimum transparency. The present study provides and extensive review of the use of XAI in cybersecurity. Cybersecurity enables protection of systems, networks and programs from different types of attacks. The use of XAI has immense potential in predicting such attacks. The paper provides a brief overview on cybersecurity and the various forms of attack. Then the use of traditional AI techniques and its associated challenges are discussed which opens its doors towards use of XAI in various applications. The XAI implementations of various research projects and industry are also presented. Finally, the lessons learnt from these applications are highlighted which act as a guide for future scope of research.

연구 동기 및 목표

• 사이버 보안에 대한 기본 정보와 일반적인 공격 형태를 제공합니다.
• 사이버 보안에서 XAI의 필요성을 정당화하고 AI 결과의 설명 가능성의 공백을 식별합니다.
• 업계 전반에 걸친 XAI 기반 사이버 보안 프레임워크의 구현을 제시합니다.
• 사이버 보안을 위한 XAI를 구현하는 연구 및 산업 프로젝트를 논의합니다.
• 향후 XAI 사이버 보안 연구를 안내하기 위한 교훈을 강조합니다.

제안 방법

• 사이버 보안에서 XAI에 대한 광범위한 문헌 조사를 수행합니다.
• XAI를 동기화하기 위한 전통적 AI의 한계를 논의합니다.
• 예시와 기법을 통해 연구 및 산업의 XAI 구현을 조사합니다.
• 본 연구를 위치시키기 위한 기존 연구(표 2)의 비교 분석을 제공합니다.
• 교훈을 요약하고 향후 연구 방향을 개략합니다.

실험 결과

연구 질문

• RQ1 사이버 보안에 XAI를 적용하는 최신 기술 수준은 무엇인가?
• RQ2 사이버 보안을 위해 XAI를 배포하는 데 있어 주요 도전과제와 해결해야 할 문제는 무엇인가?
• RQ3 다양한 산업에서 사이버 보안을 위해 XAI 방법이 어떻게 적용되어 왔는가?
• RQ4 기존 XAI 사이버 보안 구현에서 앞으로의 작업을 안내하기 위해 어떤 교훈을 얻을 수 있는가?],
• RQ5 key_findings [
• RQ6 XAI는 사이버 보안 의사결정의 투명성 및 정당화를 가능하게 하여 블랙박스 문제를 해결합니다.
• RQ7 SHAP, CHEM, 그리고 Diversified Counterfactual Explanations (DiCE)은 사이버 보안 작업에서 모델 동작을 이해하는 데 사용되는 기법들 중 하나입니다.
• RQ8 여러 연구는 XAI 강화 IDS 및 사이버 보안 프레임워크를 보여주며, 해석 가능성이 향상되고 경우에 따라 성능도 향상되었습니다.
• RQ9 논문은 사이버 보안에서 증가하는 XAI 응용 연구를 언급하고 비교 문헌 분석(Table 2)을 제공합니다.
• RQ10 제로샷 설명과 의사결정 트리 기반 XAI 접근법이 정확성과 설명가능성의 균형을 맞추기 위해 탐구됩니다.
• RQ11 학습된 교훈은 향후 연구 방향, 도전과제 및 부문 간의 잠재적 응용을 식별합니다.