[논문 리뷰] Tackling Cyberattacks through AI-based Reactive Systems: A Holistic Review and Future Vision

Sergio Bernardez Molina, Pantaleone Nespoli외 1명|arXiv (Cornell University)|2023. 12. 11.

Advanced Malware Detection Techniques인용 수 5

한 줄 요약

이 논문은 2017년 이후의 최근 발전을 분석하면서 사이버공격 대응을 위한 인공지능 기반 반응형 시스템에 대한 종합적인 서베이를 제시한다. 기계학습 및 신경망과 같은 인공지능 기법이 위협 탐지 및 자동 대응 조치 선택에 어떻게 활용되는지 평가하며, 자율적이고 적응형이며 표준화된 인공지능 기반 방어 시스템을 위한 주요 과제와 향후 연구 방향을 제시한다.

ABSTRACT

There is no denying that the use of Information Technology (IT) is undergoing exponential growth in today's world. This digital transformation has also given rise to a multitude of security challenges, notably in the realm of cybercrime. In response to these growing threats, public and private sectors have prioritized the strengthening of IT security measures. In light of the growing security concern, Artificial Intelligence (AI) has gained prominence within the cybersecurity landscape. This paper presents a comprehensive survey of recent advancements in AI-driven threat response systems. To the best of our knowledge, the most recent survey covering the AI reaction domain was conducted in 2017. Since then, considerable literature has been published, and therefore, it is worth reviewing it. In this comprehensive survey of the state of the art reaction systems, five key features with multiple values have been identified, facilitating a homogeneous comparison between the different works. In addition, through a meticulous methodology of article collection, the 22 most relevant publications in the field have been selected. Then each of these publications has been subjected to a detailed analysis using the features identified, which has allowed for the generation of a comprehensive overview revealing significant relationships between the papers. These relationships are further elaborated in the paper, along with the identification of potential gaps in the literature, which may guide future contributions. A total of seven research challenges have been identified, pointing out these potential gaps and suggesting possible areas of development through concrete proposals.

연구 동기 및 목표

• 최근의 인공지능 기반 위협 대응 시스템의 발전을 검토하여 증가하는 사이버공격의 복잡성과 빈도를 해결하고자 한다.
• 다양한 인공지능 기법이 반응형 사이버보안 시스템에 어떻게 활용되고 있는지 분석하고 비교하며, 위협 탐지, 방지 및 자율적 대응 능력을 중심으로 분석하고자 한다.
• 모델 적응성, 실시간 대응, 시스템 표준화와 같은 인공지능 통합 과제를 식별하고자 한다.
• 강력하고 협업형이며 확장 가능한 인공지능 기반 사이버 방어 플랫폼 개발을 위한 향후 연구 로드맵을 제안하고자 한다.
• 동적 위협 환경에서의 운영자 인터페이스 및 자동 모델 업데이트를 위한 생성형 인공지능의 잠재적 기회를 탐색하고자 한다.

제안 방법

• 최근의 인공지능 기반 위협 대응 시스템에 관한 연구 논문을 체계적으로 검토하여 공통된 특징과 평가 기준을 분석하였다.
• 예측 학습 및 강화 학습, 신경망, 하이브리드 아키텍처와 같은 인공지능 기법을 기반으로 연구를 분류하고 비교하였다.
• 실시간으로 변화하는 공격 패tern에 대응할 수 있는 위협 탐지 능력, 적절한 대응 조치 선택 능력, 그리고 적응 능력을 평가하였다.
• 인공지능 기법과 대응 메커니즘을 연결하는 개념적 프레임워크를 제안하였으며, 자동화, 정확도 및 시스템 내성 강화를 중점으로 하였다.
• 모델 해석 가능성, 데이터 품질, 보안 스택 전반의 시스템 상호운용성과 같은 통합 과제를 식별하였다.
• 협업 필요성을 포함한 향후 연구 방향 간의 상호연결성을 시각화하기 위해 연구 과제 그래프(그림 7)를 제안하였다.

Figure 1: Prevention, response and detection AI-based systems scenario

실험 결과

연구 질문

• RQ1 2017년 이후로 인공지능 기법은 사이버 위협 대응 시스템에서 어떻게 발전했으며, 현재 문헌에서 지배적인 접근 방식은 무엇인가?
• RQ2 실제 사이버보안 환경에 인공지능 기반 반응형 시스템을 구현할 때 직면하는 주요 기술적 및 운영 과제는 무엇인가?
• RQ3 실시간 위협 데이터에 대응하여 인공지능 모델을 효과적으로 업데이트하고 적응시킬 수 있는 방법은 무엇인가?
• RQ4 생성형 인공지능은 사이버보안 운영자와의 상호작용을 향상시키는 데 어떤 역할을 할 수 있는가?
• RQ5 인공지능 기반 대응 시스템 간의 상호운용성과 벤치마킹을 가능하게 하기 위해 필요한 표준화 및 플랫폼 수준의 솔루션은 무엇인가?

주요 결과

• 최근 인공지능 기반 반응형 시스템은 위협 탐지 정확도와 대응 속도 향상을 위해 기계학습 및 신경망을 점점 더 많이 활용하고 있다.
• 주요 추세로는 SIEM, IDS, IPS와 같은 기존 보안 도구와 인공지능을 통합하여 자동화된 실시간 대응 워크플로우를 구현하는 것이 있다.
• 진전이 있음에도 불구하고, 모델 해석 가능성, 적대적 공격에 대한 강건성, 그리고 동적 위협 조건 하에서의 시스템 성능 유지 문제는 여전히 과제로 남아 있다.
• 현재는 부족한 바, 다양한 인공지능 기법을 위협 대응 환경에서 테스트하고 비교할 수 있는 표준화된 플랫폼이 필요로 하고 있다.
• 생성형 인공지능은 사이버보안 운영자에게 직관적인 인터페이스를 제공할 잠재력을 보이고 있으나, 이 분야는 아직 탐색 부족이며 향후 연구가 필요로 한다.
• 특히 공공 및 민간 부문 간 협업이 인공지능 기반 사이버 방어 시스템의 발전을 위한 핵심 추진력으로 확인되었다.

Figure 2: Graphical Bayesian Network example