[논문 리뷰] Autonomous Intelligent Cyber-defense Agent (AICA) Reference Architecture. Release 2.0

Alexander Kott, Paul Th ron외 10명|arXiv (Cornell University)|2018. 03. 28.

Network Security and Intrusion Detection참고 문헌 53인용 수 12

한 줄 요약

이 논문은 복잡하고 고도로 발전한 사이버 위협에 대응하기 위해 군사 네트워크를 능동적으로 방어할 수 있도록 설계된 자율적이고 지능적인 소프트웨어 에이전트를 위한 종합적인 프레임워크인 AICA 참조 아키텍처를 제시한다. 이는 실시간 의사결정과 분산 네트워크를 통해 조율된 행동을 통해 악성 소프트웨어를 탐지하고 분석하며 무력화하는 모듈형이고 적응형 시스템을 제공하며, 대응 환경에서 확장 가능하고 AI 기반의 사이버 복원력을 향한 중대한 도약을 나타낸다.

ABSTRACT

This report - a major revision of its previous release - describes a reference architecture for intelligent software agents performing active, largely autonomous cyber-defense actions on military networks of computing and communicating devices. The report is produced by the North Atlantic Treaty Organization (NATO) Research Task Group (RTG) IST-152 "Intelligent Autonomous Agents for Cyber Defense and Resilience". In a conflict with a technically sophisticated adversary, NATO military tactical networks will operate in a heavily contested battlefield. Enemy software cyber agents - malware - will infiltrate friendly networks and attack friendly command, control, communications, computers, intelligence, surveillance, and reconnaissance and computerized weapon systems. To fight them, NATO needs artificial cyber hunters - intelligent, autonomous, mobile agents specialized in active cyber defense. With this in mind, in 2016, NATO initiated RTG IST-152. Its objective has been to help accelerate the development and transition to practice of such software agents by producing a reference architecture and technical roadmap. This report presents the concept and architecture of an Autonomous Intelligent Cyber-defense Agent (AICA). We describe the rationale of the AICA concept, explain the methodology and purpose that drive the definition of the AICA Reference Architecture, and review some of the main features and challenges of AICAs.

연구 동기 및 목표

• 고도로 위험부담이 크고 경쟁적인 군사 환경에서 작동할 수 있는 표준화되고 확장 가능한 참조 아키텍처를 개발하기 위해.
• NATO 전술 네트워크에 침투하는 고도로 발전된 적응형 악성 소프트웨어의 증가하는 위협에 대응하기 위해 선제적이고 지능적인 대응 메커니즘을 제공하기 위해.
• 통합된 기술 로드맵을 통해 이론적 연구에서 실질적 구현으로의 전환을 가속화하기 위해.
• 복잡한 네트워크 시스템 내에서 실시간으로 추론하고 행동하며 적응할 수 있는 자율적 에이전트의 기능적, 비기능적, 운영 요구사항을 정의하기 위해.
• 형식화된 에이전트 설계 원칙을 통해 향후 사이버 방어 시스템의 상호운용성, 보안성, 복원성의 기반을 마련하기 위해.

제안 방법

• AICA 에이전트 내에서 인지, 추론, 행동, 조율 기능을 분리하는 계층적이고 구성요소 기반의 설계를 기반으로 아키텍처가 구성된다.
• 목표 지향적 행동을 가능하게 하여 악성 위협을 분석하고 최적의 방어 조치를 선택할 수 있도록, 신념-욕망-의도(Belief-Desire-Intention, BDI) 모델을 활용한다.
• 에이전트가 네트워크 기기 간에 이동하고 이식될 수 있도록 하여 운영 지속성과 적대자에 의한 탐지 회피를 달성한다.
• 기계 학습과 규칙 기반 추론을 사용하여 위협 탐지, 상황 인식, 대응 계획 수립을 위한 형식적 모델을 통합한다.
• 보안 설계 원칙을 강화하여 강력한 인증, 암호화, 런타임 검증을 통해 에이전트 자체의 손상 방지를 강조한다.
• 모듈성, 확장성, 군사 운영 표준 준수를 보장하기 위해 형식적인 방법론을 적용한다.

실험 결과

연구 질문

• RQ1 어떻게 복잡하고 경쟁적인 군사 네트워크 환경에서 실시간으로 능동적이고 지능적인 사이버 방어를 수행할 수 있는 자율적 에이전트를 아키텍처화할 수 있는가?
• RQ2 어떤 아키텍처 원칙이 AICA가 위협을 분석하고 행동을 조율하며 적대적 악성 변조에 대비한 복원성을 유지할 수 있도록 하는가?
• RQ3 AICA가 자율적으로 작동하면서도 책임성, 안전성, 군사 지휘 체계와의 일치를 보장할 수 있도록 설계할 수 있는가?
• RQ4 실제 전술 환경에서 AICA의 구현을 가능하게 하기 위해 해결해야 할 기술적 및 운영적 제약 조건은 무엇인가?
• RQ5 어떻게 AICA 아키텍처는 다양한 군사 네트워크 인fra에서 상호운용성, 확장성, 진화를 지원할 수 있는가?

주요 결과

• AICA 參照 架構는 형식적으로 정의된 확장 가능한 프레임워크를 제공하여 군사 응용을 위한 지능적이고 이동 가능한 사이버 방어 에이전트의 개발을 가능하게 한다.
• 이 아키텍처는 위협 탐지, 자율적 의사결정, 분산 시스템 간의 조율된 대응과 같은 핵심 기능을 성공적으로 통합한다.
• BDI 기반 추론 모델의 사용은 동적 위협 환경에서도 목표 지향적 행동을 유지할 수 있도록 한다.
• 안전한 이동성 지원을 통해 네트워크의 열악한 상태나 손상 상황에서도 방어 작전을 유지할 수 있도록 에이전트가 네트워크를 이동할 수 있다.
• 시뮬레이션과 프로토타이핑을 통한 검증을 통해 복잡하고 적대적인 네트워크 환경에서의 실현 가능성을 입증하였다.
• 참조 아키텍처는 NATO 내 향후 사이버 허터 기술의 개발 및 이행을 위한 기술적 기반으로 채택되었다.