[논문 리뷰] Cyber Autonomy: Automating the Hacker- Self-healing, self-adaptive, automatic cyber defense systems and their impact to the industry, society and national security

Ryan K. L. Ko|arXiv (Cornell University)|2020. 12. 08.

Advanced Malware Detection Techniques참고 문헌 20인용 수 8

한 줄 요약

이 논문은 해킹 기법을 영감으로 삼아 자가 치유, 자가 적응 및 자동화된 사이버 방어 시스템을 통해 완전한 사이버 자율성을 달성하기 위한 사상 단계 성숙도 프레임워크를 제안한다. 고도의 자동화가 사이버보안 전문 인력 부족을 해소하고, 국가 안보를 강화하며 산업 전반을 혁신할 수 있음을 보여주며, 윤리적 상충 관계와 수동 침투 테스트의 감소 가능성을 다룬다.

ABSTRACT

This paper sets the context for the urgency for cyber autonomy, and the current gaps of the cyber security industry. A novel framework proposing four phases of maturity for full cyber autonomy will be discussed. The paper also reviews new and emerging cyber security automation techniques and tools, and discusses their impact on society, the perceived cyber security skills gap/shortage and national security. We will also be discussing the delicate balance between national security, human rights and ethics, and the potential demise of the manual penetration testing industry in the face of automation.

연구 동기 및 목표

• 증가하는 사이버 위협과 체계적 산업적 결함으로 인해 사이버 자율성의 긴급한 필요성을 확립하기 위해.
• 방어 시스템에서 완전한 사이버 자율성을 달성하기 위한 사상 단계 성숙도 모델을 정의하기 위해.
• 최신 자동화 도구와 그 사이버보안 관행, 기술, 국가 안보에 미치는 영향을 분석하기 위해.
• 수동 침투 테스트를 자동화된 시스템으로 대체함으로써 발생하는 윤리적 및 사회적 영향을 검토하기 위해.
• 국가 안보의 우선 사항, 인권, 윤리적 인공지능 사이의 균형을 평가하기 위해.

제안 방법

• 사상 단계 성숙도 프레임워크를 제안: (1) 탐지, (2) 대응, (3) 적응, (4) 자율적 자가 치유.
• '해커를 자동화하는 것'의 개념을 도입 — 공격 기법을 활용해 사전에 시스템을 방어하기 위해.
• 실시간 이상 탐지 및 적응형 대응 메커니즘을 위해 AI 및 머신러닝을 통합.
• 공격 상황에서도 시스템 무결성을 유지하기 위해 자가 치유 및 자가 적응 시스템 원리를 적용.
• 확장 가능하고 지속적인 보안 강화를 가능하게 하기 위해 기존 자동화 도구 및 프레임워크를 활용.
• 자동화가 사이버보안 직무의 미래와 침투 테스트 산업에 미치는 영향을 분석.

실험 결과

연구 질문

• RQ1 자기 치유 및 자기 적응 능력을 통해 사이버 방어 시스템이 어떻게 완전한 자율성을 달성할 수 있는가?
• RQ2 수동에서 완전한 자율적 사이버 방어로 전환하기 위해 필요한 핵심 단계와 성숙 수준는 무엇인가?
• RQ3 예를 들어 침투 테스트와 같은 공격 기법을 자동화하면 방어 성과는 어떻게 향상되는가?
• RQ4 수동 침투 테스트를 자동화된 시스템으로 대체함으로써 발생하는 사회적 및 윤리적 결과는 무엇인가?
• RQ5 사이버 자율성은 국가 안보와 더 넓은 사이버보안 노동력에 어떤 영향을 미치는가?

주요 결과

• 제안된 사상 단계 성숙도 모델은 시스템이 자율적으로 탐지, 대응, 적응, 치유할 수 있도록 체계적인 길을 제공한다.
• 공격 기법의 자동화를 통해 더 빠르고 일관되며 확장 가능한 취약점 발견 및 패치 적용이 가능해진다.
• 자동화를 통해 사이버보안 전문 인력 부족 문제를 완화할 수 있으며, 희소한 인간 전문 지식 의존도를 낮출 수 있다.
• 자율적 사이버 시스템의 확산은 전통적인 수동 침투 테스트 역할의 감소로 이어질 수 있다.
• 특히 감시, 개인정보 보호, 국가 안보와 시민의 자유 사이의 균형에 관한 윤리적 및 정책적 과제가 발생한다.
• 윤리적 보호 조치가 자율 시스템에 내장되어 있다면, 더 빠른 대응 시간과 인간의 실수 감소로 인해 국가 안보가 향상된다.