[논문 리뷰] Adversarial Learning in the Cyber Security Domain

Ishai Rosenberg, Asaf Shabtai외 2명|arXiv (Cornell University)|2020. 07. 05.

Adversarial Robustness in Machine Learning참고 문헌 106인용 수 9

한 줄 요약

이 논문은 사이버 보안 분야의 적대적 공격을 통합된 분류 체계로 제안하며, 공격 단계, 공격자 목표, 능력 수준에 따라 공격 방법을 분류한다. 기계 학습 기반 보안 시스템에 대한 적대적 위협을 분석하고, 다른 적대적 학습 분야와의 교차 분야 격차를 규명하며, 사이버 보안 응용 분야의 적대적 강건성 향향 향한 향후 연구를 이끈다.

ABSTRACT

In recent years, machine learning algorithms, and more specially, deep learning algorithms, have been widely used in many fields, including cyber security. However, machine learning systems are vulnerable to adversarial attacks, and this limits the application of machine learning, especially in non-stationary, adversarial environments, such as the cyber security domain, where actual adversaries (e.g., malware developers) exist. This paper comprehensively summarizes the latest research on adversarial attacks against security solutions that are based on machine learning techniques and presents the risks they pose to cyber security solutions. First, we discuss the unique challenges of implementing end-to-end adversarial attacks in the cyber security domain. Following that, we define a unified taxonomy, where the adversarial attack methods are characterized based on their stage of occurrence, and the attacker's goals and capabilities. Then, we categorize the applications of adversarial attack techniques in the cyber security domain. Finally, we use our taxonomy to shed light on gaps in the cyber security domain that have already been addressed in other adversarial learning domains and discuss their impact on future adversarial learning trends in the cyber security domain.

연구 동기 및 목표

• 기계 학습 기반 사이버 보안 솔루션의 적대적 공격에 대한 점점 증가하는 취약성을 해결하기 위해.
• 동적이고 적대적인 사이버 환경에서 종단 간 적대적 공격를 구현하는 데 있어 고유한 과제를 규명하기 위해.
• 공격 단계, 공격자 목표, 능력 수준에 기반해 적대적 공격을 체계적으로 분류하기 위한 표준화된 분류 체계를 수립하기 위해.
• 기존의 적대적 공격 기법을 사이버 보안 응용 분야에 대응시키고, 미개척 영역을 부각시키기 위해.
• 비-사이버 보안 분야의 적대적 학습 분야에서의 통찰을 바탕으로 사이버 보안 분야의 적대적 학습 연구를 향후 발전시키기 위해.

제안 방법

• 저자는 공격 발생 단계, 공격자 목표, 능력 수준에 따라 적대적 공격을 분류하는 통합된 분류 체계를 개발한다.
• 실제 사이버 보안 시스템에 종단 간 적대적 공격를 구현하는 가능성과 과제를 분석한다.
• 논문은 악성코드 탐지 및 네트워크 침입 탐지와 같은 다양한 사이버 보안 분야에서 적대적 공격 기법의 적용 사례를 분류한다.
• 사이버 보안 분야의 적대적 학습 연구를 다른 분야와 비교하여 격차와 이식 가능한 통찰을 규명한다.
• 체계적 문헌 고찰과 교차 분야 분석을 통해 적대적 강건성 분야의 추세와 해결되지 않은 요구 사항을 식별하는 방법론을 포함한다.

실험 결과

연구 질문

• RQ1 사이버 보안 분야에서 종단 간 적대적 공격를 수행하는 데 있어 핵심 과제는 무엇인가요?
• RQ2 사이버 보안 분야에서 공격 단계, 목표, 능력 수준에 따라 적대적 공격 방법을 어떻게 체계적으로 분류할 수 있나요?
• RQ3 어떤 적대적 공격 기법이 사이버 보안 응용 분야에 성공적으로 적용되었으며, 그 한계는 무엇인가요?
• RQ4 기타 분야에서 해결된 바가 있는 사이버 보안 분야의 적대적 학습 분야에서 아직 미해결된 격차는 무엇인가요?
• RQ5 비-사이버 보안 분야의 적대적 학습 분야에서의 통찰은 사이버 보안 분야의 향후 연구에 어떻게 기여할 수 있나요?

주요 결과

• 공격 단계, 목표, 능력 수준에 따라 명확한 분류가 가능한 사이버 보안 분야의 적대적 공격에 대한 종합적인 분류 체계가 수립되었다.
• 시스템의 복잡성과 동적 위협 환경로 인해 사이버 보안 분야의 종단 간 적대적 공격는 실현에 상당한 실질적 과제를 안고 있다.
• 일부 적대적 공격 기법은 악성코드 탐지 및 네트워크 침입 탐지 시스템에 성공적으로 적용되었지만, 일반화 능력은 제한적이다.
• 특히 이식 가능성과 실세계 구현 측면에서 다른 분야에 비해 사이버 보안 분야의 적대적 강건성 연구에 격차가 존재한다.
• 컴퓨터 시각 및 자연어 처리 분야에서의 교차 분야 통찰은 향후 사이버 보안 분야의 적대적 학습 연구에 기여할 수 있다.