[논문 리뷰] Adversarial Security Attacks and Perturbations on Machine Learning and Deep Learning Methods

Arif Siddiqi|arXiv (Cornell University)|2019. 07. 17.

Adversarial Robustness in Machine Learning참고 문헌 47인용 수 7

한 줄 요약

이 리뷰 논문은 기계학습 및 딥러닝 모델에서의 적대적 보안 공격 및 편향에 대한 종합적인 개요를 제공하며, 훈련 및 추론 단계에서의 취약점을 중심으로 다룹니다. 기존의 공격 유형, 방어 기법, 연구 동향을 통합하여 사이버보안 및 AI 분야의 신규 연구자들을 위한 안내를 제공하며, 안정적인 머신러닝 구현을 위한 실용적 통찰과 기초 지식을 강조합니다.

ABSTRACT

The ever-growing big data and emerging artificial intelligence (AI) demand the use of machine learning (ML) and deep learning (DL) methods. Cybersecurity also benefits from ML and DL methods for various types of applications. These methods however are susceptible to security attacks. The adversaries can exploit the training and testing data of the learning models or can explore the workings of those models for launching advanced future attacks. The topic of adversarial security attacks and perturbations within the ML and DL domains is a recent exploration and a great interest is expressed by the security researchers and practitioners. The literature covers different adversarial security attacks and perturbations on ML and DL methods and those have their own presentation styles and merits. A need to review and consolidate knowledge that is comprehending of this increasingly focused and growing topic of research; however, is the current demand of the research communities. In this review paper, we specifically aim to target new researchers in the cybersecurity domain who may seek to acquire some basic knowledge on the machine learning and deep learning models and algorithms, as well as some of the relevant adversarial security attacks and perturbations.

연구 동기 및 목표

• 기계학습 및 딥러닝 시스템에서의 적대적 보안 위협에 대한 통합된 이해가 점점 더 필요해지는 데에 대응하기 위해.
• 사이버보안 분야의 신규 연구자들에게 기계학습/딥러닝 모델과 관련된 적대적 위험에 대한 기초 지식을 제공하기 위해.
• 적대적 공격 및 편향의 다양한 유형을 체계적이고 접근하기 쉬운 방식으로 분류하고 분석하기 위해.
• 기계학습/딥러닝 응용 분야에서의 적대적 강건성 분야에서의 현재 연구 격차와 새로운 동향을 부각하기 위해.
• 악성 편향에 노출된 머신러닝 모델의 위협 표면을 이해하는 데 기초 자료로 기능하기 위해.

제안 방법

• 2010년에서 2019년 사이의 기계학습 및 딥러닝 모델에서의 적대적 공격 및 편향에 대한 체계적 문헌 리뷰.
• 위협 모델, 공격 표면, 편향 유형(예: 화이트박스,_BLK박스, 타겟팅, 비타겟팅)에 기반한 적대적 공격 유형 분류.
• 생성 방법과 목적에 따라 FGSM, PGD, 적대적 패치 공격 등의 편향 기법 분류.
• 적대적 훈련, 입력 전처리, 강건 최적화 기법 등을 포함한 방어 전략 분석.
• 컴퓨터 비전 및 NLP와 같은 다양한 응용 분야에서 공격 및 방어 동향 통합 분석.
• 모델 아키텍처, 데이터, 적대적 취약성 간의 관계를 이해하기 위한 개념적 프레임워크 제시.

실험 결과

연구 질문

• RQ1 기계학습 및 딥러닝 모델을 대상으로 하는 주요 적대적 공격 유형은 무엇인가요?
• RQ2 다양한 적대적 편향 기법은 훈련 및 추론 단계에서 모델의 취약점을 어떻게 악용합니까?
• RQ3 기계학습에서의 화이트박스, 블랙박스, GRAY박스 공격 시나리오 간의 핵심 차이는 무엇입니까?
• RQ4 제안된 방어 기법은 무엇이며, 진화하는 공격 전략에 대비해 얼마나 효과적인가요?
• RQ5 기계학습/딥러닝 모델을 적대적 위협으로부터 보호하기 위한 열린 과제와 연구 방향은 무엇입니까?

주요 결과

• 적대적 공격는 입력 데이터에 최소한의 눈에 띄지 않는 편향을 가해 모델 성능을 크게 떨어뜨릴 수 있습니다.
• FGSM 및 PGD와 같은 기울기 기반 방법은 단순성과 높은 성공률로 인해 가장 효과적이고 널리 사용되는 공격 기법에 속합니다.
• 적대적 훈련은 강건성을 향상시키지만, 정상 데이터에 대한 정확도가 떨어지고 계산 오버헤드가 증가하는 비용을 수반하는 경우가 많습니다.
• 블랙박스 공격는 화이트박스 변형보다는 덜 강력하지만, 모델 간 이행성(transferability)을 악용할 경우 여전히 매우 효과적입니다.
• 표준화된 벤치마크와 평가 프로토콜이 부족하여 공격 및 방어 성능에 대한 일관성 없는 보고가 발생하고 있습니다.
• 다양한 아키텍처와 데이터 분포에 효과적으로 작용하는 강력하고 일반화 가능한 방어 기법이 점점 더 필요로 하고 있습니다.