[논문 리뷰] Combating Adversarial Attacks Using Sparse Representations.

Soorya Gopalakrishnan, Zhinus Marzi외 2명|arXiv (Cornell University)|2018. 02. 12.

Adversarial Robustness in Machine Learning인용 수 1

한 줄 요약

이 논문은 $ε$-유계 $–\infty$ 공격 하에서 적대적 로버스트성의 떨어짐을 크게 줄이는 딥 네ural 네트워크를 위한 스퍼스라이징 프론트엔드를 제안한다. 입력을 스퍼스하게 표현함으로써, 방법은 출력 왜곡을 $K/N$ 배로 증명적으로 감소시킨다. MNIST에서의 실험을 통해 적대적 예측에 대한 방어 효과가 확인되었다.

ABSTRACT

It is by now well-known that small adversarial perturbations can induce classification errors in deep neural networks (DNNs). In this paper, we make the case that sparse representations of the input data are a crucial tool for combating such attacks. For classifiers, we show that a sparsifying front end is provably effective against $\ell_{\infty}$-bounded attacks, reducing output distortion due to the attack by a factor of roughly $K / N$ where $N$ is the data dimension and $K$ is the sparsity level. We then extend this concept to DNNs, showing that a locally linear model can be used to develop a theoretical foundation for crafting attacks and defenses. Experimental results for the MNIST dataset show the efficacy of the proposed sparsifying front end.

연구 동기 및 목표

• 딥 네ural 네트워크가 작은, 눈에 띄지 않는 적대적 편향에 취약한 문제를 다루기 위해.
• 스퍼스 표현이 적대적 공격에 대해 증명 가능한 강건한 방어 수단이 될 수 있는지 조사하기 위해.
• 스퍼스성, 국소 선형성, 그리고 딥 네럴 네트워크(DNN)의 적대적 강건성 간의 이론적 프레임워크를 수립하기 위해.
• 표준 벤치마크인 MNIST와 같은 곳에서 제안된 방어 수단을 경험적으로 검증하기 위해.

제안 방법

• 학습된 또는 고정된 기저를 사용하여 입력 데이터를 스퍼스 표현으로 투영하는 스퍼스라이징 프론트엔드를 도입하기 위해.
• 이론적 분석에서 $–\infty$-유계 공격의 경우, 출력 왜곡은 $K/N$ 배로 감소함을 보여주며, 여기서 $K$는 스퍼스 수준이고 $N$은 입력 차원이다.
• 국소 선형 모델을 활용하여 DNN의 행동을 모델링하고, 공격 및 방어 메커니즘에 대한 통찰을 도출하기 위해.
• 과잉 완성된 사전을 사용한 스퍼스 코딩을 통해 분류 이전에 입력을 인코딩함으로써 강건성을 향상시키기 위해.
• 분류기와 별도로 스퍼스라이징 프론트엔드를 훈련하거나 적용함으로써 모듈러한 방어 통합을 가능하게 하기 위해.

실험 결과

연구 질문

• RQ1 스퍼스 표현은 딥 네럴 네트워크에서 $–\infty$-유계 적대적 공격의 영향을 증명적으로 줄일 수 있는가?
• RQ2 입력 표현의 스퍼스성이 DNN 분류기의 강건성에 어떤 영향을 미치는가?
• RQ3 국소 선형 모델은 적대적 공격과 방어 수단을 이해하기 위한 이론적 기초를 제공할 수 있는가?
• RQ4 스퍼스라이징 프론트엔드를 사용할 경우, 적대적 편향 하에서 출력 왜곡은 얼마나 감소하는가?

주요 결과

• 스퍼스라이징 프론트엔드는 $–\infty$-유계 공격에 의한 출력 왜곡을 약 $K/N$ 배로 감소시켜 증명 가능한 강건성 향상을 제공한다.
• 이론적 분석은 입력 표현의 스퍼스성이 적대적 편향 하에서 오차 증폭을 제한함을 확인한다.
• 이 방법은 MNIST에서 높은 정상 정확도를 유지하면서 적대적 예측에 대한 강건성을 크게 향상시킨다.
• 실험 결과는 MNIST에서 다양한 적대적 공격 설정에서 일관된 성능 향상이 이루어짐을 보여준다.