[논문 리뷰] Adversarial Examples - A Complete Characterisation of the Phenomenon

Alexandru Constantin Serban, Erik Poll외 1명|arXiv (Cornell University)|2018. 10. 02.

Adversarial Robustness in Machine Learning참고 문헌 183인용 수 44

한 줄 요약

적대적 예제를 특징짓는 포괄적 설문조사로, 존재 여부, 보안 영향, 생성 및 방어 방법, 모델 간 전이 가능성을 다룹니다.

ABSTRACT

We provide a complete characterisation of the phenomenon of adversarial examples - inputs intentionally crafted to fool machine learning models. We aim to cover all the important concerns in this field of study: (1) the conjectures on the existence of adversarial examples, (2) the security, safety and robustness implications, (3) the methods used to generate and (4) protect against adversarial examples and (5) the ability of adversarial examples to transfer between different machine learning models. We provide ample background information in an effort to make this document self-contained. Therefore, this document can be used as survey, tutorial or as a catalog of attacks and defences using adversarial examples.

연구 동기 및 목표

• 적대적 예제의 존재와 그에 관한 기본적인 질문들을 조사한다.
• 기계 학습 시스템에 대한 보안, 안전 및 강건성의 시사점을 설명한다.
• 적대적 예제를 생성하는 방법과 이를 방어하는 방법을 목록화하고 비교한다.
• 다른 모델 및 설정 간의 적대적 예제의 전달 가능성을 검토한다.
• 튜토리얼, 설문조사 또는 공격과 방어의 카탈로그로 작동하는 독립적인 배경지식을 제공한다.

제안 방법

• 문서를 자체적으로 구성할 수 있도록 충분한 배경을 제공한다.
• 공격 모델, 강건성, 원인, 공격, 방어, 전이성, 증류/방어 기술에 대한 챕터로 내용을 구성한다.
• 맥락적 설명과 함께 다양한 공격과 방어를 나열한다.
• 기계 학습의 강건성과 보안의 이론적·실용적 측면을 논의한다.
• 적대적 예제를 더 넓은 ML 보안 맥락에서 위치시키기 위해 폭넓은 연구를 인용한다.

실험 결과

연구 질문

• RQ1 적대적 예제가 존재하는가에 대한 어떤 추론이 존재하는가?
• RQ2 머신러닝 시스템에 대한 보안, 안전 및 강건성의 시사점은 무엇인가?
• RQ3 적대적 예제를 생성하는 데 어떤 방법이 사용되며 어떤 방어가 존재하는가?
• RQ4 다른 모델과 설정 간에 적대적 예제가 어느 정도 전이되는가?

주요 결과

• 본 연구는 이론, 실무, 방어 전반에 걸쳐 적대적 예제의 전체적인 특성을 제시한다.
• 문서는 독자를 위한 독립적인 배경지식을 갖춘 공격과 방어의 카탈로그 역할을 한다.
• 설문조사는 모델 간의 적대적 예제 전이성 및 보안에 대한 강건성 시사점을 다룬다.
• 관련 연구와 방법의 폭넓은 구성이 적대적 ML의 풍경을 보여주기 위해 정리된다.