[논문 리뷰] Connecting the Dots: Detecting Adversarial Perturbations Using Context Inconsistency

Shasha Li, Shitong Zhu외 6명|arXiv (Cornell University)|2020. 07. 19.

Adversarial Robustness in Machine Learning참고 문헌 57인용 수 5

한 줄 요약

이 논문은 객체 검출에서의 적대적 편향을 측정함으로써 공간적, 객체-객체, 객체-배경, 객체-장면 맥락 간의 일관성 없음을 식별하는 맥락 인식 적대적 탐지 방법인 SCEME를 제안한다. 정상 맥락 분포를 모델링하기 위해 클래스별로 별도의 오토에코더를 훈련시켜 재구성 오차가 높은 영역을 잘못 분류된 것으로 표시함으로써, PASCAL VOC 및 MS COCO에서 0.95 초과의 AUC를 달성하며, 최신의 맥락 무관 방법보다 20–35% 높은 성능을 보였다.

ABSTRACT

There has been a recent surge in research on adversarial perturbations that defeat Deep Neural Networks (DNNs) in machine vision; most of these perturbation-based attacks target object classifiers. Inspired by the observation that humans are able to recognize objects that appear out of place in a scene or along with other unlikely objects, we augment the DNN with a system that learns context consistency rules during training and checks for the violations of the same during testing. Our approach builds a set of auto-encoders, one for each object class, appropriately trained so as to output a discrepancy between the input and output if an added adversarial perturbation violates context consistency rules. Experiments on PASCAL VOC and MS COCO show that our method effectively detects various adversarial attacks and achieves high ROC-AUC (over 0.95 in most cases); this corresponds to over 20% improvement over a state-of-the-art context-agnostic method.

연구 동기 및 목표

• 장면 수준 맥락을 위반하는 방식으로 객체를 잘못 분류하는 딥 네URAL 네트워크의 적대적 편향에 대한 취약성을 해결하기 위해.
• 분류 신뢰도에만 의존하는 것과는 달리, 객체 간 및 그 주변의 맥락적 관계를 활용하여 적대적 탐지를 향상시키기 위해.
• 객체 검출 시스템에서 디지털 및 물리적 적대적 공격에 모두 효과적인 방어 메커니즘을 개발하기 위해.
• 특히 장면에서 함께 나타나기 어려운 객체로 잘못 분류되는 경우, 맥락의 일관성 없음이 적대적 예제 탐지에 신뢰할 수 있는 신호가 될 수 있음을 입증하기 위해.
• 탐지 파이프라인에 통합된 전체 장면 맥락을 포함시켜 맥락 무관 탐지 방법을 능가하기 위해.

제안 방법

• 제안된 객체 영역과 전체 장면을 나타내는 슈퍼 영역 노드를 포함한 완전히 연결된 그래프를 구성한다.
• 각 노드는 노드 특징(영역 특징)과 간선 특징(영역 간 맥락적 관계)으로 구성된 맥락 프로파일을 할당받는다.
• 각 객체 클래스별로 별도의 오토에코더를 훈련시어 정상 데이터에서 맥락 프로파일의 분포를 모델링하고, 정상적인 맥락 패턴을 재구성하도록 학습한다.
• 추론 단계에서 예측된 클래스에 해당하는 오토에코더를 사용하여 검출된 영역의 맥락 프로파일을 재구성하며, 높은 재구성 오차는 맥락의 일관성 없음을 나타내고, 이는 샘플이 적대적일 수 있음을 경고한다.
• 네 가지 맥락 유형을 평가한다: 공간적(동일 객체 영역), 객체-객체(공존하는 객체), 객체-배경(객체-장면 일치), 객체-장면(통합 장면 일관성).
• 이 방법은 Faster R-CNN 기반 검출기 및 PASCAL VOC와 MS COCO에서 디지털 및 물리적 적대적 공격에 대해 테스트되었다.

실험 결과

연구 질문

• RQ1 맥락의 일관성 없음은 객체 검출에서 적대적 편향을 탐지하는 신뢰할 수 있는 신호가 될 수 있는가?
• RQ2 공간적, 객체-객체, 객체-배경, 객체-장면 맥락 유형 중 각각이 적대적 탐지 성능에 어떤 기여를 하는가?
• RQ3 장면 수준 맥락을 통합함으로써 맥락 무관 방법보다 탐지 성능이 향상되는가?
• RQ4 예를 들어 추가된 패치로 잘못 분류된 정지 신호판을 포함한 물리적 적대적 공격에 대해 이 방법은 얼마나 효과적인가?
• RQ5 제안된 영역 수와 장면 내 객체 밀도가 탐지 성능에 미치는 영향은 어느 정도인가?

주요 결과

• SCEME는 다양한 적대적 공격 하에서 PASCAL VOC 및 MS COCO에서 평균 ROC-AUC가 0.95 초과를 기록하며, 최신의 맥락 무관 방법보다 뚜렷이 뛰어난 성능을 보였다.
• 정지 신호판 탐지 작업에서 SCEME는 0.1%의 거짓 경고율에서 54%의 오염된 예제를 탐지했고, FeatureSqueeze는 0%에 그쳤다. 이는 더 높은 감도를 보임을 시사한다.
• 거짓 경고율을 0.1%로 제한했을 때, 노드 특징만을 사용하는 아블레이티드 버전보다 거의 두 배 많은 적대적 예제를 탐지했다.
• 영역 제안 수가 많을수록 성능 향상이 나타나, 공간적 맥락이 적대적 일관성 불일치를 식별하는 데 의미 있는 기여를 함을 시사한다.
• 장면 내 객체 밀도가 높을수록 성능 향상이 나타나, 객체-객체 맥락이 장면의 복잡도가 증가함에 따라 더 효과적으로 기능함을 시사한다.
• ‘등장 객체’ 공격을 효과적으로 탐지하며, 오차가 높을수록 정확도가 상승함을 확인함으로써 공간적 맥락의 역할을 확인했다.