[논문 리뷰] Gradient Band-based Adversarial Training for Generalized Attack Immunity of A3C Path Finding

Tong Chen, Wenjia Niu외 5명|arXiv (Cornell University)|2018. 07. 17.

Adversarial Robustness in Machine Learning인용 수 16

한 줄 요약

이 논문은 강화학습의 A3C 기반 경로 탐색에 대한 새로운 적대적 공격 및 방어 프레임워크를 제안한다. 국지적 지도 정보를 대상으로 하는 효과적인 적대적 예외를 생성하기 위해 공통 주요 적대적 예외 생성(CDG) 방법을 도입하였으며, 단일 적대적 예외를 사용하여 일반화된 '1:N' 공격 면역을 달성하기 위해 기울기 밴드 기반 적대적 훈련을 제안하여 평균적으로 91.91%의 공격 생성 정확도와 93.89%의 면역 정확도를 달성하였다.

ABSTRACT

As adversarial attacks pose a serious threat to the security of AI system in practice, such attacks have been extensively studied in the context of computer vision applications. However, few attentions have been paid to the adversarial research on automatic path finding. In this paper, we show dominant adversarial examples are effective when targeting A3C path finding, and design a Common Dominant Adversarial Examples Generation Method (CDG) to generate dominant adversarial examples against any given map. In addition, we propose Gradient Band-based Adversarial Training, which trained with a single randomly choose dominant adversarial example without taking any modification, to realize the "1:N" attack immunity for generalized dominant adversarial examples. Extensive experimental results show that, the lowest generation precision for CDG algorithm is 91.91%, and the lowest immune precision for Gradient Band-based Adversarial Training is 93.89%, which can prove that our method can realize the generalized attack immunity of A3C path finding with a high confidence.

연구 동기 및 목표

• 자동 경로 탐색 분야에서 적대적 연구의 부족, 특히 A3C와 같은 강화학습 시스템에서의 적대적 연구 부족을 해결하기 위해.
• 전반적인 입력이 아닌 국지적 지도 정보를 대상으로 하는 새로운 유형의 적대적 예외—주요 적대적 예외—를 설계하기 위해.
• 최소한의 적대적 데이터를 사용하여 일반화된 '1:N' 공격 면역을 달성하는 방어 기법을 개발하기 위해.
• 다양한 지도 크기와 구성에서 제안된 방법의 효과성을 검증하기 위해.

제안 방법

• 공통 주요 적대적 예외 생성(CDG) 방법은 에이전트의 현재 위치 주변의 국지적 지도 정보를 변형하여 A3C 경로 탐색을 오도하는 적대적 예외를 생성한다.
• CDG는 경로 계획을 최대한으로 방해할 수 있는 지도 내 민감한 영역을 식별하기 위해 기울기 밴드를 사용한다.
• 기울기 밴드 기반 적대적 훈련은 단일의 무작위 선택된 주요 적대적 예외를 사용하여, 다양한 미리 보지 못한 적대적 예외에 대한 일반화된 면역성을 훈련 과정에서 확보한다.
• 주요 구성 요소에 대해 다항식 시간 복잡도 O(kN²)를 확보하여 효율적인 생성 및 훈련을 구현한다.
• 기울기 밴드와 변형 공간을 모델링하기 위해 상한 및 하한 경계 함수 및 장애물 함수 집합을 정의한다.
• 방어 전략은 적대적 예외나 모델 아키텍처의 수정을 필요로 하지 않으며, 훈련 중에 단지 적대적 데이터 주입에 의존한다.

실험 결과

연구 질문

• RQ1 국지적 지도 정보를 변형시켜 A3C 기반 경로 탐색을 효과적으로 방해할 수 있는 주요 적대적 예외는 가능한가?
• RQ2 단일 적대적 예외를 사용하여 다양한 보이지 않는 주요 적대적 예외에 대해 일반화된 면역성을 확보할 수 있는가?
• RQ3 기존의 적대적 훈련 방법과 비교해 볼 때, 제안된 방법은 효율성과 강건성 면에서 어떻게 다른가?
• RQ4 공격 및 방어의 실패 모드는 무엇이며, 이는 지도 구조와 변형 위치와 어떻게 관련이 있는가?

주요 결과

• CDG 알고리즘은 10,000개의 무작위 생성 지도에서 최소 91.91%의 생성 정확도를 확보하여 효과적인 적대적 예외 생성의 높은 신뢰성을 입증하였다.
• 기울기 밴드 기반 적대적 훈련은 최소 93.89%의 면역 정확도를 확보하여 효과적인 일반화된 '1:N' 공격 면역을 입증하였다.
• 기존의 적대적 훈련 대비 뛰어난 시간 효율성을 보였으며, 훈련 시간이 크게 감소하였다.
• 실패한 공격는 주로 출발점 또는 목적지 근처에 변형이 추가되었을 때 발생하였으며, 이는 국지적 지도의 동역학이 작은 변화에 덜 민감하기 때문이다.
• 실패한 면역 사례는 주로 기울기 밴드를 따라 고장애물 밀도 지역에 변형이 배치되었을 때 가장 빈번하게 발생하였으며, 이는 방어의 효과성을 저하시켰다.
• 10종의 다른 지도 크기 카테고리 전반에서 강건성을 입증하였으며, 공격 성공률과 면역 정확도가 일관되게 높게 유지되었다.