[논문 리뷰] Adversarial Attacks and Defenses on Graphs: A Review, A Tool and Empirical Studies

Wei Jin, Yaxin Li외 5명|arXiv (Cornell University)|2020. 03. 02.

Adversarial Robustness in Machine Learning참고 문헌 84인용 수 39

한 줄 요약

그래프 적대적 공격과 방어에 대한 포괄적 조사로, 분류체계, 대표 방법, 그리고 공용 저장소의 도움을 받은 실증 연구.

ABSTRACT

Deep neural networks (DNNs) have achieved significant performance in various tasks. However, recent studies have shown that DNNs can be easily fooled by small perturbation on the input, called adversarial attacks. As the extensions of DNNs to graphs, Graph Neural Networks (GNNs) have been demonstrated to inherit this vulnerability. Adversary can mislead GNNs to give wrong predictions by modifying the graph structure such as manipulating a few edges. This vulnerability has arisen tremendous concerns for adapting GNNs in safety-critical applications and has attracted increasing research attention in recent years. Thus, it is necessary and timely to provide a comprehensive overview of existing graph adversarial attacks and the countermeasures. In this survey, we categorize existing attacks and defenses, and review the corresponding state-of-the-art methods. Furthermore, we have developed a repository with representative algorithms (https://github.com/DSE-MSU/DeepRobust/tree/master/deeprobust/graph). The repository enables us to conduct empirical studies to deepen our understandings on attacks and defenses on graphs.

연구 동기 및 목표

• 그래프 적대적 공격 방법과 방어에 대한 체계적인 개관을 제공합니다.
• 목표, 자원, 능력에 따라 공격과 방어를 분류합니다.
• 연관된 공격/방어 저장소에서 얻은 실증적 통찰을 강조합니다.
• 강건한 그래프 학습을 위한 열린 과제와 향후 방향을 식별합니다.

제안 방법

• 그래프 위 학습의 형식적 예비 정의와 일반적인 적대적 공격 목표(Eq. 3)를 정의합니다.
• 공격자 능력, 섭동 유형, 목표, 지식(화이트/그레이/블랙박스)의 분류체계를 제안합니다.
• 대표적인 화이트박스, 그레이박스, 블랙박스 공격 방법(타깃 및 비타깃)을 검토합니다.
• 적대적 학습, 섭동 탐지, 검증 가능한 강건성, 그래프 정화, 주의 집중 기반 방법을 포함한 방어 전략을 조사합니다.
• 저자들의 저장소를 활용한 실증 연구 프레임워크를 제공하여 공격/방어에 대한 이해를 심화합니다.

실험 결과

연구 질문

• RQ1 그래프 적대적 공격과 방어의 주요 카테고리와 그 특성은 무엇인가요?
• RQ2 공격자 능력, 섭동 유형, 목표, 지식이 그래프에서의 공격 전략에 어떻게 영향을 미치나요?
• RQ3 단일 저장소의 방법들을 체계적으로 테스트함으로써 얻을 수 있는 실증적 통찰은 무엇인가요?
• RQ4 적대적 섭동 하에서 강건한 그래프 학습의 격차와 열린 방향은 무엇인가요?

주요 결과

• 그래프에 대한 적대적 공격은 화이트/그레이/블랙박스 설정에서 노드 수준 및 그래프 수준 작업을 대상으로 할 수 있습니다.
• 공격 전략은 섭동 유형(특징, 엣지, 주입된 노드)에 따라 다르며 공격이 타깃인지 비타깃인지에 따라도 다릅니다.
• 적대적 학습, 탐지, 검증 가능한 강건성, 그래프 정화, 주의 집중 메커니즘 등을 포함한 다양한 방어 접근법이 존재합니다.
• 연관된 공용 저장소는 그래프에 대한 공격과 방어의 표준화된 실증 연구를 가능하게 합니다.
• 실증 연구는 다양한 그래프 공격의 전이성 및 실용성과 다양한 설정에서의 방어의 잠재력을 강조합니다.