[논문 리뷰] Adversarial Attack and Defense on Graph Data: A Survey

Lichao Sun, Yingtong Dou외 6명|arXiv (Cornell University)|2018. 12. 26.

Advanced Graph Neural Networks인용 수 52

한 줄 요약

그래프 데이터의 적대적 공격/방어를 통합하는 포괄적 설문으로 100편 이상의 논문을 검토하고, 그래프 신경망(GNN) 및 관련 방법에 대한 온라인 자원과 분류 체계를 제공합니다.

ABSTRACT

Deep neural networks (DNNs) have been widely applied to various applications, including image classification, text generation, audio recognition, and graph data analysis. However, recent studies have shown that DNNs are vulnerable to adversarial attacks. Though there are several works about adversarial attack and defense strategies on domains such as images and natural language processing, it is still difficult to directly transfer the learned knowledge to graph data due to its representation structure. Given the importance of graph analysis, an increasing number of studies over the past few years have attempted to analyze the robustness of machine learning models on graph data. Nevertheless, existing research considering adversarial behaviors on graph data often focuses on specific types of attacks with certain assumptions. In addition, each work proposes its own mathematical formulation, which makes the comparison among different methods difficult. Therefore, this review is intended to provide an overall landscape of more than 100 papers on adversarial attack and defense strategies for graph data, and establish a unified formulation encompassing most graph adversarial learning models. Moreover, we also compare different graph attacks and defenses along with their contributions and limitations, as well as summarize the evaluation metrics, datasets and future trends. We hope this survey can help fill the gap in the literature and facilitate further development of this promising new field.

연구 동기 및 목표

• 그래프 데이터에서의 적대적 공격 및 방어 작업에 대한 광범위하고 통일된 시각을 제공한다.
• 다양한 그래프 적대 방법을 비교하기 위한 통일된 문제 형식을 도입한다.
• GNN 기반 접근과 비-GNN 접근을 구분하는 분류 체계를 개발하고 데이터셋과 평가 지표를 요약한다.
• 벤치마크 개발 및 연구 방향을 안내하기 위해 데이터셋, 지표 및 향후 경향을 강조한다.

제안 방법

• poisoning과 evasion 설정을 포괄하는 그래프 적대적 공격에 대한 통일된 형식화(Definition 3.2)를 제안한다.
• 그래프 거리 Q(·,·)와 예산 ε (Eq. 3 및 관련 논의를 참조)로 나타낸 섭동 공간 Φ(Gi)와 불가시성(imperceptibility)을 정의한다.
• 공격과 방어를 GNN vs Non-GNN 범주로 분류하고 전술(에지/노드 섭동, 특징 변화, 재배선 등)을 요약한다.
• 정적 및 동적 그래프에 맞춘 섭동 유형(에지 수준, 노드 수준, 구조 보존, 속성 보존)과 불가시성 원칙에 대해 논의한다.
• 귀납적(inductive)와 전이적(transductive) 설정(Eq. 1)을 대비하는 통일 학습 프레임워크를 제시하고 감독/비감독 맥락으로 확장한다.
• 그래프 적대 학습 문헌을 추적·갱신하기 위한 온라인 저장소를 제공한다.

실험 결과

연구 질문

• RQ1 기존의 그래프 적대적 공격 모델을 포괄하는 통일된 형식은 무엇인가?
• RQ2 그래프 데이터에 대한 적대적 공격과 방어를 어떻게 체계적으로 분류할 수 있는가(GNN vs Non-GNN, 공격 유형, 섭동, 작업)?
• RQ3 일반적으로 사용되는 데이터셋, 지표, 평가 관행은 무엇이며 벤치마크 개발에 어떻게 기여할 수 있는가?
• RQ4 그래프 적대 학습의 핵심 도전 과제, 한계 및 향후 방향은 무엇인가?
• RQ5 온라인 자원이 그래프 적대 학습 연구를 추적하고 재현하는 데 연구자들을 어떻게 지원할 수 있는가?

주요 결과

• 본 연구는 100편이 넘는 논문을 다루며 그래프 적대 학습의 통합된 그림을 제공한다.
• 그래프 적대적 공격의 통일된 형식화를 제안하여 다양한 방법들을 하나로 통합한다(Definition 3.2).
• 그래프 적대 학습에서 관련 연구와 코드를 추적하기 위한 오픈 소스 온라인 자원(GitHub)이 생성되었다.
• 본 논문은 GNN 기반과 비-GNN 기반 공격/방어를 구분하는 분류 체계를 제공하고 평가 지표 및 데이터셋을 요약한다.
• 정적 및 동적 그래프에서의 에지/노드 섭동, 구조 보존/속성 보존 변화 등 섭동 개념과 불가시성 원칙을 논의한다.
• 공격/방어 방법을 비교하기 위한 벤치마크의 필요성을 강조하고 향후 연구 방향을 제시한다.