[논문 리뷰] A Survey of Adversarial Learning on Graphs

Liang Chen, Jintang Li외 7명|arXiv (Cornell University)|2020. 03. 10.

Advanced Graph Neural Networks참고 문헌 62인용 수 58

한 줄 요약

본 고찰은 그래프 적대 학습의 정의와 분류체계를 통합하고, 공격, 방어, 평가 지표 및 열린 질문들을 다루며, 최신 발전 현황에 대한 GitHub 리소스를 제공합니다.

ABSTRACT

Deep learning models on graphs have achieved remarkable performance in various graph analysis tasks, e.g., node classification, link prediction, and graph clustering. However, they expose uncertainty and unreliability against the well-designed inputs, i.e., adversarial examples. Accordingly, a line of studies has emerged for both attack and defense addressed in different graph analysis tasks, leading to the arms race in graph adversarial learning. Despite the booming works, there still lacks a unified problem definition and a comprehensive review. To bridge this gap, we investigate and summarize the existing works on graph adversarial learning tasks systemically. Specifically, we survey and unify the existing works w.r.t. attack and defense in graph analysis tasks, and give appropriate definitions and taxonomies at the same time. Besides, we emphasize the importance of related evaluation metrics, investigate and summarize them comprehensively. Hopefully, our works can provide a comprehensive overview and offer insights for the relevant researchers. Latest advances in graph adversarial learning are summarized in our GitHub repository https://github.com/EdisonLeeeee/Graph-Adversarial-Learning.

연구 동기 및 목표

• 그래프 적대적 공격과 방어에 대한 통합된 형식을 제공합니다.
• 지식, 목표, 능력, 전략 등 여러 관점에서 공격/방어 방법을 분류합니다.
• 평가 지표를 요약하고 작업별 고려사항을 강조합니다.
• 향후 연구를 이끈 한계와 열린 질문을 강조합니다.

제안 방법

• 그래프 공격과 방어에 대한 통합된 문제 형식(예: Eq. 2 및 관련 정의)을 제시합니다.
• 공격자의 지식(white/gray/black/no-box), 목표(보안 위반, 오류 특이성, 공격 특이성) 및 능력(중독/우회)에 기반한 공격의 분류체계를 개발합니다.
• 위협 전략(토폴로지, 피처, 하이브리드)과 조작 연산(Add/Rem/Rew) 및 예산과 섭동을 특징지웁니다.
• 대상 작업(node, link, graph)을 구분하고 작업에 맞춘 공격/방어 관점을 제공합니다.
• 공격 알고리즘(gradient-based, 비-grad 기반, RL 기반, 생성 모델) 및 대리 모델링 고려사항을 설명합니다.
• 그래프 적대 학습을 위한 평가 지표와 실용적 고려사항을 요약합니다.

실험 결과

연구 질문

• RQ1 다른 작업 간에 그래프 적대적 공격과 방어를 일관되게 정의하고 형식화할 수 있는가?
• RQ2 그래프 적대 학습의 영역을 가장 잘 조직하는 분류체계는 무엇이며 그 이유는 무엇인가?
• RQ3 공격 영향, 방어 강건성 및 식별 가능성을 신뢰성 있게 측정하는 평가 지표는 무엇인가?
• RQ4 그래프 적대 학습의 현재 한계와 열린 질문은 무엇인가?

주요 결과

• 일관되지 않은 문제 정의를 해소하기 위해 그래프 적대 공격과 방어에 대한 통합된 정의와 형식이 제안됩니다.
• 공격자 지식, 목표, 능력 및 전략에 대한 체계적 분류체계가 제시됩니다.
• 그래프 적대 학습 과제의 효율성, 효과성, 그리고 눈에 띄지 않음(in imperceptibility) 측면에서 지표 평가에 중점을 둡니다.
• 본 고찰은 열린 질문과 한계를 식별하여 향후 연구 방향을 제시합니다.
• 그래프 적대 학습의 최신 발전을 요약하고 공유하기 위해 GitHub 저장소를 유지합니다.