[논문 리뷰] GraphAttacker: A General Multi-Task GraphAttack Framework

Jinyin Chen, Dunjie Zhang외 4명|arXiv (Cornell University)|2021. 01. 18.

Advanced Graph Neural Networks참고 문헌 87인용 수 6

한 줄 요약

GraphAttacker는 생성적 적대적 네트워크(GANs) 기반으로 다수의 작업에 일반화된 다중 작업 그래프 공격 프레임워크를 제안한다. 이는 노드 분류, 그래프 분류, 링크 예측 작업을 위한 다양한, 은밀한 적대적 예제를 생성한다. 다중 전략 공격 생성기, 유사도 판별기, 공격 판별기를 함께 훈련시켜, 다양한 작업에서 최신 기술 수준의 공격 성능을 달성하며, 적대적 훈련 조건에서도 성능을 유지한다. 또한 노드 유사도 분포를 유지함으로써 유사도 기반 방어 기법을 더욱 효과적으로 회피할 수 있다.

ABSTRACT

Graph neural networks (GNNs) have been successfully exploited in graph analysis tasks in many real-world applications. The competition between attack and defense methods also enhances the robustness of GNNs. In this competition, the development of adversarial training methods put forward higher requirement for the diversity of attack examples. By contrast, most attack methods with specific attack strategies are difficult to satisfy such a requirement. To address this problem, we propose GraphAttacker, a novel generic graph attack framework that can flexibly adjust the structures and the attack strategies according to the graph analysis tasks. GraphAttacker generates adversarial examples through alternate training on three key components: the multi-strategy attack generator (MAG), the similarity discriminator (SD), and the attack discriminator (AD), based on the generative adversarial network (GAN). Furthermore, we introduce a novel similarity modification rate SMR to conduct a stealthier attack considering the change of node similarity distribution. Experiments on various benchmark datasets demonstrate that GraphAttacker can achieve state-of-the-art attack performance on graph analysis tasks of node classification, graph classification, and link prediction, no matter the adversarial training is conducted or not. Moreover, we also analyze the unique characteristics of each task and their specific response in the unified attack framework. The project code is available at https://github.com/honoluluuuu/GraphAttacker.

연구 동기 및 목표

• 기존 그래프 공격 방법의 다양성 부족 문제를 해결하기 위해, 일반적으로 단일 작업과 고정된 전략에 국한된 방법들에 대비한다.
• 노드 분류, 그래프 분류, 링크 예측 등의 다양한 그래프 분석 작업에 적용 가능한 통합적이고 일반화 가능한 공격 프레임워크를 개발한다.
• 그래프 내 노드의 유사도 분포를 유지함으로써, 효과적이고 은밀한 적대적 예제를 생성한다.
• GAN 기반 훈련을 통해 다양한 변형을 생성함으로써, 적대적 훈련에 대한 공격의 강건성을 향상시킨다.
• 다양한 그래프 분석 작업 간의 특수한 취약점과 특성들을 분석하여 향후 방어 전략 수립에 기여한다.

제안 방법

• GraphAttacker는 다중 전략 공격 생성기(MAG), 유사도 판별기(SD), 공격 판별기(AD)로 구성된 삼자 GAN 프레임워크를 사용한다.
• MAG는 구조적, 속성적, 하이브리드 수정 전략을 포함한 다수의 공격 전략을 사용해 적대적 변형을 생성한다.
• SD는 노드 표현의 유사도 분포가 원본 그래프와 유사하게 유지되도록 보장함으로써 은밀성을 향상시킨다.
• AD는 타겟 작업에서 모델의 예측 변화를 측정하여 공격 성공 여부를 평가한다.
• 노드 유사도의 변화를 정량화하고 제약하는 데 사용되는 새로운 유사도 수정 비율(SMR)을 도입함으로써, 유사도 기반 방어 기법의 탐지 회피 능력을 향상시킨다.
• MAG, SD, AD 간의 번갈아 훈련을 통해 다수의 작업에서 다양하고 고품질의 적대적 예제를 생성할 수 있다.

실험 결과

연구 질문

• RQ1 노드 분류, 그래프 분류, 링크 예측 작업을 포함한 다양한 그래프 분석 작업을 지원할 수 있는 일반적 공격 프레임워크는 어떻게 설계할 수 있는가?
• RQ2 다양한 그래프 분석 작업 간의 공격 효과성과 모델 취약성의 핵심 차이점은 무엇인가?
• RQ3 노드 유사도 분포를 유지함으로써, 어떻게 더 다양한 은밀한 적대적 예제를 만들 수 있는가?
• RQ4 적대적 훈련이라는 강력한 방어 기반 조건에서 제안된 프레임워크는 어떻게 성능을 발휘하는가?
• RQ5 각 그래프 분석 작업이 공격 성공도와 변형 설계에 영향을 주는 고유한 특성은 무엇인가?

주요 결과

• GraphAttacker는 다양한 벤치마크 데이터셋에서 노드 분류, 그래프 분류, 링크 예측 작업 전반에 걸쳐 최신 기술 수준의 공격 성능를 달성한다.
• 프레임워크는 적대적 훈련 조건에서도 높은 공격 성공률을 유지하며, 강력한 방어 메커니즘에 대비한 강건성을 입증한다.
• 밀도가 높고 특성이 희소한 그래프(예: Cora, Citeseer)에서는 그래프 구조 공격이 속성 공격보다 성능이 뛰어나며, 연속적인 노드 특성을 가진 데이터셋(예: PROTEINS-full, ENZYMES)에서는 속성 공격이 더 효과적이다.
• 노드 분류보다 그래프 분류 공격는 모든 노드의 정보를 집계해야 하므로 더 큰 공격 예산이 필요하다.
• 링크 예측 공격는 예측된 링크 확률의 변화가 크기 때문에 가장 도전적이며, 이는 더 급격한 분류 경계를 의미한다.
• 유사도 수정 비율(SMR)은 노드 유사도 분포를 효과적으로 유지함으로써 은밀성을 향상시키고, 유사도 기반 방어 기법에 의한 탐지 가능성을 감소시킨다.