[논문 리뷰] GNNGuard: Defending Graph Neural Networks against Adversarial Attacks

Xiang Zhang, Marinka Žitnik|arXiv (Cornell University)|2020. 06. 15.

Advanced Graph Neural Networks참고 문헌 62인용 수 122

한 줄 요약

GNNGuard는 이웃의 중요성을 추정하고 계층별 메모리를 활용하여 간선의 가지치기 또는 가중치를 적용하는 일반적인 방어책으로, 그래프에 대한 오염 공격에 대한 강인성을 높이는 어떤 GNN에도 적용 가능한 일반 방어책이다.

ABSTRACT

Deep learning methods for graphs achieve remarkable performance across a variety of domains. However, recent findings indicate that small, unnoticeable perturbations of graph structure can catastrophically reduce performance of even the strongest and most popular Graph Neural Networks (GNNs). Here, we develop GNNGuard, a general algorithm to defend against a variety of training-time attacks that perturb the discrete graph structure. GNNGuard can be straight-forwardly incorporated into any GNN. Its core principle is to detect and quantify the relationship between the graph structure and node features, if one exists, and then exploit that relationship to mitigate negative effects of the attack.GNNGuard learns how to best assign higher weights to edges connecting similar nodes while pruning edges between unrelated nodes. The revised edges allow for robust propagation of neural messages in the underlying GNN. GNNGuard introduces two novel components, the neighbor importance estimation, and the layer-wise graph memory, and we show empirically that both components are necessary for a successful defense. Across five GNNs, three defense methods, and five datasets,including a challenging human disease graph, experiments show that GNNGuard outperforms existing defense approaches by 15.3% on average. Remarkably, GNNGuard can effectively restore state-of-the-art performance of GNNs in the face of various adversarial attacks, including targeted and non-targeted attacks, and can defend against attacks on heterophily graphs.

연구 동기 및 목표

• 그래프 구조를 변형시키는 포이즌 공격에 대한 GNN의 강인성 격차를 해소한다.
• 핵심 아키텍처를 변경하지 않고도 어떤 GNN에든 부착할 수 있는 일반적인 방어책을 제공한다.
• 노드 특성-구조 상관관계를 활용하여 가짜 간선을 식별하고 완화하면서 학습 용량을 유지한다.

제안 방법

• 노드 임베딩 간 코사인 유사도를 이용한 이웃 간의 유사성으로 간선 수준의 방어 계수를 계산한다.
• 간선 특징 벡터의 학습된 비선형 변환을 통해 간선을 확률적으로 가지치기 한다.
• 계층 간 간선 가지치기를 안정시키기 위해 계층별 그래프 메모리를 도입한다.
• 방어 계수를 이용해 집계 및 업데이트 단계를 조정하여 어떤 GNN에도 방어를 통합한다.
• 다양한 GNN 유형과 공격 시나리오에서 방어가 적용됨을 보인다.

실험 결과

연구 질문

• RQ1 일반적인 방어를 사용하여 GNN이 표적 및 비표적 그래프 중독 공격으로부터 보호될 수 있는가?
• RQ2 이웃 기반 간선 가중치 부여와 메모리 기반 안정화가 이질적인 GNN 아키텍처 전반에서 강인성을 향상시키는가?
• RQ3 이질친화성 그래프와 다양한 데이터셋에서 방어가 효과적인가?

주요 결과

• GNNGuard는 다섯 가지 GNN, 네 가지 데이터셋, 다양한 공격에 대해 평균적으로 최대 15.3%의 향상을 보이며 세 가지 최첨단 방어를 능가한다.
• 직접 표적 공격, 영향 표적 공격, 비표적 공격하에서 강한 GNN의 최첨단 성능을 회복한다.
• 소거 실험은 이웃 중요도 추정과 계층별 메모리 모두가 방어 효과와 학습 안정성에 기여함을 보여준다.
• 헤테로필리 그래프에서도 GNNGuard가 여전히 효과적임을 보여주며, 동질성 우세 그래프를 넘어 폭넓은 적용 가능성을 시사한다.