[논문 리뷰] Understanding Structural Vulnerability in Graph Convolutional Networks

Liang Chen, Jintang Li외 4명|arXiv (Cornell University)|2021. 08. 13.

Advanced Graph Neural Networks참고 문헌 28인용 수 4

한 줄 요약

이 논문은 그래프 컨volution 네트워크(GCNs)에서 비저항성 가중 평균 집합화가 적대적 공격에 대한 구조적 취약성의 근본 원인임을 규명한다. 가중 평균 대신 중앙값과 잘라낸 평균과 같은 고파괴점 집합화 기법을 도입함으로써, 예측 정확도를 유지하면서도 직접적 및 간접적 구조적 공격에 대해 최신 기술 수준의 저항성을 확보하였다. 이는 네 개의 실세계 데이터셋에서 검증되었다.

ABSTRACT

Recent studies have shown that Graph Convolutional Networks (GCNs) are vulnerable to adversarial attacks on the graph structure. Although multiple works have been proposed to improve their robustness against such structural adversarial attacks, the reasons for the success of the attacks remain unclear. In this work, we theoretically and empirically demonstrate that structural adversarial examples can be attributed to the non-robust aggregation scheme (i.e., the weighted mean) of GCNs. Specifically, our analysis takes advantage of the breakdown point which can quantitatively measure the robustness of aggregation schemes. The key insight is that weighted mean, as the basic design of GCNs, has a low breakdown point and its output can be dramatically changed by injecting a single edge. We show that adopting the aggregation scheme with a high breakdown point (e.g., median or trimmed mean) could significantly enhance the robustness of GCNs against structural attacks. Extensive experiments on four real-world datasets demonstrate that such a simple but effective method achieves the best robustness performance compared to state-of-the-art models.

연구 동기 및 목표

• 그래프 컨볼루션 네트워크(GCNs)가 노드 분류 성능이 뛰어나지만 구조적 적대적 공격에 취약한 이유를 이해하기 위해.
• 이 취약성의 근본 원인을 GCNs의 집합화 메커니즘에 초점을 맞춰 규명하기 위해.
• 이론적으로 탄탄한 단순한 방법을 제안하여 GCN의 저항성을 향상시키기 위해.
• 고파괴점 집합화 기법(예: 중앙값, 잘라낸 평균)을 사용할 경우 타겟 구조적 공격에 대해 저항성이 크게 향상됨을 검증하기 위해.

제안 방법

• 파괴점 이론을 사용한 이론적 분석을 통해 집합화 기법의 저항성을 정량화하였으며, 가중 평균의 파괴점이 낮음을 입증하였다.
• GCNs의 표준 가중 평균 집합화를 중앙값 또는 잘라낸 평균 집합화로 대체함으로써 고파괴점 집합화 기법을 적용하였다.
• 간선 훼손에 대한 각 집합화 기법의 민감도를 비교하기 위해 파괴점을 공식적 측정 기준으로 사용하였다.
• 네 개의 실세계 데이터셋에서 다양한 훼손 예산을 가진 타겟 추론 공격(NETTACK)을 통해 저항성을 평가하였다.
• 다양한 공격 강도에서의 모델 성능을 종합적으로 평가하기 위해 복합 저항성 지표 ∑ₚ₌₁⁵ q × p_q 를 활용하였다.
• 직접 공격 및 간접 공격 모두에서 제안된 집합화 기법을 GCN, RGCN, SimPGCN 및 기타 최신 기술 수준 모델들과 비교하기 위한 분석 연구를 수행하였다.

실험 결과

연구 질문

• RQ1 그래프 컨볼루션 네트워크(GCNs)가 노드 분류 성능이 뛰어나지만 구조적 적대적 공격에 취약한 이유는 무엇인가?
• RQ2 GCNs의 집합화 기법 선택이 간선 훼손에 대한 저항성에 어떻게 영향을 미치는가?
• RQ3 중앙값이나 잘라낸 평균과 같은 고파괴점 집합화 기법이 GCN의 구조적 공격에 대한 저항성을 크게 향상시킬 수 있는가?
• RQ4 표준 가중 평균 집합화를 더 저항성 있는 대체 기법으로 대체할 경우, 정확도 손실 없이 저항성이 향상되는가?

주요 결과

• GCNs의 가중 평균 집합화는 낮은 파괴점을 가지며, 이는 소규모 구조적 훼손에 매우 민감함을 의미하여 핵심 취약성의 근본 원인이 된다.
• 중앙값과 잘라낸 평균 집합화 기법은 높은 파괴점을 가지며, 표준 GCNs를 파괴하는 적대적 간선 삽입 공격에 저항할 수 있다.
• Cora, Citeseer, Pubmed, Reddit 네 개의 실세계 데이터셋에서 중앙값 집합화는 직접 공격 상황에서 모든 기준 모델을 초월하고, 간접 공격 상황에서는 동등하거나 슈퍼리어한 성능을 보였다.
• 제안된 방법은 정확도 하락 없이 최신 기술 수준의 저항성을 확보하였으며, 훼손 예산이 5에 이르는 상황에서도 이를 입증하였다. 이는 저항성 있는 집합화가 효과적이며 실용적임을 시사한다.
• 저항성 지표 ∑ₚ₌₁⁵ q × p_q 는 중앙값 또는 잘라낸 평균을 사용하는 모델이 모든 훼손 수준에서 높은 성능을 유지함을 보여주며, 특히 예산이 작을 경우(예: 1 또는 2)에 뚜렷한 우수성을 보였다.
• 결과는 RGCN의 어텐션 메커니즘이 단순한 저항성 집합화 기법보다 뛰어나지 않음을 확인하였으며, 이는 저항성이 주로 집합화 설계에 의해 좌우되며 복잡한 어텐션 메커니즘에 의해 결정되지 않는다는 것을 시사한다.