[논문 리뷰] Link Prediction Adversarial Attack

Jinyin Chen, Ziqiang Shi외 3명|arXiv (Cornell University)|2018. 10. 02.

Advanced Graph Neural Networks참고 문헌 37인용 수 23

한 줄 요약

이 논문은 링크 예측에 대한 대비 공격의 첫 번째 공식 정의와 프레임워크를 제안하며, 훈련된 그래프 오토인코더(GAE)에서 기울기 최적화를 기반으로 하는 반복 기울기 공격(IGA)을 제안한다. IGA는 소수의 링크만 변형시켜 딥러닝 기반(GAE, DeepWalk, node2vec 등) 및 고전적인 유사도 기반 링크 예측 방법을 효과적으로 속이는데, GAE에서 성공률가 60% 이상을 기록하고, Local Random Walk과 같은 방법에서는 최소한의 변형으로 100%에 이를 정도로 높은 성능을 보인다.

ABSTRACT

Deep neural network has shown remarkable performance in solving computer vision and some graph evolved tasks, such as node classification and link prediction. However, the vulnerability of deep model has also been revealed by carefully designed adversarial examples generated by various adversarial attack methods. With the wider application of deep model in complex network analysis, in this paper we define and formulate the link prediction adversarial attack problem and put forward a novel iterative gradient attack (IGA) based on the gradient information in trained graph auto-encoder (GAE). To our best knowledge, it is the first time link prediction adversarial attack problem is defined and attack method is brought up. Not surprisingly, GAE was easily fooled by adversarial network with only a few links perturbed on the clean network. By conducting comprehensive experiments on different real-world data sets, we can conclude that most deep model based and other state-of-art link prediction algorithms cannot escape the adversarial attack just like GAE. We can benefit the attack as an efficient privacy protection tool from link prediction unknown violation, on the other hand, link prediction attack can be a robustness evaluation metric for current link prediction algorithm in attack defensibility.

연구 동기 및 목표

• 이전에 체계적으로 연구되지 않은 링크 예측 대비 공격 문제를 정의하고 공식화하기.
• 모델 기울기를 활용하여 그래프 구조에 효과적인 대비 변형을 생성하는 기울기 기반 공격 방법(IGA)을 개발하기.
• 딥러닝 및 고전적인 유사도 기반 방법을 포함한 다양한 링크 예측 모델의 대비 공격에 대한 내공을 평가하기.
• 대비 공격의 双기능적 활용성 탐구: 개인정보 보호 수단으로서의 기능과 링크 예측 알고리즘의 내공 평가 지표로서의 기능

제안 방법

• 입력 그래프에 대한 손실의 기울기를 사용하여 인접 행렬을 반복적으로 업데이트함으로써 대비 변형을 계산하는 반복 기울기 공격(IGA)을 제안한다.
• 링크 예측을 위한 타겟 모델로 그래프 오토인코더(GAE)를 훈련시키며, 공격 생성을 위한 기울기를 계산하기 위해 학습된 노드 표현을 활용한다.
• 공격자가 모델의 파라미터와 기울기를 완전히 접근할 수 있는 화이트박스 설정에서 IGA를 적용하여 링크 변형을 최적화한다.
• 실제 세계 네트워크(NS, Facebook, Yeast)에서 여러 모델에 대해 기울기 공격(GA), DICE, 무작위 변형(RAND)과 같은 기준 공격 방법과 IGA를 비교한다.
• 공격 범위의 영향을 분석하기 위해 단일 노드 또는 무제한 노드 수정으로 공격를 제약한다.
• 다양한 링크 예측 방법과 네트워크 유형에서 공격 효과를 시각화하여 성능 추세를 분석한다.

실험 결과

연구 질문

• RQ1 특히 GAE와 같은 딥러닝 기반 모델은 그래프 구조에 대한 대비 변형을 효과적으로 공격당할 수 있는가?
• RQ2 다양한 링크 예측 알고리즘에서 제안된 IGA의 성능은 기존 공격 방법(DICE, GA 등)과 비교해 어떻게 다른가?
• RQ3 변형 크기와 대상 노드의 차수는 공격 성공률에 어떤 영향을 미치는가?
• RQ4 더 엄격한 제약 조건에도 불구하고 단일 노드 공격이 무제한 노드 공격보다 성능이 뛰어나는 이유는 무엇인가?
• RQ5 고전적인 유사도 기반 링크 예측 방법(Local Random Walk 등)은 딥러닝 모델에 비해 대비 공격에 얼마나 강건한가?

주요 결과

• IGA는 GAE에서 60%의 공격 성공률를 기록하며, 특히 저변형 조건에서 GA 및 DICE보다 뚜렷이 뛰어난 성능을 보였다.
• Yeast 네트워크에서 Local Random Walk 방법에 대해 IGA는 단 3~4개의 링크만 수정하여도 100%의 공격 성공률를 달성하여, 유사도 기반 방법의 높은 취약성을 입증했다.
• 단일 노드 공격은 무제한 노드 공격보다 성능이 뛰어나 NS 데이터셋에서 DeepWalk 및 node2vec에서 거의 100%의 성공률를 기록하며, 집중적인 변형이 더 효과적임을 시사했다.
• 차수 2~3인 링크에 대해 IGA는 Yeast에서 단 3개의 링크만 수정하여도 33.93%의 공격 성공률를 기록하며, 저차수 노드의 취약성을 입증했다.
• NS 및 Yeast에서 딥러닝 모델(GAE, DeepWalk, node2vec)에 대해 IGA의 성공률는 GA 및 DICE보다 항상 높았으며, 특히 50% 이하의 변형 비율에서 두드러졌다.
• 밀도가 높은 Facebook 네트워크에서는 변형 비율이 50%를 초과할 경우 DICE가 IGA를 능가했으며, 이는 큰 밀도의 그래프에서 장거리 링크 추가가 더 효과적임을 시사했다.