[논문 리뷰] HyperAttack: Multi-Gradient-Guided White-box Adversarial Structure Attack of Hypergraph Neural Networks

Chao Hu, Ruishi Yu외 6명|arXiv (Cornell University)|2023. 02. 24.

Adversarial Robustness in Machine Learning인용 수 4

한 줄 요약

HyperAttack는 초그래프 신경망(HGNNs)을 대상으로 한 최초의 화이트박스 구조적 적대적 공격 프레임워크로, 표준 및 통합 기울기의 다중 기울기 가이던스를 활용하여 효율적으로 초간선 연결을 변형하고 노드 분류를 오도한다. Cora 및 PubMed 데이터셋에서 최신 기술 대비 10–13배 빠른 공격 시간과 1.3–3.7% 높은 성공률을 기록한다.

ABSTRACT

Hypergraph neural networks (HGNN) have shown superior performance in various deep learning tasks, leveraging the high-order representation ability to formulate complex correlations among data by connecting two or more nodes through hyperedge modeling. Despite the well-studied adversarial attacks on Graph Neural Networks (GNN), there is few study on adversarial attacks against HGNN, which leads to a threat to the safety of HGNN applications. In this paper, we introduce HyperAttack, the first white-box adversarial attack framework against hypergraph neural networks. HyperAttack conducts a white-box structure attack by perturbing hyperedge link status towards the target node with the guidance of both gradients and integrated gradients. We evaluate HyperAttack on the widely-used Cora and PubMed datasets and three hypergraph neural networks with typical hypergraph modeling techniques. Compared to state-of-the-art white-box structural attack methods for GNN, HyperAttack achieves a 10-20X improvement in time efficiency while also increasing attack success rates by 1.3%-3.7%. The results show that HyperAttack can achieve efficient adversarial attacks that balance effectiveness and time costs.

연구 동기 및 목표

• 초그래프 신경망(HGNNs)에 대한 적대적 공격 연구의 심각한 부족을 해결하고자 하며, 이는 그들의 증가하는 사용과 뛰어난 성능에도 불구하고 그렇다.
• 초간선의 복잡성과 고차원 관계로 인해 그래프 기반 적대적 공격 방법을 초그래프에 적응시키는 데 있어 핵심 과제를 규명하고자 한다.
• HGNNs를 대상으로 공격 성공률과 계산 비용의 균형을 고려한 효율적이고 효과적인 화이트박스 구조적 공격 프레임워크를 설계하고자 한다.
• 실제 세계 데이터셋을 사용하여 다양한 HGNN 모델의 구조적 흐트림에 대한 내공성을 평가하고자 한다.

제안 방법

• HyperAttack는 초그래프의 인cidencematrix를 수정하여 화이트박스 구조적 공격을 수행하며, 특히 타겟 노드에 연결된 초간선을 추가하거나 제거한다.
• 모델 손실에 가장 큰 영향을 미치는 초간선을 식별하기 위해 기울기 기반 점수를 사용하며, 이는 손실에 가장 큰 영향을 미치는 초간선을 우선순위로 정한다.
• 고차원 초그래프 구조에서 기울기 소실 현상을 줄이고 정확도를 향상시키기 위해 표준 기울기와 함께 통합 기울기를 사용한다.
• 공격 효과를 극대화하기 위해 병합된 기울기 신호를 기반으로 하여 초간선을 선택하고 수정하는 탐욕적이고 반복적인 변형 전략을 적용한다.
• HyperAttack는 Cora 및 PubMed 데이터셋에서 세 가지 다른 HGNN 아키텍처(HyperGCN, HGNN+, DHGNN 등)에 대해 평가되어 일반화 능력을 입증한다.

실험 결과

연구 질문

• RQ1 기존의 GNN에 대한 화이트박스 구조적 공격 방법은 초그래프 신경망에 효과적으로 적응시킬 수 있는가?
• RQ2 그래프와 비교했을 때 초그래프에서 적대적 공격을 수행하는 데 있어 핵심적인 구조적 및 계산 과제는 무엇인가?
• RQ3 어떻게 기울기 기반 방법을 통합 기울기와 결합하여 초그래프 환경에서의 공격 효율성과 성공률을 향상시킬 수 있는가?
• RQ4 HGNN을 공격할 때 공격 성공률과 시간 효율성 사이의 상충 관계는 어떠한가?

주요 결과

• HyperAttack는 Fast Gradient Attack 및 Integrated Gradient Attack과 같은 최신 기술 대비 시간 효율성에서 10–13배 향상되었다.
• Cora 및 PubMed 데이터셋에서 HyperAttack의 공격 성공률은 기준 GNN 공격 방법 대비 1.3%에서 3.7% 높아졌다.
• 표준 기울기와 통합 기울기를 모두 사용함으로써 변형 정밀도가 크게 향상되었고, 필요한 공격 반복 수가 감소했다.
• HyperAttack는 세 가지 다른 HGNN 모델에서 일관된 성능을 보이며 다양한 초그래프 학습 아키텍처에 광범위하게 적용 가능함을 입증했다.
• 노드 공격 당 평균 시간 비용은 표준 통합 기울기 방법을 사용할 때 40초에서 4초 이하로 감소하여 전체 그래프 공격이 가능해졌다.