[論文レビュー] HyperAttack: Multi-Gradient-Guided White-box Adversarial Structure Attack of Hypergraph Neural Networks

Chao Hu, Ruishi Yu+6 more|arXiv (Cornell University)|Feb 24, 2023

Adversarial Robustness in Machine Learning被引用数 4

ひとこと要約

HyperAttackは、ハイパーグラフニューラルネットワーク（HGNNs）向けの最初のホワイトボックス構造的 adversarial 攻撃フレームワークであり、複数の勾配ガイダンス（標準勾配および統合勾配）を活用して、効率的にハイパーエッジ接続を摂動し、ノード分類を誤導する。CoraおよびPubMedデータセットにおいて、最先端のGNN攻撃手法と比較して10–13倍速く、1.3–3.7%高い成功率を達成している。

ABSTRACT

Hypergraph neural networks (HGNN) have shown superior performance in various deep learning tasks, leveraging the high-order representation ability to formulate complex correlations among data by connecting two or more nodes through hyperedge modeling. Despite the well-studied adversarial attacks on Graph Neural Networks (GNN), there is few study on adversarial attacks against HGNN, which leads to a threat to the safety of HGNN applications. In this paper, we introduce HyperAttack, the first white-box adversarial attack framework against hypergraph neural networks. HyperAttack conducts a white-box structure attack by perturbing hyperedge link status towards the target node with the guidance of both gradients and integrated gradients. We evaluate HyperAttack on the widely-used Cora and PubMed datasets and three hypergraph neural networks with typical hypergraph modeling techniques. Compared to state-of-the-art white-box structural attack methods for GNN, HyperAttack achieves a 10-20X improvement in time efficiency while also increasing attack success rates by 1.3%-3.7%. The results show that HyperAttack can achieve efficient adversarial attacks that balance effectiveness and time costs.

研究の動機と目的

• ハイパーグラフニューラルネットワーク（HGNNs）における adversarial 攻撃研究の著しい不足に応えるため、その増加する利用と優れた性能にもかかわらず。
• ハイパーエッジの複雑さと高次関係性のため、グラフベースの adversarial 攻撃手法をハイパーグラフに適応させる際の主な課題を特定するため。
• HGNNsの攻撃成功率と計算コストのバランスを取った、効率的かつ効果的なホワイトボックス構造的攻撃フレームワークを設計するため。
• 実世界のデータセットを用いて、複数のHGNNモデルの構造的摂動に対する耐性を評価するため。

提案手法

• HyperAttackは、ハイパーグラフのインシデント行列を変更することでホワイトボックス構造的攻撃を実行し、特に標的ノードに接続するハイパーエッジの追加または削除を行う。
• 勾配に基づくスコアリングを用いて、モデル損失に最も影響を与えるハイパーエッジを特定し、攻撃効果を最大化するための優先順位を付ける。
• 高次ハイパーグラフ構造における勾配の消失効果を軽減し、摂動の正確性を向上させるために、標準勾配に加えて統合勾配を活用する。
• 攻撃効果を最大化するために、組み合わせ勾配信号に基づいてハイパーエッジを選択・変更するグリーディで反復的な摂動戦略を適用する。
• 一般化を確保するため、CoraおよびPubMedデータセット上で3つの異なるHGNNアーキテクチャ（例：HyperGCN、HGNN+、DHGNN）に対してHyperAttackを評価する。

実験結果

リサーチクエスチョン

• RQ1 GNN向けに既存のホワイトボックス構造的攻撃手法は、ハイパーグラフニューラルネットワークに効果的に適応可能か？
• RQ2 グラフと比較して、ハイパーグラフにおける adversarial 攻撃の実行に際しての主な構造的および計算的課題は何か？
• RQ3 統合勾配を組み合わせることで、勾配ベース手法をどのように改善し、ハイパーグラフ環境下での攻撃効率と成功率を向上させられるか？
• RQ4 HGNNを標的とした際、攻撃成功率と時間効率のトレードオフはどのように変化するか？

主な発見

• HyperAttackは、Fast Gradient Attack や Integrated Gradient Attack などの最先端のGNN攻撃手法と比較して、時間効率が10–13倍向上している。
• CoraおよびPubMedデータセットにおいて、HyperAttackの攻撃成功率はベースラインのGNN攻撃手法よりも1.3%から3.7%高い。
• 標準勾配と統合勾配の両方を用いることで、摂動の精度が著しく向上し、必要な攻撃イテレーション数が減少した。
• HyperAttackは3つの異なるHGNNモデルにおいて一貫したパフォーマンスを示しており、さまざまなハイパーグラフ学習アーキテクチャへの広範な適用可能性を示している。
• ノード1つあたりの平均時間コストは、標準的な統合勾配手法を用いた場合の40秒から4秒未満にまで低下し、フルグラフ攻撃が現実可能になった。