[論文レビュー] GraphAttacker: A General Multi-Task GraphAttack Framework

Jinyin Chen, Dunjie Zhang+4 more|arXiv (Cornell University)|Jan 18, 2021

Advanced Graph Neural Networks参考文献 87被引用数 6

ひとこと要約

GraphAttackerは、生成的敵対的ネットワーク（GANs）に基づく一般化されたマルチタスクグラフ攻撃フレームワークを提案する。このフレームワークは、ノード分類、グラフ分類、リンク予測のための多様で隠れやすい敵対的例を生成する。マルチストラテジー攻撃生成器、類似度識別器、攻撃識別器を同時に訓練することで、複数のタスクにおいて最先端の攻撃性能を達成し、敵対的訓練に対しても耐性を示す。また、ノード類似度分布を維持することで、類似度ベースの防御からの回避性が向上する。

ABSTRACT

Graph neural networks (GNNs) have been successfully exploited in graph analysis tasks in many real-world applications. The competition between attack and defense methods also enhances the robustness of GNNs. In this competition, the development of adversarial training methods put forward higher requirement for the diversity of attack examples. By contrast, most attack methods with specific attack strategies are difficult to satisfy such a requirement. To address this problem, we propose GraphAttacker, a novel generic graph attack framework that can flexibly adjust the structures and the attack strategies according to the graph analysis tasks. GraphAttacker generates adversarial examples through alternate training on three key components: the multi-strategy attack generator (MAG), the similarity discriminator (SD), and the attack discriminator (AD), based on the generative adversarial network (GAN). Furthermore, we introduce a novel similarity modification rate SMR to conduct a stealthier attack considering the change of node similarity distribution. Experiments on various benchmark datasets demonstrate that GraphAttacker can achieve state-of-the-art attack performance on graph analysis tasks of node classification, graph classification, and link prediction, no matter the adversarial training is conducted or not. Moreover, we also analyze the unique characteristics of each task and their specific response in the unified attack framework. The project code is available at https://github.com/honoluluuuu/GraphAttacker.

研究の動機と目的

• 既存のグラフ攻撃手法に見られる多様性の欠如に起因する、主に単一タスクおよび固定戦略に限定された問題に対処すること。
• ノード分類、グラフ分類、リンク予測を含む複数のグラフ解析タスクに適用可能な統一的で一般化可能な攻撃フレームワークの開発。
• グラフ内のノードの類似度分布を維持することで、効果的かつ隠れやすい敵対的例の生成。
• GANベースの訓練により多様な摂動を生成することで、敵対的訓練に対する攻撃の耐性を向上。
• 将来の防御戦略の立案に役立てるために、異なるグラフ解析タスクにおけるタスク固有の脆弱性と特徴を分析すること。

提案手法

• GraphAttackerは、マルチストラテジー攻撃生成器（MAG）、類似度識別器（SD）、攻撃識別器（AD）からなる三者対戦型GANフレームワークを採用する。
• MAGは、構造的変更、属性的変更、ハイブリッド変更を含む複数の攻撃戦略を用いて敵対的摂動を生成する。
• SDは、ノード表現の類似度分布が元のグラフに近づくように保証し、隠れやすさを向上させる。
• ADは、ターゲットタスクにおけるモデルの予測シフトを測定することで、攻撃の成功度を評価する。
• ノード類似度の変化を定量化・制約するための新規な類似度変更率（SMR）を導入し、類似度ベースの防御からの回避性を向上させる。
• MAG、SD、ADの交互訓練により、複数のタスクにわたる多様で高品質な敵対的例の生成が可能になる。

実験結果

リサーチクエスチョン

• RQ1 ノード分類、グラフ分類、リンク予測を含む複数のグラフ解析タスクをサポートできる一般化された攻撃フレームワークをどのように設計できるか？
• RQ2 異なるグラフ解析タスクにおける攻撃効果性とモデルの脆弱性に、どのような差が生じるか？
• RQ3 ノード類似度分布を維持することで、敵対的例をより多様かつ隠れやすくするにはどうすればよいか？
• RQ4 敵対的訓練、強力な防御の基準としての環境下で、提案フレームワークの性能はどのようになるか？
• RQ5 各グラフ解析タスク固有の特徴は、攻撃成功率や摂動設計にどのように影響を与えるか？

主な発見

• GraphAttackerは、複数のベンチマークデータセットにおいて、ノード分類、グラフ分類、リンク予測タスクで最先端の攻撃性能を達成した。
• 敵対的訓練下でも高い攻撃成功率を維持しており、強力な防御メカニズムに対しても耐性を示した。
• 密度の高いグラフで特徴が疎である場合（例：Cora、Citeseer）、グラフ構造攻撃が属性攻撃を上回った。一方、連続的ノード特徴を持つデータセット（例：PROTEINS-full、ENZYMES）では、属性攻撃がより効果的であった。
• グラフ分類攻撃は、すべてのノードにわたる情報を集約する必要があるため、ノード分類攻撃に比べてより大きな攻撃予算を要する。
• リンク予測攻撃は、予測されるリンク確率に顕著な変化を加える必要があるため、最も困難であり、分類境界が急であることを示唆している。
• 類似度変更率（SMR）は、ノード類似度分布の維持に効果を発揮し、隠れやすさを向上させるとともに、類似度ベースの防御による検出を低減した。