[論文レビュー] A Survey of Adversarial Learning on Graphs

Liang Chen, Jintang Li+7 more|arXiv (Cornell University)|Mar 10, 2020

Advanced Graph Neural Networks参考文献 62被引用数 58

ひとこと要約

本調査はグラフ対敵学習の定義と分類法を統一し、攻撃・防御・評価指標・未解決の問いを網羅するとともに、最新動向のためのGitHubリソースを提供します。

ABSTRACT

Deep learning models on graphs have achieved remarkable performance in various graph analysis tasks, e.g., node classification, link prediction, and graph clustering. However, they expose uncertainty and unreliability against the well-designed inputs, i.e., adversarial examples. Accordingly, a line of studies has emerged for both attack and defense addressed in different graph analysis tasks, leading to the arms race in graph adversarial learning. Despite the booming works, there still lacks a unified problem definition and a comprehensive review. To bridge this gap, we investigate and summarize the existing works on graph adversarial learning tasks systemically. Specifically, we survey and unify the existing works w.r.t. attack and defense in graph analysis tasks, and give appropriate definitions and taxonomies at the same time. Besides, we emphasize the importance of related evaluation metrics, investigate and summarize them comprehensively. Hopefully, our works can provide a comprehensive overview and offer insights for the relevant researchers. Latest advances in graph adversarial learning are summarized in our GitHub repository https://github.com/EdisonLeeeee/Graph-Adversarial-Learning.

研究の動機と目的

• グラフ対敵攻撃と防御の統一的な定式化を提供する。
• 知識・目的・能力・戦略など、複数の視点から攻撃/防御手法を分類する。
• 評価指標を要約し、タスク特有の観点を強調する。
• 将来の研究を導くために制限事項と未解決の課題を強調する。

提案手法

• グラフ攻撃と防御の統一的な問題定式化を提示する（例：Eq. 2 および関連定義）。
• 攻撃者の知識（white/gray/black/no-box）、目的（セキュリティ違反、エラーの特異性、攻撃の特異性）、能力（ poisoning vs evasion）に基づく攻撃の分類法を開発する。
• トポロジー対特徴量対ハイブリッドの攻撃戦略と、予算および摂動を伴う操作（Add/Rem/Rew）を特徴づける。
• 対象タスク（ノード・リンク・グラフ）を区別し、タスクに合わせた攻撃/防御の観点を提供する。
• 勾配ベース/非勾配ベース/RLベース/生成モデルなどの攻撃アルゴリズムとサロゲートモデリングの考慮事項を説明する。
• グラフ対敵学習の評価指標と実践的考慮事項を要約する。

実験結果

リサーチクエスチョン

• RQ1 タスクを横断して、グラフ対敵攻撃と防御を一貫して定義・定式化するにはどうすればよいか？
• RQ2 グラフ対敵学習の全体像を最も適切に整理する分類法は何であり、なぜか？
• RQ3 攻撃の影響、防御の堅牢性、知覚性を確実に測定する評価指標は何か？
• RQ4 グラフ対敵学習における現在の制限と未解決の問いは何か？

主な発見

• 一貫性のない問題定義を解消するため、グラフ対敵攻撃と防御の統一的な定義と定式化が提案される。
• 攻撃者の知識・目的・能力・戦略に関する体系的な分類法が提供される。
• グラフ対敵タスクの評価指標を、効果性・効率性・知覚性の観点から評価することに重点を置く。
• 本調査は未解決の問いと限界を特定し、今後の研究の方向性を導く。
• グラフ対敵学習の最新動向を要約・共有するためのGitHubリポジトリが維持されている。