[論文レビュー] Adversarial Attack and Defense on Graph Data: A Survey

Lichao Sun, Yingtong Dou+6 more|arXiv (Cornell University)|Dec 26, 2018

Advanced Graph Neural Networks被引用数 52

ひとこと要約

100+ 論文を統合した総合的な調査で、グラフデータに対する敵対的攻撃/防御を統合し、オンラインリソースとグラフニューラルネットワークおよび関連手法の分類法を提供します。

ABSTRACT

Deep neural networks (DNNs) have been widely applied to various applications, including image classification, text generation, audio recognition, and graph data analysis. However, recent studies have shown that DNNs are vulnerable to adversarial attacks. Though there are several works about adversarial attack and defense strategies on domains such as images and natural language processing, it is still difficult to directly transfer the learned knowledge to graph data due to its representation structure. Given the importance of graph analysis, an increasing number of studies over the past few years have attempted to analyze the robustness of machine learning models on graph data. Nevertheless, existing research considering adversarial behaviors on graph data often focuses on specific types of attacks with certain assumptions. In addition, each work proposes its own mathematical formulation, which makes the comparison among different methods difficult. Therefore, this review is intended to provide an overall landscape of more than 100 papers on adversarial attack and defense strategies for graph data, and establish a unified formulation encompassing most graph adversarial learning models. Moreover, we also compare different graph attacks and defenses along with their contributions and limitations, as well as summarize the evaluation metrics, datasets and future trends. We hope this survey can help fill the gap in the literature and facilitate further development of this promising new field.

研究の動機と目的

• グラフデータ上の敵対的攻撃と防御の広範で統一的な見方を提供する。
• さまざまなグラフ敵対的手法を比較するための統一的な問題定式化を導入する。
• GNNベースとNon-GNNベースのアプローチを分離する分類法を開発し、データセットと評価指標を要約する。
• ベンチマーク開発と研究方針を導くため、データセット、指標、将来の動向を強調する。

提案手法

• グラフ敵対的攻撃の統一定式化（Definition 3.2）を提案し、 poisoning（汚染）と evasion（回避）設定の両方をカバーする。
• 摂動空間 Φ(Gi) を定義し、グラフ距離 Q(·,·) および予算 ε（Eq. 3 および関連する議論）による不可知性を定義する。
• 攻撃と防御を GNN 対 Non-GNN のカテゴリに分類し、手法の要点（エッジ/ノードの摂動、特徴の変更、再接続など）を要約する。
• 摂動タイプ（エッジレベル、ノードレベル、構造保持、属性保持）と静的および動的グラフに合わせた知覚不可視性原則について議論する。
• Eq. 1 を用いた帰納的設定とトランスダクティブ設定を対比する統一学習フレームワークを提示し、監視あり/なしの文脈へ拡張する。
• グラフ敵対学習文献を追跡・更新するオンラインリポジトリを提供する。

実験結果

リサーチクエスチョン

• RQ1 既存のグラフ敵対攻撃モデルを包摂する統一的な定式化とは何か？
• RQ2 グラフデータに対する敵対攻撃と防御は、GNN vs Non-GNN、攻撃タイプ、摂動、タスクなどを体系的にどのように分類できるか？
• RQ3 一般に用いられるデータセット、指標、評価手法は何か、ベンチマーク開発をどう支援できるか？
• RQ4 グラフ敵対学習の主要な課題、制限、将来の方向性は何か？
• RQ5 オンラインリソースは研究者がグラフ敵対学習の研究を追跡・再現するのをどのように支援できるか？

主な発見

• 本調査は100件を超える論文を対象とし、グラフ敵対学習の統合的な全体像を提供する。
• グラフ敵対攻撃の統一定式化が提案され、さまざまな手法を統合する（Definition 3.2）。
• グラフ敵対学習に関する関連研究とコードを追跡するオープンソースのオンラインリソース（GitHub）が作成された。
• 本論文はGNNベースと非GNNベースの攻撃/防御を区別する分類法を提供し、評価指標とデータセットを要約する。
• 摂動概念（エッジ/ノードの摂動、構造/属性保持の変化）と静的および動的グラフにわたる知覚不可視性原則を議論する。
• 攻撃/防御手法を比較するためのベンチマークの必要性を強調し、将来の研究方向を概説する。