[論文レビュー] Graph Anomaly Detection via Multi-Scale Contrastive Learning Networks with Augmented View

Jingcan Duan, Siwei Wang+6 more|arXiv (Cornell University)|Dec 1, 2022

Advanced Graph Neural Networks被引用数 9

ひとこと要約

本稿では、エッジ変更によるグラフ増幅を用いたマルチビュー設定において、部分グラフ同士の対比を導入することでマルチスケール対比学習を強化する、GRADATEと呼ばれるグラフ異常検出フレームワークを提案する。ノード-部分グラフ、ノード-ノード、部分グラフ-部分グラフの対比を同時に最適化することで、6つのベンチマークデータセットにおいて最先端の性能を達成し、UAI2010で92.62%、Coraで92.37%のAUC向上を達成した。

ABSTRACT

Graph anomaly detection (GAD) is a vital task in graph-based machine learning and has been widely applied in many real-world applications. The primary goal of GAD is to capture anomalous nodes from graph datasets, which evidently deviate from the majority of nodes. Recent methods have paid attention to various scales of contrastive strategies for GAD, i.e., node-subgraph and node-node contrasts. However, they neglect the subgraph-subgraph comparison information which the normal and abnormal subgraph pairs behave differently in terms of embeddings and structures in GAD, resulting in sub-optimal task performance. In this paper, we fulfill the above idea in the proposed multi-view multi-scale contrastive learning framework with subgraph-subgraph contrast for the first practice. To be specific, we regard the original input graph as the first view and generate the second view by graph augmentation with edge modifications. With the guidance of maximizing the similarity of the subgraph pairs, the proposed subgraph-subgraph contrast contributes to more robust subgraph embeddings despite of the structure variation. Moreover, the introduced subgraph-subgraph contrast cooperates well with the widely-adopted node-subgraph and node-node contrastive counterparts for mutual GAD performance promotions. Besides, we also conduct sufficient experiments to investigate the impact of different graph augmentation approaches on detection performance. The comprehensive experimental results well demonstrate the superiority of our method compared with the state-of-the-art approaches and the effectiveness of the multi-view subgraph pair contrastive strategy for the GAD task.

研究の動機と目的

• 既存のグラフ異常検出手法が部分グラフ-部分グラフの対比学習を無視しているという限界を是正するが、その潜在的な部分グラフ表現の強化の可能性は大きい。
• グラフの複数のビューにおいてマルチスケール対比学習を統合することで、ノードレベルおよび部分グラフレベルの異常検出を向上させる。
• 特にエッジ変更に注目した、異なるグラフ増幅戦略が、異常検出における対比学習の性能に与える影響を調査する。
• ノード-部分グラフ、ノード-ノード、部分グラフ-部分グラフの対比を統合的に組み合わせる包括的なフレームワークを構築し、検出のロバスト性と正確性を向上させる。

提案手法

• 入力グラフの2つのビューを構築する：1つ目のビューとして元のグラフ、2つ目のビューとしてエッジ変更によって生成されたバージョンを用いる。
• ランダムウォーク・リスタートを用いて両ビューから部分グラフを抽出し、部分グラフレベルの表現学習を可能にする。
• 3つの対比学習ヘッドを実装する：ノード-部分グラフ、ノード-ノード、部分グラフ-部分グラフの対比で、特に後者は2つのビュー間での部分グラフ埋め込みを一致させるように設計されている。
• 学習可能なバランスパラメータ α, β, γ を用いた重み付き損失関数を用いてモデルを最適化する。
• グラフニューラルネットワーク（GNN）を用いて、各対比的学習目的下でのノード、部分グラフ、近隣表現を符号化する。
• すべての対比ブランチからの表現を組み合わせることで、各ノードの異常スコアを集約し、検出の信頼性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 ノードレベルおよび部分グラフレベルの対比に加えて、部分グラフ-部分グラフの対比を導入することで、グラフ異常検出性能にどのような向上効果が得られるか？
• RQ2 マルチビュー対比学習を用いたGADの文脈において、特徴の摂動とエッジ変更のどちらのグラフ増幅戦略がより優れた性能を発揮するか？
• RQ3 各対比的学習目的（ノード-部分グラフ、ノード-ノード、部分グラフ-部分グラフ）が、全体の検出性能に果たす相対的寄与度はどの程度か？
• RQ4 バランス重み α, β, γ やエッジ変更割合 P といったハイパーパrameterの変更に対して、モデルの性能はどの程度感度を示すか？
• RQ5 提案されたマルチビュー・マルチスケール対比フレームワークは、異常特性が異なる多様な実世界のグラフデータセットに対しても、効果的に一般化可能か？

主な発見

• 部分グラフ-部分グラフの対比を組み込むことで、検出性能が顕著に向上し、GRADATEはUAI2010データセットでAUC 0.9262を達成し、ベースラインNS+NN（0.8731）を上回った。
• エッジ変更は、すべてのデータセットで最も優れた性能を発揮し、CitationではAUC 0.8138、CoraではAUC 0.9237を記録し、GNF や FM といった特徴ベースの増幅法を上回った。
• アブレーションスタディにより、3つの対比的学習目的（NS+NN+SS）を統合することで最高の性能が得られ、ノード-部分グラフのみのベースラインに比べて平均で2.5%のAUC向上が確認された。
• 部分グラフ-部分グラフ対比の最適なバランスパラメータ γ は、すべてのデータセットで 0.1 に特定され、この対比信号がやや弱く重み付けされた場合に最も効果的であることが示された。
• エッジ変更割合 P が 0.1 から 0.3 の間で変動しても性能に最小限の変動が観察され、この手法のロバスト性を裏付けた。
• 感度分析により、α と β が性能に顕著な影響を及ぼすことが判明し、EATでは α=0.9、β=0.3 が最適値、UAI2010では α=0.7、β=0.5 が最適値であった。これはハイパーパrameterチューニングの重要性を示している。