[論文レビュー] From Unsupervised to Few-shot Graph Anomaly Detection: A Multi-scale Contrastive Learning Approach

Yu Zheng, Ming Jin+4 more|arXiv (Cornell University)|Feb 11, 2022

Anomaly Detection Techniques and Applications被引用数 10

ひとこと要約

本稿では、グラフニューラルネットワークを用いて、ノードレベル（パッチ）および部分グラフレベル（コンテキスト）の表現を統合的にモデル化する、マルチスケールの対照的学習フレームワークANEMONEを提案する。複数の視点間での一致を最大化し、ANEMONE-FSを介して少数のラベル付き異常データを統合することで、6つのベンチマークデータセットにおいて最先端の性能を達成し、1つのラベル付き異常から最大1.16%のAUC向上を実現した。

ABSTRACT

Anomaly detection from graph data is an important data mining task in many applications such as social networks, finance, and e-commerce. Existing efforts in graph anomaly detection typically only consider the information in a single scale (view), thus inevitably limiting their capability in capturing anomalous patterns in complex graph data. To address this limitation, we propose a novel framework, graph ANomaly dEtection framework with Multi-scale cONtrastive lEarning (ANEMONE in short). By using a graph neural network as a backbone to encode the information from multiple graph scales (views), we learn better representation for nodes in a graph. In maximizing the agreements between instances at both the patch and context levels concurrently, we estimate the anomaly score of each node with a statistical anomaly estimator according to the degree of agreement from multiple perspectives. To further exploit a handful of ground-truth anomalies (few-shot anomalies) that may be collected in real-life applications, we further propose an extended algorithm, ANEMONE-FS, to integrate valuable information in our method. We conduct extensive experiments under purely unsupervised settings and few-shot anomaly detection settings, and we demonstrate that the proposed method ANEMONE and its variant ANEMONE-FS consistently outperform state-of-the-art algorithms on six benchmark datasets.

研究の動機と目的

• 現行のグラフ異常検出手法が単一スケールの表現に依存するという限界に対処する。これは、現実世界のグラフにおける複雑なマルチレベルの異常パターンを捉えきれない。
• 少数の真の異常ラベルが利用可能な状況において、純粋に教師なし手法が効果を発揮しない問題を克服する。学習プロセスに少数ショットのラベル付きデータを統合することで、性能を向上させる。
• パッチ（ノード）およびコンテキスト（部分グラフ）レベルでの対照的学習を通じて、表現学習を強化する統一的で柔軟なフレームワークを構築する。
• 複数の対照的ラウンドにおけるマルチパースペクティブな一致を活用して、異常スコア推定を改善する統計的異常推定器を設計する。
• 多様な現実世界のグラフデータセットにおいて、純粋に教師なしおよび少数ショットの両設定下で、提案手法の有効性を実証する。

提案手法

• ノード（パッチ）および部分グラフ（コンテキスト）レベルに、異なる増幅戦略を適用することで複数のグラフビューを構築し、マルチスケールの構造的・特徴情報の捉えを可能にする。
• ノードとその周囲の部分グラフをそれぞれ別々のGNNエンコーダーで埋め込むことで、局所的およびグローバルな表現の共同学習を実現する。
• パッチおよびコンテキストレベルの両方で、正例および負例のインスタンスペアを形成し、対照的学習を実施。正例ペア間の類似度を最大化し、負例ペア間の類似度を最小化する。
• 複数ラウンドの対照的スコアを統合し、視点間の一致度に基づいて最終的な異常スコアを計算する統計的異常推定器に統合する。
• 少数のラベル付き異常を対照的学習目的関数に統合することで、ANEMONEをANEMONE-FSに拡張。ラベル付き異常を正例として用い、表現学習を精緻化する。
• パッチレベルおよびコンテキストレベルの対照的損失の重み付き組み合わせを最適化し、2つの成分をバランスさせる学習可能ハイパーパramーターアルファ（α）を用いる。

実験結果

リサーチクエスチョン

• RQ1 パッチおよびコンテキストレベルでのマルチスケール対照的学習は、単一スケール手法と比較して、グラフ異常検出のためのノード表現品質を向上させるか？
• RQ2 局所的およびグローバルな構造的パターンの統合的モデリングは、複雑なグラフデータにおける異常検出性能にどのように影響を与えるか？
• RQ3 少数ショット（少数のラベル付き異常）を用いることで、もともとは教師なしのグラフ異常検出フレームワークの性能はどの程度向上するか？
• RQ4 評価ラウンド数R、部分グラフサイズK、隠れ次元Dなどの主要ハイパーパramーターアルファに、提案手法の性能はどの程度感受性を示すか？
• RQ5 複数ラウンドの対照的一致に基づく統計的異常推定器は、再構成ベースや単一視点対照的手法と比較して、より頑健かつ正確な異常スコアを提供するか？

主な発見

• ANEMONEは、教師なし設定下で6つのベンチマークデータセットすべてにおいて最先端の性能を達成し、すべてのデータセットで既存のSOTA手法を上回るAUC性能を示した。
• ANEMONE-FSは、極めて少ないラベル付き異常で顕著な性能向上を示し、ACMデータセットでは1つのラベル付き異常で1.16%のAUC向上を達成した。
• パッチレベルとコンテキストレベルの対照的学習の最適なバランスはα = 0.2～0.8の間であり、一方のレベルに依存すると性能が低下するため、相補的な利点があることが示された。
• モデルは部分グラフサイズKに対して頑健であり、被引用ネットワークではK = 3～5で最良の性能を示し、より密接に接続されたネットワーク（BlogCatalogなど）ではより大きなKが最適であった。
• 評価ラウンド数Rを256まで増加させると性能が向上し、以降は増加が止まり計算コストが上昇するため、R = 256がバランスの取れた選択であると正当化された。
• 隠れ次元D′ = 64が表現能力と性能の最適なトレードオフを提供し、D′ = 64を超えると利得が減少する傾向を示した。