[論文レビュー] Semi-supervised Anomaly Detection on Attributed Graphs

Atsutoshi Kumagai, Tomoharu Iwata+1 more|arXiv (Cornell University)|Feb 27, 2020

Anomaly Detection Techniques and Applications参考文献 51被引用数 5

ひとこと要約

本稿では、正例の集合を含む超球体の体積を最小化し、異常例をその外側に押し出すことで、ノード埋め込みを学習するグラフ畳み込みネットワーク（GCN）を活用した、属性付きグラフにおける半教師あり異常検出手法を提案する。本手法は、グラフ構造、ノード属性、および限られたラベルデータを効果的に統合することで、5つの実世界データセットにおいて最先端の性能を達成し、特に重度のクラス不均衡下でも優れた性能を示す。

ABSTRACT

We propose a simple yet effective method for detecting anomalous instances on an attribute graph with label information of a small number of instances. Although with standard anomaly detection methods it is usually assumed that instances are independent and identically distributed, in many real-world applications, instances are often explicitly connected with each other, resulting in so-called attributed graphs. The proposed method embeds nodes (instances) on the attributed graph in the latent space by taking into account their attributes as well as the graph structure based on graph convolutional networks (GCNs). To learn node embeddings specialized for anomaly detection, in which there is a class imbalance due to the rarity of anomalies, the parameters of a GCN are trained to minimize the volume of a hypersphere that encloses the node embeddings of normal instances while embedding anomalous ones outside the hypersphere. This enables us to detect anomalies by simply calculating the distances between the node embeddings and hypersphere center. The proposed method can effectively propagate label information on a small amount of nodes to unlabeled ones by taking into account the node's attributes, graph structure, and class imbalance. In experiments with five real-world attributed graph datasets, we demonstrate that the proposed method achieves better performance than various existing anomaly detection methods.

研究の動機と目的

• 異常がまれでラベル付きインスタンスが限られる属性付きグラフにおける異常検出の課題に対処すること。
• 半教師あり設定においてグラフ構造とノード属性を統合することで、検出性能を向上させること。
• クラス不均衡下において、1クラス異常検出に特化した判別性の高いノード埋め込みを学習する手法を開発すること。
• GCNと新しいAUCベースの正則化子を用いて、限られたラベル情報がグラフ全体に効果的に伝搬されることを可能にすること。

提案手法

• 本手法は、ノード属性とグラフ構造を組み合わせた潜在空間にノードを埋め込むためにグラフ畳み込みネットワーク（GCN）を用いる。
• 正例ノード埋め込みを含む超球体の体積を最小化するようにGCNのパラメータを学習することで、正例クラスの表現を凝縮させる。
• 異常ノードを超球体の外側に押し出すために、AUCに基づく微分可能な損失関数（AUC損失）を正則化子として用いることで、異常検出感度を向上させる。
• 超球体の凝縮性と異常分離性を同時に最適化することで、効果的な1クラス分類を実現する。
• ノード埋め込みを用いて、超球体中心からの距離を基準に異常検出を行うが、再構成や生成モデルの複雑化は不要である。
• 本手法は、正常および異常ラベルが利用可能な場合（Ours-AN）と、正常ラベルのみの状況（Ours-N）で訓練され、両設定においても高いロバスト性を示す。

実験結果

リサーチクエスチョン

• RQ1 グラフ構造とノード属性を活用する半教師ありアプローチが、限られたラベルデータを有する属性付きグラフにおける異常検出性能を向上させられるか？
• RQ2 提案手法の超球体ベースの埋め込み目的関数は、異常検出における重度のクラス不均衡をどのように処理するか？
• RQ3 AUCベースの正則化子を組み込むことで、属性付きグラフにおける希少な異常の検出性能はどの程度向上するか？
• RQ4 埋め込み次元数や正則化ハイパーパrameterの変動に対して、本手法はどの程度ロバストか？

主な発見

• 正常および異常ラベルを訓練に用いた場合、Ours-ANは5つの実世界の属性付きグラフデータセットにおける平均テストAUCにおいて、15のベースラインのうち13つを上回った。
• 正常ラベルのみを用いたOurs-Nは、すべてのデータセットでDOC-NおよびDWを上回る性能を示し、純粋な半教師あり設定下でも有効性を証明した。
• ハイパーパrameterの選択に対して本手法はロバストであった：Ours-ANはAUC正則化重み（λ）の広い範囲で高い性能を維持しており、最適なλはデータセットごとに異なるが、安定した性能を発揮した。
• 埋め込み次元数（K）は性能にほとんど悪影響を及げず、Ours-ANは全テストK値ですべてのベースラインを上回った。
• 学習時間は効率的であり、Cora（10%ラベル）で500エポックを4.92秒で完了し、実用的なスケーラビリティを示した。
• t-SNE可視化により、Ours-ANはベースラインよりもより判別性の高いノード埋め込みを学習していることが確認され、正常と異常インスタンスの明確な分離が得られた。