[論文レビュー] AnomalyDAE: Dual autoencoder for anomaly detection on attributed networks

Haoyi Fan, Fengbin Zhang+1 more|arXiv (Cornell University)|Feb 10, 2020

Network Security and Intrusion Detection参考文献 20被引用数 12

ひとこと要約

AnomalyDAEは、構造と属性の両方の自動エンコーダーを用いて、別々の構造および属性自動エンコーダーを通じてノードおよび属性埋め込みを同時に学習する二重自動エンコーダー枠組みを提案する。注目メカニズムを用いた構造符号号化とクロスモダリティ再構成を組み合わせ、実世界のデータセット上で既存手法に比べてAUCを最大22.32%向上させる最先端の性能を達成する。

ABSTRACT

Anomaly detection on attributed networks aims at finding nodes whose patterns deviate significantly from the majority of reference nodes, which is pervasive in many applications such as network intrusion detection and social spammer detection. However, most existing methods neglect the complex cross-modality interactions between network structure and node attribute. In this paper, we propose a deep joint representation learning framework for anomaly detection through a dual autoencoder (AnomalyDAE), which captures the complex interactions between network structure and node attribute for high-quality embeddings. Specifically, AnomalyDAE consists of a structure autoencoder and an attribute autoencoder to learn both node embedding and attribute embedding jointly in latent space. Moreover, attention mechanism is employed in structure encoder to learn the importance between a node and its neighbors for an effective capturing of structure pattern, which is important to anomaly detection. Besides, by taking both the node embedding and attribute embedding as inputs of attribute decoder, the cross-modality interactions between network structure and node attribute are learned during the reconstruction of node attribute. Finally, anomalies can be detected by measuring the reconstruction errors of nodes from both the structure and attribute perspectives. Extensive experiments on real-world datasets demonstrate the effectiveness of the proposed method.

研究の動機と目的

• 属性付きネットワークにおけるネットワーク構造とノード属性の間の複雑なクロスモダリティ相互作用を無視する既存の異常検出手法の限界を解決すること。
• 構造的パターンと属性的パターンを同時に捉えることができる深層共同表現学習フレームワークの開発。
• 二重自動エンコーダーを用いてノードおよび属性埋め込みのエンドツーエンド学習を可能とし、再構成に基づく異常スコアリングを実現すること。
• 符号化段階および再構成段階の両方で構造と属性の間の相互作用をモデル化することで、検出性能の向上を図ること。

提案手法

• 隣接行列の再構成を通じてノード埋め込みを学習する構造自動エンコーダーを採用し、近隣ノードの重要度を重みづけする注目メカニズムを統合して強化する。
• 学習済み属性埋め込みからノード属性を再構成する属性自動エンコーダーを用い、属性レベルのパターンを捉える。
• 両自動エンコーダーを同時に学習させ、ノードおよび属性の潜在表現を共有埋め込み空間で学習する。
• ノード埋め込みと属性埋め込みを両方の入力として属性デコーダーに供給することで、クロスモダリティ相互作用を統合し、構造的文脈に基づいた属性再構成を可能にする。
• 再構成誤差の重み付き和として異常スコアを計算する：$ \mathcal{L} = \alpha \cdot \mathcal{L}_{\text{struct}} + (1 - \alpha) \cdot \mathcal{L}_{\text{attr}} $。
• 結合された異常スコアにしきい値を適用し、ノードを通常（0）または異常（1）に分類する。

実験結果

リサーチクエスチョン

• RQ1 二重自動エンコーダーを用いてノードおよび属性埋め込みを同時に学習することで、属性付きネットワークにおける異常検出性能が向上するか？
• RQ2 注目メカニズムが近隣ノードの重要度を重みづけて構造的パターンを捉えることで、異常検出にどの程度有効か？
• RQ3 ネットワーク構造とノード属性の間のクロスモダリティ相互作用は、異常検出にどの程度向上効果をもたらすか？
• RQ4 埋め込み次元数やトレードオフパラメータ$\alpha$といったハイパーパrameterに、この手法はどの程度感受的か？
• RQ5 提案手法は、多様な実世界の属性付きネットワークデータセットにおいて、SOTA手法を上回るAUC性能を示すか？

主な発見

• BlogCatalogデータセットではAnomalyDAEが97.81のAUCスコアを達成し、次に優れた手法（Dominant）の19.68%上回った。
• FlickrデータセットではAnomalyDAEが97.22のAUCスコアを達成し、SOTA手法のDominantに比べて22.32%の向上を示した。
• ACMデータセットではAnomalyDAEが90.05のAUCスコアを達成し、Dominantに比べて15.11%の向上を示した。
• 3つのデータセットすべてにおいて、LOF、SCAN、AMEN、Radar、Anomalous、Dominantを含むすべてのベースライン手法を一貫して上回った。
• ハイパーパrameter感受性分析の結果、埋め込み次元128または256で最適な性能が得られ、極めて低次元または高次元では性能が劣化した。
• トレードオフパラメータ$\alpha$は性能に顕著な影響を及ぼし、極端な値（0または1）では劣悪な結果が得られた。これは、バランスの取れたクロスモダリティ相互作用の重要性を裏付けている。