[论文解读] LUNAR: Unifying Local Outlier Detection Methods via Graph Neural Networks

Adam Goodge, Bryan Hooi+2 more|arXiv (Cornell University)|Dec 10, 2021

Anomaly Detection Techniques and Applications被引用 8

一句话总结

LUNAR 提出了一种基于图神经网络的异常检测方法，该方法在共享的消息传递框架下统一了 LOF 和 KNN 等局部异常检测方法，实现了可学习的、自适应的邻居聚合。该方法在表格型数据集上实现了最先进性能，并且在邻居规模超参数方面表现出显著优于经典方法的鲁棒性。

ABSTRACT

Many well-established anomaly detection methods use the distance of a sample to those in its local neighbourhood: so-called `local outlier methods', such as LOF and DBSCAN. They are popular for their simple principles and strong performance on unstructured, feature-based data that is commonplace in many practical applications. However, they cannot learn to adapt for a particular set of data due to their lack of trainable parameters. In this paper, we begin by unifying local outlier methods by showing that they are particular cases of the more general message passing framework used in graph neural networks. This allows us to introduce learnability into local outlier methods, in the form of a neural network, for greater flexibility and expressivity: specifically, we propose LUNAR, a novel, graph neural network-based anomaly detection method. LUNAR learns to use information from the nearest neighbours of each node in a trainable way to find anomalies. We show that our method performs significantly better than existing local outlier methods, as well as state-of-the-art deep baselines. We also show that the performance of our method is much more robust to different settings of the local neighbourhood size.

研究动机与目标

• 将多种局部异常检测方法（如 LOF、KNN 和 DBSCAN）统一到基于图神经网络的通用消息传递框架下。
• 解决经典局部异常检测方法缺乏可学习性的问题，这些方法依赖于固定启发式规则和超参数，无法根据数据自适应调整。
• 开发一种新型可训练异常检测模型，动态学习从邻居聚合信息以提升异常评分。
• 在真实世界表格型数据集上，与经典方法及基于深度学习的基线方法相比，展示出更优的性能与更强的鲁棒性。

提出的方法

• LUNAR 将数据点建模为图中的节点，其中边连接每个点与其 k 个最近邻。
• 采用具有可学习消息传递层的图神经网络，将邻居节点的特征聚合为统一的异常评分。
• 该模型使用可学习的聚合机制，处理来自全部 k 个邻居的消息，与传统方法中应用固定规则（如第 k 个距离或密度比）不同。
• 引入负采样策略——子空间扰动和均匀采样——以增强训练稳定性和泛化能力。
• 最终异常评分通过带有 Sigmoid 激活函数的输出层计算，模型使用均方误差损失和 Adam 优化器进行训练。

实验结果

研究问题

• RQ1 能否基于图神经网络，将经典的局部异常检测方法（如 LOF、KNN 和 DBSCAN）统一到一个通用且可泛化的消息传递框架下？
• RQ2 在邻居聚合过程中引入可学习参数，是否能显著提升表格型数据上的异常检测性能？
• RQ3 与经典局部异常检测方法相比，所提方法在邻居规模超参数 k 变化时的鲁棒性如何？
• RQ4 不同负采样策略对模型性能与泛化能力的影响是什么？

主要发现

• 在除 SATELLITE 外的所有数据集上，LUNAR 均取得最高 AUC 分数，且在 HRSS、MI-V 和 THYROID 上的提升具有统计显著性（p < 0.01）。
• 在 HRSS、MI-V 和 THYROID 上，LUNAR 的 AUC 比第二好的方法高出 10 至 30 个百分点。
• 当 k 从 2 增加到 200 时，LUNAR 的性能仅下降 3 个 AUC 点，而 LOF、KNN 和 DN2 的性能下降达 24–26 个 AUC 点，表明其具有更优的鲁棒性。
• 子空间扰动与均匀负采样相结合在大多数数据集上表现最佳，而仅使用子空间扰动在小 k 情况下（如 OPTDIGITS）表现较差。
• 消融研究显示，更深更宽的 GNN 架构在消息聚合中能带来更好的性能。