[论文解读] RCC-Dual-GAN: An Efficient Approach for Outlier Detection with Few Identified Anomalies

Zhe Li, Chunhua Sun+4 more|arXiv (Cornell University)|Mar 7, 2020

Anomaly Detection Techniques and Applications参考文献 42被引用 4

一句话总结

本文提出RCC-Dual-GAN，一种半监督异常检测方法，利用少量已识别的异常样本，高效检测离散异常和群体异常。通过将鲁棒连续聚类（RCC）与改进的生成对抗网络架构（M-GAN）相结合，该方法在低标签场景下显著提升了基线GAN的检测准确率与稳定性，尤其在真实世界数据集（如信用卡欺诈检测与网络入侵检测）上，优于无监督与有监督基线方法。

ABSTRACT

Outlier detection is an important task in data mining and many technologies have been explored in various applications. However, due to the default assumption that outliers are non-concentrated, unsupervised outlier detection may not correctly detect group anomalies with higher density levels. As for the supervised outlier detection, although high detection rates and optimal parameters can usually be achieved, obtaining sufficient and correct labels is a time-consuming task. To address these issues, we focus on semi-supervised outlier detection with few identified anomalies, in the hope of using limited labels to achieve high detection accuracy. First, we propose a novel detection model Dual-GAN, which can directly utilize the potential information in identified anomalies to detect discrete outliers and partially identified group anomalies simultaneously. And then, considering the instances with similar output values may not all be similar in a complex data structure, we replace the two MO-GAN components in Dual-GAN with the combination of RCC and M-GAN (RCC-Dual-GAN). In addition, to deal with the evaluation of Nash equilibrium and the selection of optimal model, two evaluation indicators are created and introduced into the two models to make the detection process more intelligent. Extensive experiments on both benchmark datasets and two practical tasks demonstrate that our proposed approaches (i.e., Dual-GAN and RCC-Dual-GAN) can significantly improve the accuracy of outlier detection even with only a few identified anomalies. Moreover, compared with the two MO-GAN components in Dual-GAN, the network structure combining RCC and M-GAN has greater stability in various situations.

研究动机与目标

• 解决无监督异常检测在检测密集群体异常方面的局限性。
• 通过仅利用少量已识别异常，克服有监督方法的高标注成本问题。
• 开发一种一步式半监督方法，直接利用已识别异常中的潜在信息，避免昂贵的邻域或相似度计算。
• 通过创新的RCC-M-GAN融合，提升复杂数据结构下的模型稳定性和检测准确率。
• 引入智能评估指标（NNR与AP），用于训练过程中纳什均衡与模型选择的评估。

提出的方法

• 提出Dual-GAN，一种一步式半监督模型，直接利用已识别异常检测离散异常与部分识别的群体异常。
• 将Dual-GAN中的两个MO-GAN组件替换为鲁棒连续聚类（RCC）与M-GAN的组合，以提升复杂数据结构下的稳定性。
• 引入两项评估指标——NNR（最近邻比）与AP（平均精度），用于指导模型选择并评估训练过程中的纳什均衡。
• 利用已识别异常作为参考点，构建参考分布，实现更稳健的少数类数据增强。
• 采用双判别器生成器框架，其中一个判别器专注于正常数据，另一个专注于异常数据，从而提升检测灵敏度。
• 在调整后的NSL-KDD与信用卡数据集上，将该方法应用于真实世界任务，如信用卡欺诈检测与网络入侵检测。

实验结果

研究问题

• RQ1 能否仅使用少量已识别异常，使半监督异常检测模型实现高准确率？
• RQ2 如何有效利用已识别异常检测离散异常与群体异常，而无需显式计算相似度或邻域关系？
• RQ3 与标准MO-GAN组件相比，RCC与M-GAN的融合是否能提升模型稳定性和检测性能？
• RQ4 NNR与AP能否作为基于GAN的异常检测中模型选择与纳什均衡评估的可靠指标？
• RQ5 在仅有限标注异常的情况下，该方法在信用卡欺诈与网络入侵检测等真实应用中的表现如何？

主要发现

• RCC-Dual-GAN在Credit-card与NSL-KDD数据集上均达到最高检测准确率，优于无监督与有监督基线方法。
• 在Credit-card数据集上，即使仅使用33个已识别的欺诈样本（占总欺诈样本的0.1%），RCC-Dual-GAN与Dual-GAN也显著提升了检测性能。
• 有监督的Sup-GAN表现劣于无监督的k-NN与LOF，表明单个GAN难以同时学习多种异常生成机制。
• Sup-RCC-GAN表现欠佳，表明在异常类型多样时，使用有限已识别异常进行有监督微调可能难以泛化。
• 与原始Dual-GAN（采用MO-GAN组件）相比，RCC-Dual-GAN在不同数据分布与异常类型下展现出更强的稳定性。
• 使用NNR与AP指标实现了更可靠的模型选择，并提升了收敛性，增强了检测过程的鲁棒性。