[论文解读] A Fast Greedy Algorithm for Outlier Mining

Zengyou He, Xiaofei Xu+1 more|ArXiv.org|Jul 27, 2005

Anomaly Detection Techniques and Applications被引用 15

一句话总结

本文提出了一种用于类别型数据异常值挖掘的快速贪心算法，相较于现有的局部搜索启发式算法（LSA），在保持相近异常值检测准确率的同时，显著提升了时间效率。通过将优化模型重新表述为贪心选择过程，该方法在大规模数据集上实现了高达一个数量级的加速，且未牺牲检测质量。

ABSTRACT

The task of outlier detection is to find small groups of data objects that are exceptional when compared with rest large amount of data. In [38], the problem of outlier detection in categorical data is defined as an optimization problem and a local-search heuristic based algorithm (LSA) is presented. However, as is the case with most iterative type algorithms, the LSA algorithm is still very time-consuming on very large datasets. In this paper, we present a very fast greedy algorithm for mining outliers under the same optimization model. Experimental results on real datasets and large synthetic datasets show that: (1) Our algorithm has comparable performance with respect to those state-of-art outlier detection algorithms on identifying true outliers and (2) Our algorithm can be an order of magnitude faster than LSA algorithm.

研究动机与目标

• 为解决现有迭代式异常值检测算法在大规模类别型数据集上计算成本过高的问题。
• 开发一种可扩展的异常值挖掘解决方案，在大幅降低运行时间的同时保持高检测准确率。
• 在与LSA相同的数学模型下优化异常值检测过程，但采用贪心方法而非迭代局部搜索。
• 在真实世界和大规模合成数据集上评估所提算法的性能与效率。

提出的方法

• 该算法将异常值检测问题重新表述为贪心优化任务，基于评分函数逐步选择异常值。
• 采用快速评估机制，计算将新元组加入异常值集合时目标函数的改进程度。
• 该方法迭代地添加能最大化优化目标增益的元组，确保快速收敛。
• 贪心选择避免了LSA中昂贵的局部搜索步骤，显著降低了时间复杂度。
• 该算法在与LSA相同的优化模型下运行，确保了异常值质量的一致性。
• 通过数据结构优化，加速了每次迭代中候选元组评分的计算。

实验结果

研究问题

• RQ1 贪心方法是否能在显著更快的速度下实现与LSA算法相当的异常值检测准确率？
• RQ2 与现有迭代方法相比，所提算法在数据集规模增加时的可扩展性如何？
• RQ3 在大规模数据集上，使用贪心算法相较于局部搜索启发式算法在执行时间上的性能提升是多少？
• RQ4 贪心选择策略是否能在多种类别型数据分布下保持检测到的异常值质量？

主要发现

• 所提出的贪心算法在识别真实异常值方面，性能与当前最先进算法相当。
• 在大规模合成数据集上，该算法的运行速度相比LSA算法最高可快一个数量级。
• 即使在处理包含数百万元组的数据集时，该方法仍能保持高准确率。
• 与迭代局部搜索相比，贪心选择过程实现了更快的收敛速度，显著减少了运行时间，且未牺牲检测质量。