[论文解读] MCODE: Multivariate Conditional Outlier Detection

Charmgil Hong, Miloš Hauskrecht|arXiv (Cornell University)|May 15, 2015

Anomaly Detection Techniques and Applications参考文献 43被引用 4

一句话总结

MCODE 提出了一种多变量条件异常检测方法，通过分类器链将多变量输出映射到概率向量空间，将条件异常检测问题转化为无条件问题。通过对这些条件概率向量应用异常评分方法，MCODE 显著提升了对上下文相关异常值（尤其是稀疏异常值）的检测能力，在多个数据集和异常值注入率下均优于基线方法。

ABSTRACT

Outlier detection aims to identify unusual data instances that deviate from expected patterns. The outlier detection is particularly challenging when outliers are context dependent and when they are defined by unusual combinations of multiple outcome variable values. In this paper, we develop and study a new conditional outlier detection approach for multivariate outcome spaces that works by (1) transforming the conditional detection to the outlier detection problem in a new (unconditional) space and (2) defining outlier scores by analyzing the data in the new space. Our approach relies on the classifier chain decomposition of the multi-dimensional classification problem that lets us transform the output space into a probability vector, one probability for each dimension of the output space. Outlier scores applied to these transformed vectors are then used to detect the outliers. Experiments on multiple multi-dimensional classification problems with the different outlier injection rates show that our methodology is robust and able to successfully identify outliers when outliers are either sparse (manifested in one or very few dimensions) or dense (affecting multiple dimensions).

研究动机与目标

• 为解决在传统无条件方法因上下文敏感性而失效的多变量结果空间中检测上下文相关异常值的挑战。
• 开发一种方法，识别由多个结果变量异常组合定义的异常值，特别是当这些异常值稀疏或仅影响少数维度时。
• 通过利用来自分类器链的概率向量表示，将条件检测问题转化为无条件问题，从而提升异常检测性能。
• 在具有不同异常值注入率和异常维度数量的多样化多维数据集上，评估 MCODE 的有效性。
• 证明分别建模条件概率可提高对细微、稀疏异常值的敏感性，相较于标准基线方法更具优势。

提出的方法

• 通过使用分类器链将多变量条件异常检测问题转化为无条件问题，将输出空间表示为一组条件概率向量。
• 利用分类器链分解，将 P(y|x) 建模为单变量条件概率 P(y_i | x, y_π(i)) 的乘积，从而实现对每个结果维度的独立分析。
• 对转换后的概率向量应用五种不同的异常评分技术（如 RB、LOF、OCSVM），以检测条件空间中的异常。
• 通过随机扰动 0.5% 测试实例中的 p 个响应维度，注入合成异常值，以模拟异常模式中不同程度的稀疏性。
• 在控制条件下，通过 AUC 和 AUC-PR 指标评估性能，逐步增加异常维度的数量。
• 采用 10 折交叉验证并重复三次，以确保结果的稳健性和泛化能力。

实验结果

研究问题

• RQ1 通过概率向量表示将条件异常检测转化为无条件问题，是否能提升检测性能？
• RQ2 当异常值仅影响一个或少数几个维度（即稀疏异常值）时，MCODE 在多变量数据上的表现如何？
• RQ3 随着每个实例中异常维度数量的增加，MCODE 是否能保持或提升性能？
• RQ4 在多样化多维数据集上，MCODE 与基线方法（RB、LOF、OCSVM）在 AUC 和 AUC-PR 指标上的表现如何比较？
• RQ5 该方法是否对响应空间中的微小扰动敏感，特别是在异常值在上下文中稀少但个体上频繁出现的情况下？

主要发现

• MCODE 在基线方法上显著提升了 AUC 分数，尤其在 RB 和 OCSVM 上表现突出，证明其在条件概率空间中具备更强的检测能力。
• 在异常维度数量逐渐增加的实验中，MCODE 从一开始就保持更高的 AUC-PR 分数，显示出对稀疏异常值更强的敏感性。
• MCODE-LOF 的 AUC-PR 表现优于基线 LOF，表明即使在原本表现强劲的方法中，基于条件概率空间的工作也能提升性能。
• 随着异常维度数量的增加，MCODE 与基线方法之间的性能差距进一步扩大，证实 MCODE 对密集异常模式具有更强的鲁棒性。
• MCODE 在 Mediamill、Bibtex 和 Corel5k 数据集上始终优于所有基线方法，尤其在异常维度较少的场景下（检测最困难）表现更优。
• 结果证实，通过分类器链建模输出依赖关系，并分析生成的概率向量，可实现比直接应用标准方法更有效、更敏感的异常检测。