[论文解读] Near-optimal Anomaly Detection in Graphs using Lovasz Extended Scan Statistic

James Sharpnack, Akshay Krishnamurthy+1 more|arXiv (Cornell University)|Dec 11, 2013

Anomaly Detection Techniques and Applications参考文献 29被引用 47

一句话总结

该论文提出洛瓦兹扩展扫描统计量（LESS），这是一种针对高斯噪声下图中异常且高度连通簇的广义似然比检验的计算高效近似方法。通过利用次模性以及与马尔可夫随机场和电网络理论的联系，LESS 实现了近乎最优的检测性能——匹配已知的下界——同时通过连续的最小 s-t 割优化实现多项式时间计算。

ABSTRACT

The detection of anomalous activity in graphs is a statistical problem that arises in many applications, such as network surveillance, disease outbreak detection, and activity monitoring in social networks. Beyond its wide applicability, graph structured anomaly detection serves as a case study in the difficulty of balancing computational complexity with statistical power. In this work, we develop from first principles the generalized likelihood ratio test for determining if there is a well connected region of activation over the vertices in the graph in Gaussian noise. Because this test is computationally infeasible, we provide a relaxation, called the Lovasz extended scan statistic (LESS) that uses submodularity to approximate the intractable generalized likelihood ratio. We demonstrate a connection between LESS and maximum a-posteriori inference in Markov random fields, which provides us with a poly-time algorithm for LESS. Using electrical network theory, we are able to control type 1 error for LESS and prove conditions under which LESS is risk consistent. Finally, we consider specific graph models, the torus, k-nearest neighbor graphs, and epsilon-random graphs. We show that on these graphs our results provide near-optimal performance by matching our results to known lower bounds.

研究动机与目标

• 该论文旨在解决在高斯噪声下检测图中异常且高度连通簇的挑战。
• 旨在在图结构异常检测中平衡统计功效与计算可行性。
• 目标是开发一种在统计上强大且计算上可处理的检测方法，适用于大规模图。
• 作者旨在为其方法提供对第一类错误控制和风险一致性的理论保证。
• 他们进一步旨在通过与特定图模型的已知下界匹配，证明其方法的近似最优性。

提出的方法

• 该论文推导出广义似然比检验（GSS）作为检测异常簇的最优但计算不可行的解法。
• 提出洛瓦兹扩展扫描统计量（LESS）作为利用次模性以确保可计算性的 GSS 的松弛形式。
• LESS 通过连续的最小 s-t 割问题计算，实现多项式时间计算。
• 该方法将 LESS 与马尔可夫随机场（MRF）中的最大后验（MAP）推断联系起来，提供了概率解释。
• 通过电网络理论实现第一类错误控制，将检验阈值与图割的有效电阻相关联。
• 理论分析将检测性能与有效电阻联系起来，从而实现风险一致性和近似最优性保证。

实验结果

研究问题

• RQ1 能否为在高斯噪声下图中异常且高度连通的簇开发一种计算高效的检测方法？
• RQ2 所提出的 LESS 方法与已知的统计下界相比，是否实现了近似最优的检测性能？
• RQ3 能否使用图论概念（如有效电阻）控制 LESS 中的第一类错误？
• RQ4 在适当的信噪比（SNR）条件下，LESS 方法是否具有可证明的风险一致性？
• RQ5 LESS 方法能否通过图割算法高效计算，其与 MRF 推断有何关系？

主要发现

• 洛瓦兹扩展扫描统计量（LESS）在各种图模型上实现了近乎最优的检测性能，其性能与已知下界仅相差对数因子。
• 对于边传递图（如 l 维环面），当 µ = ω(max{√(ρ/d log p), log p}) 时，LESS 可区分 H0 与 H1。
• 在 k-近邻图中，当 k/p → 0 且 k(k/p)²/D → ∞ 时，LESS 在 µ = ω(max{√(ρ/k log p), log p}) 时可检测异常。
• 在 ǫ-图中，当 ǫ → 0 且 nǫD+2 → ∞ 时，LESS 在 µ = ω(max{√(ρ/(pǫD log p)), log p}) 时可检测异常。
• LESS 的第一类错误通过基于有效电阻推导的阈值控制在水平 α，与不可行的 GSS 相比性能损失极小。
• 实验结果表明，LESS 在环面、k-NN 和 ǫ-图模型中均优于谱扫描统计量和 UST 小波检测器，在 ROC 性能上表现更优。