[论文解读] Provable Self-Representation Based Outlier Detection in a Union of Subspaces

Chong You, Daniel P. Robinson+1 more|arXiv (Cornell University)|Apr 12, 2017

Anomaly Detection Techniques and Applications参考文献 11被引用 11

一句话总结

本文提出R-graph，一种新颖的异常检测方法，通过在子空间并集中利用稀疏自表示构建有向图，并结合随机游走识别异常值。该方法在几何和连通性假设下可证明正确检测异常值，在图像数据库上表现优于最先进方法，尤其在高维数据的多子空间设置中表现优异。

ABSTRACT

Many computer vision tasks involve processing large amounts of data contaminated by outliers, which need to be detected and rejected. While outlier detection methods based on robust statistics have existed for decades, only recently have methods based on sparse and low-rank representation been developed along with guarantees of correct outlier detection when the inliers lie in one or more low-dimensional subspaces. This paper proposes a new outlier detection method that combines tools from sparse representation with random walks on a graph. By exploiting the property that data points can be expressed as sparse linear combinations of each other, we obtain an asymmetric affinity matrix among data points, which we use to construct a weighted directed graph. By defining a suitable Markov Chain from this graph, we establish a connection between inliers/outliers and essential/inessential states of the Markov chain, which allows us to detect outliers by using random walks. We provide a theoretical analysis that justifies the correctness of our method under geometric and connectivity assumptions. Experimental results on image databases demonstrate its superiority with respect to state-of-the-art sparse and low-rank outlier detection methods.

研究动机与目标

• 解决高维数据中异常值检测的挑战，其中正常值位于多个低维子空间的并集中。
• 克服现有方法的局限性，这些方法假设单一低秩子空间或依赖计算成本高的凸优化。
• 开发一种理论基础扎实、高效的异常检测方法，利用自表示和基于图的随机游走。
• 确保在真实数据集（如Extended Yale B）中对不同异常值比例和光照变化的鲁棒性。

提出的方法

• 通过ℓ₁-最小化获得的稀疏表示系数构建非对称亲和矩阵，确保每个数据点可表示为其他点的稀疏线性组合。
• 从表示矩阵构建加权有向图，其中边反映点之间自表示强度。
• 在图上定义马尔可夫链，将正常值建模为必经状态，异常值建模为非必经状态，通过随机游走吸收概率实现概率性异常值检测。
• 利用随机游走收敛性识别异常值：被访问概率较低的点被标记为异常值，利用图中的结构连通性。
• 采用参数α缩放正则化参数γ，确保在不同数据条件下表示计算的稳定性和鲁棒性。
• 对每个数据点使用带零对角线的ℓ₁-正则化最小二乘法求解自表示问题，以避免自表示。

实验结果

研究问题

• RQ1 能否利用子空间并集中的自表示设计一种可证明正确的异常检测方法？
• RQ2 稀疏表示图的连通性结构如何与正常值和异常值的区分相关？
• RQ3 基于稀疏表示构建的有向图上的随机游走能否有效检测多子空间数据中的异常值？
• RQ4 与现有最先进方法相比，该方法在不同异常值比例和几何条件下表现如何？

主要发现

• 在Extended Yale B数据集上，15%异常值和三个正常值组的情况下，R-graph在所有对比方法中取得最高的AUC和F1分数。
• 该方法在异常值比例从1%到15%的范围内保持稳定性能，表现出对不同污染水平的鲁棒性。
• R-graph显著优于ℓ₁-阈值化方法，后者仅依赖表示幅度，对噪声敏感。
• 可视化结果表明，R-graph在极端光照条件下对正常值产生的误报更少，表明其具有更优的鲁棒性。
• 由于采用稀疏表示和高效的随机游走步骤，R-graph的收敛速度优于REAPER、OutlierPursuit和LRR，计算成本更低。
• 理论分析证实，在马尔可夫链中，正常值对应必经状态，异常值对应非必经状态，这在几何和连通性假设下证明了方法的正确性。