[论文解读] Noisy Sparse Subspace Clustering

Yu-Xiang Wang, Huan Xu|arXiv (Cornell University)|Sep 5, 2013

Sparse and Compressive Sensing Techniques参考文献 45被引用 81

一句话总结

本文提出了一种改进的稀疏子空间聚类（SSC）算法，在对抗性噪声和随机噪声下仍能保持可证明的有效性。通过将理论保证扩展至噪声数据，该研究为SSC在数据污染普遍存在的现实应用中的成功提供了理论依据。

ABSTRACT

This paper considers the problem of subspace clustering under noise. Specifically, we s-tudy the behavior of Sparse Subspace Clustering (SSC) when either adversarial or random noise is added to the unlabelled input data points, which are assumed to lie in a u-nion of low-dimensional subspaces. We show that a modified version of SSC is provably effective in correctly identifying the underlying subspaces, even with noisy data. This extends theoretical guarantee of this algorithm to the practical setting and provides justification to the success of SSC in a class of real applications. 1.

研究动机与目标

• 填补SSC在应用于噪声现实世界数据时理论理解上的空白。
• 分析SSC在未标记数据点位于低维子空间并集的情况下，面对对抗性噪声和随机噪声时的行为。
• 开发一种改进的SSC变体，即使在存在噪声的情况下也能保持正确的子空间识别能力。
• 为SSC在涉及数据污染的实际应用中表现出的实证成功提供理论依据。

提出的方法

• 提出一种改进的SSC公式，以在保持稀疏表示特性的同时处理噪声输入数据点。
• 该方法利用稀疏优化技术，即使在数据点受噪声污染的情况下，也能将每个数据点重构为其他数据点的线性组合。
• 理论分析表明，改进的SSC在存在噪声的情况下仍能恢复真实的底层子空间。
• 该方法引入噪声感知约束或正则化，以增强稀疏表示中的鲁棒性。
• 利用压缩感知和矩阵扰动理论的工具推导出理论保证。
• 该算法在保持SSC核心原则——稀疏表示——的同时，适应了噪声观测。

实验结果

研究问题

• RQ1 当数据点受到对抗性噪声污染时，SSC能否可靠地识别出正确的子空间？
• RQ2 随机噪声是否会降低SSC的性能，若会，能否被缓解？
• RQ3 SSC的改进版本是否能在噪声条件下保持理论保证？
• RQ4 在噪声条件下，改进的SSC与标准SSC在子空间恢复准确性方面有何比较？
• RQ5 在何种理论条件下，可确保改进的SSC在存在噪声的情况下仍能恢复真实子空间？

主要发现

• 即使数据点受到对抗性或随机噪声污染，改进的SSC算法仍能可证明地恢复正确的子空间。
• 理论分析证实，改进的SSC在噪声下保持鲁棒性，扩展了其在实际场景中的适用性。
• 该算法在噪声幅度和子空间结构的弱假设下性能得到保证。
• 研究结果为SSC在数据本质上具有噪声的真实世界应用中表现出的实证成功提供了合理解释。
• 本研究在理论保证与噪声环境中SSC的实际性能之间建立了正式联系。