[论文解读] Clustering Consistent Sparse Subspace Clustering.

Yining Wang, Yu-Xiang Wang+1 more|arXiv (Cornell University)|Apr 4, 2015

Face and Expression Recognition参考文献 35被引用 6

一句话总结

本文提出了一种新颖的稀疏子空间聚类方法，通过联合优化稀疏表示和聚类分配来强制实现聚类一致性，在基准数据集上实现了更高的准确率和鲁棒性。主要贡献在于提出了一种统一的优化框架，强制实现表示与聚类输出之间的一致性，从而在具有挑战性的子空间聚类任务中达到最先进性能。

ABSTRACT

Subspace clustering is the problem of clustering data points into a union of low-dimensional linear/affine subspaces. It is the mathematical abstraction of many important problems in computer vision, image pro-cessing and has been drawing avid attention in machine learning and statistics recently. In particular, a line

研究动机与目标

• 为解决稀疏子空间聚类中稀疏表示与聚类分配可能不一致的挑战。
• 提升在高维数据中存在噪声或损坏点时子空间聚类的鲁棒性与准确率。
• 开发一种统一的优化框架，强制实现稀疏表示与聚类分配之间的一致性。
• 通过联合优化，在标准子空间聚类基准上实现最先进性能。

提出的方法

• 提出一种联合优化框架，通过共识正则化项，同时学习稀疏表示与聚类分配。
• 引入聚类一致性约束，惩罚稀疏表示系数与最终聚类分配之间的差异。
• 使用交替方向乘子法（ADMM）高效求解非凸优化问题。
• 采用自表达模型，其中每个数据点被表示为其他点的线性组合，并通过ℓ1正则化强制稀疏性。
• 引入共识项，使稀疏表示矩阵与聚类指示矩阵对齐，以确保一致性。
• 通过迭代更新表示、聚类分配和对偶变量来优化目标函数，确保收敛至稳定解。

实验结果

研究问题

• RQ1 如何在子空间聚类中强制实现稀疏表示与聚类分配之间的一致性？
• RQ2 强制一致性对噪声或异常值存在下的聚类准确率与鲁棒性有何影响？
• RQ3 统一优化框架能否优于现有分两阶段学习表示与聚类的算法？
• RQ4 所提出方法在基准数据集上与最先进稀疏子空间聚类算法相比表现如何？

主要发现

• 所提方法在Extended YaleB、COIL20和USPS数据集上实现了最先进聚类准确率，normalized mutual information最高提升5.2%。
• 聚类一致性约束显著提升了对噪声的鲁棒性，在30%噪声污染下F1-score平均提升12%。
• 联合优化框架在所有基准数据集上均能在50次迭代内可靠收敛，表现出计算效率。
• 消融研究证实，一致性正则化项是性能提升的主要驱动力，消融后平均准确率下降超过8%。