[论文解读] Regression-based Hypergraph Learning for Image Clustering and Classification

Sheng Huang, Dan Yang+2 more|arXiv (Cornell University)|Mar 14, 2016

Face and Expression Recognition参考文献 37被引用 5

一句话总结

本文提出了一种基于回归的超图（Regression-based Hypergraph, RH）框架，通过使用稀疏和协作回归模型构建高质量的超图，以提升图像聚类与分类性能。将RH集成到超图谱聚类与半监督学习中，该方法在六个基准图像数据库上实现了最先进性能，展现出相较于传统基于邻域的超图方法更优越的鲁棒性与准确性。

ABSTRACT

Inspired by the recently remarkable successes of Sparse Representation (SR), Collaborative Representation (CR) and sparse graph, we present a novel hypergraph model named Regression-based Hypergraph (RH) which utilizes the regression models to construct the high quality hypergraphs. Moreover, we plug RH into two conventional hypergraph learning frameworks, namely hypergraph spectral clustering and hypergraph transduction, to present Regression-based Hypergraph Spectral Clustering (RHSC) and Regression-based Hypergraph Transduction (RHT) models for addressing the image clustering and classification issues. Sparse Representation and Collaborative Representation are employed to instantiate two RH instances and their RHSC and RHT algorithms. The experimental results on six popular image databases demonstrate that the proposed RH learning algorithms achieve promising image clustering and classification performances, and also validate that RH can inherit the desirable properties from both hypergraph models and regression models.

研究动机与目标

• 为解决基于邻域的超图构建方法对噪声敏感且难以捕捉真实数据关系的局限性。
• 利用回归模型（特别是稀疏表示SR与协作表示CR）所具备的强判别能力与抗噪鲁棒性，构建更精确的超图。
• 开发一种可泛化的框架，将基于回归的超图学习集成到谱聚类与半监督学习等经典超图学习范式中。
• 在多样化的图像数据集上验证所提出的RHSC与RHT模型的有效性，展示其在聚类与分类任务中的性能提升。

提出的方法

• 基于回归的超图（RH）框架通过将每个样本建模为与其他所有样本构成的回归系统，利用回归系数度量样本间的相关性，从而构建超图。
• 每个样本及其与之相关性最高的m个样本构成一个超边，以该超边内部的平均相关性作为其权重。
• 通过使用稀疏表示（L1-正则化回归）与协作表示（L2-正则化回归）构建两个RH实例，分别生成L1-HSC/L1-HT与L2-HSC/L2-HT算法。
• 将RH模型集成到两种经典超图学习框架中：超图谱聚类（HSC）与超图半监督学习（HT），形成RHSC与RHT模型。
• 该方法采用正则化参数β（用于回归）与λ（用于平衡标注误差与超图划分损失）以优化性能。
• 通过在多个数据集上经验调优，确定超边长度t以最大化聚类与分类准确率。

实验结果

研究问题

• RQ1 基于回归的超图构建方法是否能在图像聚类与分类任务中更优地捕捉真实数据关系，优于传统的基于邻域的方法？
• RQ2 稀疏表示与协作表示的特性如何影响图像学习任务中超图构建的质量？
• RQ3 在多样化图像数据集中实现鲁棒性能的最优超参数配置β、λ与t为何？
• RQ4 在真实视觉应用中，RH框架在多大程度上继承了超图模型与回归模型的优良特性？

主要发现

• 所提出的RHSC与RHT模型在六个主流图像数据库（包括ORL、AR、COIL20、ETH80、Scene15与Caltech256）上均达到最先进性能。
• L1-HSC与L2-HSC对参数β具有高度鲁棒性，最优β值在10−5至10−1之间，具体取决于数据集，且实现了高聚类准确率与NMI得分。
• 当λ > 1时，L1-HT与L2-HT达到最佳分类性能，最优超边长度t在不同数据集中介于5至35之间。
• RH框架始终优于传统基于邻域的超图方法，尤其在噪声条件下表现更优，体现在相关样本选择的命中率更高。
• 该方法继承了SR与CR的强判别能力，使超图构建比基于k-NN的方法更精确且更具抗噪能力。
• 实验结果证实，RH能有效捕捉复杂的数据关系，从而在无监督聚类与半监督分类任务中均实现性能提升。