[论文解读] Incomplete Contrastive Multi-View Clustering with High-Confidence Guiding

Guoqing Chao, Yi Jiang+1 more|arXiv (Cornell University)|Dec 14, 2023

Advanced Computing and Algorithms被引用 6

一句话总结

该论文提出ICMVC，一种端到端的不完整对比多视图聚类方法，通过实例级注意力和对比学习联合处理缺失数据、学习互补与一致表征，并利用高置信度引导进行聚类。该方法在五个数据集上优于当前最先进方法，通过基于GCN的补全和联合优化的统一框架，有效利用了视图特异性和共享信息。

ABSTRACT

Incomplete multi-view clustering becomes an important research problem, since multi-view data with missing values are ubiquitous in real-world applications. Although great efforts have been made for incomplete multi-view clustering, there are still some challenges: 1) most existing methods didn't make full use of multi-view information to deal with missing values; 2) most methods just employ the consistent information within multi-view data but ignore the complementary information; 3) For the existing incomplete multi-view clustering methods, incomplete multi-view representation learning and clustering are treated as independent processes, which leads to performance gap. In this work, we proposed a novel Incomplete Contrastive Multi-View Clustering method with high-confidence guiding (ICMVC). Firstly, we proposed a multi-view consistency relation transfer plus graph convolutional network to tackle missing values problem. Secondly, instance-level attention fusion and high-confidence guiding are proposed to exploit the complementary information while instance-level contrastive learning for latent representation is designed to employ the consistent information. Thirdly, an end-to-end framework is proposed to integrate multi-view missing values handling, multi-view representation learning and clustering assignment for joint optimization. Experiments compared with state-of-the-art approaches demonstrated the effectiveness and superiority of our method. Our code is publicly available at https://github.com/liunian-Jay/ICMVC.

研究动机与目标

• 解决现实世界数据中视图间常含缺失值的不完整多视图聚类挑战。
• 克服现有方法中互补信息利用不足或缺失数据处理与聚类被独立处理的局限性。
• 构建一个集成框架，联合优化缺失数据补全、表征学习与聚类分配。
• 利用视图间的共性与互补信息，提升聚类性能。

提出的方法

• 提出结合图卷积网络（GCN）的多视图一致性关系迁移方法，利用完整视图的结构信息迭代推断并重建缺失特征。
• 设计实例级注意力融合模块，动态加权视图特异性表征，增强互补信息的利用。
• 引入实例级对比学习，以在潜在空间中保持跨视图的一致结构模式。
• 采用基于权重共享伪分类器与目标分布的高置信度引导机制，优化聚类分配。
• 将缺失数据处理、表征学习与聚类统一为单一端到端框架，并进行联合优化。
• 使用余弦相似度与基于KNN的图构建方法生成邻接矩阵，K值经调优以获得最佳性能。

实验结果

研究问题

• RQ1 如何在保留共性与互补信息的同时，有效重建含缺失值的多视图数据？
• RQ2 与顺序或独立处理相比，联合优化缺失数据补全、表征学习与聚类是否能提升聚类性能？
• RQ3 实例级注意力与对比学习在不完整多视图聚类中如何提升表征质量？
• RQ4 在存在缺失数据的情况下，高置信度引导在多大程度上提升聚类的稳定性和准确性？
• RQ5 该方法对不同缺失率及图构建中的K值变化具有多强的鲁棒性？

主要发现

• ICMVC在五个基准数据集上均达到最先进性能，在ACC、NMI与ARI指标上持续优于现有方法。
• 该方法展现出更优的聚类质量，相似度矩阵中块结构更清晰，表明聚类可分性更强。
• 可视化结果表明，ICMVC通过融合互补信息，有效解决了单视图中重叠聚类等模糊样本问题。
• 在合理范围内（1–30），模型对K值具有鲁棒性，且在MSRC-V1数据集上不同K设置下性能稳定。
• 收敛性分析表明损失值稳定下降，且ACC、NMI与ARI指标在约100个epoch后收敛，表明训练过程稳定。
• 敏感性分析显示，仅当K过小或过大时性能显著下降，证实了合理选择K值的重要性。