[论文解读] Double Self-weighted Multi-view Clustering via Adaptive View Fusion

Xiang Fang, Yuchong Hu|arXiv (Cornell University)|Nov 20, 2020

Remote-Sensing Image Classification参考文献 24被引用 7

一句话总结

该论文提出了一种新型框架——双自加权多视图聚类（DSMC），通过自适应的特征级和视图级加权机制，抑制噪声和冗余，从而提升多视图聚类性能。通过迭代学习最优图表示并结合双重自加权与自适应融合，DSMC在六个真实世界数据集上实现了最先进性能，显著优于现有方法，在聚类准确率、NMI和纯度指标上均有显著提升。

ABSTRACT

Multi-view clustering has been applied in many real-world applications where original data often contain noises. Some graph-based multi-view clustering methods have been proposed to try to reduce the negative influence of noises. However, previous graph-based multi-view clustering methods treat all features equally even if there are redundant features or noises, which is obviously unreasonable. In this paper, we propose a novel multi-view clustering framework Double Self-weighted Multi-view Clustering (DSMC) to overcome the aforementioned deficiency. DSMC performs double self-weighted operations to remove redundant features and noises from each graph, thereby obtaining robust graphs. For the first self-weighted operation, it assigns different weights to different features by introducing an adaptive weight matrix, which can reinforce the role of the important features in the joint representation and make each graph robust. For the second self-weighting operation, it weights different graphs by imposing an adaptive weight factor, which can assign larger weights to more robust graphs. Furthermore, by designing an adaptive multiple graphs fusion, we can fuse the features in the different graphs to integrate these graphs for clustering. Experiments on six real-world datasets demonstrate its advantages over other state-of-the-art multi-view clustering methods.

研究动机与目标

• 为解决现有多视图聚类方法对所有特征同等对待的问题，即使这些特征存在噪声或冗余。
• 通过学习强调有利特征、抑制不利特征的最优图表示，提升聚类鲁棒性。
• 通过基于可靠性和贡献度动态分配权重，实现多视图的自适应融合。
• 设计一种高效且收敛的优化框架，整合特征级与视图级自加权机制，以提升聚类性能。

提出的方法

• 为每个视图引入自适应权重矩阵，对不同特征分配不同重要性，增强有利特征的表征，抑制噪声或冗余特征。
• 通过学习各图的自适应系数，实施第二次自加权操作，为更可靠的视图赋予更高权重。
• 采用迭代优化过程，联合学习权重矩阵、图表示和融合系数，以最小化目标函数。
• 设计一种自适应多图融合策略，利用学习到的权重在视图间结合有利特征，提升整体聚类鲁棒性。
• 在融合后的自加权图上使用谱聚类生成最终的聚类分配。
• 采用图拉普拉斯矩阵的闭式解，并利用交替优化高效求解非凸问题。

实验结果

研究问题

• RQ1 当高维数据在各视图中包含冗余或噪声特征时，如何改进多视图聚类？
• RQ2 自适应特征级加权能否提升多视图聚类中单个视图图的质量？
• RQ3 自适应视图级加权能否通过在融合阶段优先考虑更可靠的视图来提升聚类性能？
• RQ4 在特征和视图两级同时应用双重自加权机制，是否能带来优于现有方法的聚类性能？
• RQ5 所提出的自适应融合策略与固定权重或单重加权方法相比，在收敛性和鲁棒性方面表现如何？

主要发现

• 在NUS-WIDE数据集上，与MLAN相比，DSMC将ACC提升了19.8%，NMI提升了15.07%；与AWP相比，分别提升了8.29%和9.90%。
• 在20NGs数据集上，与MMSC相比，DSMC在ACC上提升了70.6%，在NMI上提升了84.43%，展现出强大的抗噪声能力。
• 在Scene数据集上，DSMC在ACC上比MMSC高出44.98%，在NMI上高出47.17%，凸显其在处理高维异构视图方面的有效性。
• 在BBC数据集上，DSMC相比SwMC将ACC提升了61.75%，相比AWP提升了16.79%，证实其在复杂真实场景中的优越性。
• DSMC在所有数据集上均于10次迭代内收敛，表明其具有高计算效率和稳定的优化过程。
• 消融实验证实，特征级和视图级自加权均不可或缺，移除任一组件均导致性能显著下降。