[论文解读] Self-supervised Discriminative Feature Learning for Multi-view Clustering.

Jie Xu, Yazhou Ren+5 more|arXiv (Cornell University)|Mar 28, 2021

Video Surveillance and Tracking Methods参考文献 46被引用 5

一句话总结

本文提出了一种用于多视图聚类的自监督判别性特征学习方法（SDMVC），该方法利用深度自编码器学习视图特定的特征，将这些特征拼接为全局特征，并通过自监督伪标签化统一目标分布。该方法通过挖掘全局判别性信息并强制在不同视图间保持一致且多样的聚类分配，提升了聚类性能，在多个数据集上取得了最先进结果。

ABSTRACT

Multi-view clustering is an important research topic due to its capability to utilize complementary information from multiple views. However, there are few methods to consider the negative impact caused by certain views with unclear clustering structures, resulting in poor multi-view clustering performance. To address this drawback, we propose self-supervised discriminative feature learning for deep multi-view clustering (SDMVC). Concretely, deep autoencoders are applied to learn embedded features for each view independently. To leverage the multi-view complementary information, we concatenate all views' embedded features to form the global features, which can overcome the negative impact of some views' unclear clustering structures. In a self-supervised manner, pseudo-labels are obtained to build a unified target distribution to perform multi-view discriminative feature learning. During this process, global discriminative information can be mined to supervise all views to learn more discriminative features, which in turn are used to update the target distribution. Besides, this unified target distribution can make SDMVC learn consistent cluster assignments, which accomplishes the clustering consistency of multiple views while preserving their features' diversity. Experiments on various types of multi-view datasets show that SDMVC achieves state-of-the-art performance.

研究动机与目标

• 解决在多视图聚类中某些视图聚类结构不清晰所带来的负面影响。
• 利用多视图之间的互补信息以提高聚类的鲁棒性。
• 在保持特征多样性的同时，确保不同视图间聚类分配的一致性。
• 构建一个自监督框架，迭代优化特征学习与目标分布。
• 在多样化多视图数据集上实现最先进性能。

提出的方法

• 对每个独立视图分别应用深度自编码器，以学习嵌入特征。
• 将所有视图的嵌入特征拼接，形成全局特征，以减轻噪声或模糊视图的影响。
• 通过自监督方式生成伪标签，构建所有视图统一的目标分布。
• 利用统一的目标分布执行多视图判别性特征学习，以增强特征的判别能力。
• 通过优化后的特征迭代更新目标分布，以提升一致性和聚类质量。
• 通过共享的目标分布对齐聚类分配，强制实现不同视图间的聚类一致性。

实验结果

研究问题

• RQ1 当某些视图具有弱或不清晰的聚类结构时，如何改进多视图聚类？
• RQ2 全局特征拼接是否能有效减轻低质量视图的负面影响？
• RQ3 自监督伪标签化在多视图学习中在多大程度上能增强特征判别性？
• RQ4 统一的目标分布在多大程度上能提升不同视图间的聚类一致性？
• RQ5 所提出的方法是否能在基准多视图聚类数据集上实现最先进性能？

主要发现

• SDMVC 在多种多视图数据集上实现了最先进性能，表现出卓越的聚类准确率。
• 该方法通过利用全局特征表示，有效缓解了聚类结构不清晰视图的负面影响。
• 自监督伪标签化使模型能够通过迭代优化学习到更具判别性的特征。
• 统一的目标分布成功实现了所有视图间一致的聚类分配。
• 在实现高聚类一致性的同时，保持了各视图间特征的多样性。
• 实证结果证实，SDMVC 在多个基准数据集上优于现有方法。