[论文解读] Dual Information Enhanced Multi-view Attributed Graph Clustering

Jiaqi Lin, Man-Sheng Chen+3 more|arXiv (Cornell University)|Nov 28, 2022

Advanced Graph Neural Networks被引用 4

一句话总结

本文提出DIAGC，一种新颖的多视图属性图聚类方法，通过特定信息重建（SIR）模块解耦共识信息与特定信息，并利用互信息最大化（MIM）模块增强高层表征学习，通过有效捕捉低层和高层图结构及属性，在真实世界基准上实现了最先进性能。

ABSTRACT

Multi-view attributed graph clustering is an important approach to partition multi-view data based on the attribute feature and adjacent matrices from different views. Some attempts have been made in utilizing Graph Neural Network (GNN), which have achieved promising clustering performance. Despite this, few of them pay attention to the inherent specific information embedded in multiple views. Meanwhile, they are incapable of recovering the latent high-level representation from the low-level ones, greatly limiting the downstream clustering performance. To fill these gaps, a novel Dual Information enhanced multi-view Attributed Graph Clustering (DIAGC) method is proposed in this paper. Specifically, the proposed method introduces the Specific Information Reconstruction (SIR) module to disentangle the explorations of the consensus and specific information from multiple views, which enables GCN to capture the more essential low-level representations. Besides, the Mutual Information Maximization (MIM) module maximizes the agreement between the latent high-level representation and low-level ones, and enables the high-level representation to satisfy the desired clustering structure with the help of the Self-supervised Clustering (SC) module. Extensive experiments on several real-world benchmarks demonstrate the effectiveness of the proposed DIAGC method compared with the state-of-the-art baselines.

研究动机与目标

• 为解决现有方法在共识表征学习过程中忽略视图特异性结构信息的局限性。
• 通过从低层特征中恢复有意义的高层表征，提升多视图属性图的聚类性能。
• 在统一的深度聚类框架中联合优化共识学习与视图特异性信息解耦。
• 通过最大化低层与高层表征之间的互信息，提升表征质量。
• 通过消融研究与全面基准评估，验证各组件的有效性。

提出的方法

• 特定信息重建（SIR）模块通过从低层表征重建视图特异性邻接矩阵，实现共识与特定信息的解耦，使GCN能够学习到更本质的特征。
• 互信息最大化（MIM）模块通过最大化低层表征与共享高层表征之间的一致性，保留面向聚类的结构信息。
• 自监督聚类（SC）模块利用软标签与KL散度，强制高层表征与期望的聚类分配对齐。
• 整体目标函数结合重建损失、互信息最大化与聚类损失，联合优化所有组件。
• 采用交替优化策略端到端训练模型，迭代更新编码器、聚类中心与表征分布。
• 使用t-SNE可视化对学习到的表征清晰度与可分性进行定性验证。

实验结果

研究问题

• RQ1 解耦共识与特定信息在多视图属性图中如何提升聚类性能？
• RQ2 低层与高层表征之间的互信息最大化在多大程度上增强聚类结构学习？
• RQ3 所提出的DIAGC方法在不同真实世界数据集上对超参数变化的鲁棒性如何？
• RQ4 各组件（SIR、MIM、SC）对整体聚类性能的独立贡献是什么？
• RQ5 所提出方法是否能在多视图属性图基准上实现优于最先进基线的聚类结果？

主要发现

• 消融研究显示，移除MIM模块导致聚类性能显著下降，表明其在保留高层结构中的关键作用。
• 若缺少SIR模块，聚类性能因低层表征中视图特异性信息的干扰而下降。
• SC模块在ACM、DBLP与IMDB数据集上分别将NMI提升5.58%、1.03%与0.97%，证实其在优化聚类分配方面的有效性。
• 该方法在所有基准上对超参数α均表现出鲁棒性，测试范围内性能稳定。
• t-SNE可视化结果表明，与DEAGC和O2MAC等基线相比，DIAGC生成的聚类结构更清晰、更具可分性。
• 收敛性分析显示损失函数随迭代单调下降，表明训练动态稳定。