[论文解读] Multi-view Graph Convolutional Networks with Differentiable Node Selection

Zhaoliang Chen, Lele Fu+4 more|arXiv (Cornell University)|Dec 9, 2022

Advanced Graph Neural Networks被引用 4

一句话总结

本文提出 MGCN-DNS，一种具有可微节点选择机制的多视角图卷积网络，通过从多视角数据中学习鲁棒、自适应的图拓扑结构，以提升半监督分类性能。通过集成可微节点选择机制与自适应图融合，该模型在减少噪声干扰的同时增强特征表示能力，在基准数据集上实现了最先进性能。

ABSTRACT

Multi-view data containing complementary and consensus information can facilitate representation learning by exploiting the intact integration of multi-view features. Because most objects in real world often have underlying connections, organizing multi-view data as heterogeneous graphs is beneficial to extracting latent information among different objects. Due to the powerful capability to gather information of neighborhood nodes, in this paper, we apply Graph Convolutional Network (GCN) to cope with heterogeneous-graph data originating from multi-view data, which is still under-explored in the field of GCN. In order to improve the quality of network topology and alleviate the interference of noises yielded by graph fusion, some methods undertake sorting operations before the graph convolution procedure. These GCN-based methods generally sort and select the most confident neighborhood nodes for each vertex, such as picking the top-k nodes according to pre-defined confidence values. Nonetheless, this is problematic due to the non-differentiable sorting operators and inflexible graph embedding learning, which may result in blocked gradient computations and undesired performance. To cope with these issues, we propose a joint framework dubbed Multi-view Graph Convolutional Network with Differentiable Node Selection (MGCN-DNS), which is constituted of an adaptive graph fusion layer, a graph learning module and a differentiable node selection schema. MGCN-DNS accepts multi-channel graph-structural data as inputs and aims to learn more robust graph fusion through a differentiable neural network. The effectiveness of the proposed method is verified by rigorous comparisons with considerable state-of-the-art approaches in terms of multi-view semi-supervised classification tasks.

研究动机与目标

• 为解决基于 GCN 的多视角学习中非可微排序的局限性，其中 top-k 节点选择阻碍梯度流动与模型优化。
• 通过学习自适应、可微的节点选择与图融合，提升图拓扑质量并减少多视角数据中的噪声干扰。
• 构建一个联合框架，通过可微、端到端可训练的架构整合多通道图结构数据，以增强表示学习。
• 通过自适应融合与稀疏化，实现多视角半监督分类任务中鲁棒且泛化能力强的图嵌入学习。
• 通过引入可学习、连续的节点选择机制，克服固定 k-近邻选择的刚性，支持反向传播。

提出的方法

• 该框架采用两阶段自适应图融合层，通过学习各视角的注意力权重（α）将多个基于 KNN 的图整合为统一的图结构。
• 可微节点选择机制通过 Gumbel-Softmax 重参数化技巧对排列矩阵进行连续松弛，替代非可微的 top-k 排序。
• 图学习模块通过可微操作更新邻接矩阵，实现端到端训练。
• 节点表示通过图卷积层更新，以可微方式聚合来自所选高置信度邻居的特征。
• 模型使用可学习的温度参数 τ 和缩放因子 γ 控制选择过程的平滑度，实现平滑优化。
• 整体架构通过在标注数据上使用交叉熵损失进行端到端训练，反向传播通过可微选择与融合组件进行。

实验结果

研究问题

• RQ1 与非可微 top-k 选择相比，可微节点选择是否能提升多视角 GCN 的优化与性能？
• RQ2 具有可学习注意力权重的自适应图融合在多视角半监督分类中如何增强表示学习？
• RQ3 所提方法在多视角图学习中在多大程度上减少了异构视角带来的噪声干扰？
• RQ4 模型性能对可微选择机制中超参数 γ 和 τ 的敏感度如何？
• RQ5 该框架是否能在标准多视角基准数据集上实现最先进性能？

主要发现

• MGCN-DNS 在多个基准多视角数据集（包括 Caltech-20、NUS-WIDE 和 Youtube）上实现了最先进性能，优于现有基于 GCN 和多视角学习的方法。
• 模型对超参数设置具有鲁棒性，当 τ > 0.4 且 γ 足够大时达到最优性能，表明优化稳定。
• 敏感性分析表明，τ 值过小（<0.3）会显著降低性能，尤其在 BBCnews 数据集上，因软排列矩阵坍缩为硬性排列所致。
• 可视化结果证实，模型学习到了有意义的注意力权重（α），对提供互补信息的视角赋予更高重要性，对信息量较少的视角赋予较低权重。
• 训练损失迅速下降，并在 200 次迭代内收敛，表明训练效率高，但过度训练会导致测试准确率平台化或下降，提示存在过拟合风险。
• 可微节点选择机制实现了有效的反向传播与端到端优化，克服了先前方法中由离散排序引起的梯度阻断问题。