[论文解读] Exploring Structure-Adaptive Graph Learning for Robust Semi-Supervised Classification

Xiang Gao, Wei Hu+1 more|arXiv (Cornell University)|Apr 23, 2019

Advanced Graph Neural Networks参考文献 30被引用 4

一句话总结

本文提出图学习神经网络（GLNNs），在图卷积神经网络（GCNN）框架内，基于图拉普拉斯正则化器（GLR）的结构自适应正则化，联合优化图结构与边权重。该方法在半监督节点分类任务中显著提升了鲁棒性，尤其在低标签率场景下表现优异，在引文网络与社交网络数据集上超越了当前最先进方法，实现了端到端的数据与任务驱动图结构学习。

ABSTRACT

Graph Convolutional Neural Networks (GCNNs) are generalizations of CNNs to graph-structured data, in which convolution is guided by the graph topology. In many cases where graphs are unavailable, existing methods manually construct graphs or learn task-driven adaptive graphs. In this paper, we propose Graph Learning Neural Networks (GLNNs), which exploit the optimization of graphs (the adjacency matrix in particular) from both data and tasks. Leveraging on spectral graph theory, we propose the objective of graph learning from a sparsity constraint, properties of a valid adjacency matrix as well as a graph Laplacian regularizer via maximum a posteriori estimation. The optimization objective is then integrated into the loss function of the GCNN, which adapts the graph topology to not only labels of a specific task but also the input data. Experimental results show that our proposed GLNN outperforms state-of-the-art approaches over widely adopted social network datasets and citation network datasets for semi-supervised classification.

研究动机与目标

• 解决在缺乏或不可靠真实图时，半监督学习中图构建不理想的问题。
• 提升在现实图数据中常见的低标签率场景下的模型鲁棒性。
• 结合数据与标签信息，联合优化图拓扑（连通性与权重）与分类性能。
• 通过可微分的端到端训练框架，将结构自适应图学习集成到 GCNN 中。
• 证明基于 GLR 的图学习在半监督节点分类中优于固定图或仅学习边权重的图。

提出的方法

• 将图学习建模为邻接矩阵的后验最大估计（MAP）问题，将 GLR 作为似然函数。
• 引入先验分布，以强制邻接矩阵满足稀疏性、对称性、归一化及无自环的约束，确保其有效性。
• 将图学习目标整合到 GCNN 的交叉熵损失中，实现图结构与分类任务的联合优化。
• 设计 GLNN 框架，包含一个图学习层，后接两层 GCN 用于特征提取与分类。
• 利用谱图论定义图拉普拉斯正则化器（GLR），以促进在学习图上节点特征的平滑性。
• 通过反向传播端到端优化邻接矩阵，使模型能够根据输入数据与标签自适应调整图结构。

实验结果

研究问题

• RQ1 结构自适应图学习是否能提升半监督节点分类性能，尤其是在标签稀缺时？
• RQ2 引入图拉普拉斯正则化器（GLR）如何增强 GCNN 在低标签率场景下的鲁棒性？
• RQ3 联合优化图结构与分类损失在多大程度上优于固定图或仅调整边权重的方法？
• RQ4 所提出的 GLNN 是否能学习到既在结构上接近真实图又在训练过程中变得更稀疏的邻接矩阵？
• RQ5 性能对 GLR 损失项权重超参数的敏感程度如何？

主要发现

• GLNN 在引文网络（Cora、Citeseer、PubMed）与社交网络（TerroristsRel、TerrorAttack）上均达到最先进性能，准确率超越 GCN 与 ChebNet。
• 在 Cora 与 Citeseer 数据集上，即使标签率低至 0.005，GLNN 仍分别保持超过 58% 与 51.8% 的分类准确率，显著优于基线模型。
• 随着 GLR 权重（λ₀）增加，模型性能持续提升，峰值出现在 λ₀ = 1.0，表明 GLR 在提升分类准确率中起关键作用。
• 消融实验表明，若移除 GLR 损失项，性能出现显著下降，验证了其有效性。
• 可视化结果表明，学习到的邻接矩阵在训练过程中逐渐逼近真实图，并且变得更为稀疏，符合稀疏性约束。
• GLNN 框架成功学习到有意义、稀疏且任务感知的图结构，无需依赖预定义或人工构建的图。