[论文解读] Semi-Supervised Learning on Graphs using Graph Neural Networks

Juntong Chen, Claire Donnat+2 more|arXiv (Cornell University)|Feb 19, 2026

Advanced Graph Neural Networks被引用 0

一句话总结

本论文提供了基于GNN的半监督节点回归的理论框架，推导非渐进风险界，区分近似误差、随机误差与优化误差，并分析图结构与标签稀疏性如何影响学习速率。

ABSTRACT

Graph neural networks (GNNs) work remarkably well in semi-supervised node regression, yet a rigorous theory explaining when and why they succeed remains lacking. To address this gap, we study an aggregate-and-readout model that encompasses several common message passing architectures: node features are first propagated over the graph then mapped to responses via a nonlinear function. For least-squares estimation over GNNs with linear graph convolutions and a deep ReLU readout, we prove a sharp non-asymptotic risk bound that separates approximation, stochastic, and optimization errors. The bound makes explicit how performance scales with the fraction of labeled nodes and graph-induced dependence. Approximation guarantees are further derived for graph-smoothing followed by smooth nonlinear readouts, yielding convergence rates that recover classical nonparametric behavior under full supervision while characterizing performance when labels are scarce. Numerical experiments validate our theory, providing a systematic framework for understanding GNN performance and limitations.

研究动机与目标

• 研究图引起的传播如何影响有效预测器复杂度。
• 刻画GNN在传播–非线性组合模型中的近似能力。
• 在部分监督下为最小二乘GNN估计量提供非渐进风险界。
• 阐明标签稀疏性与图拓扑结构对收敛速率与学习保证的影响。

提出的方法

• 研究一个聚合再读出（aggregate-and-readout）GNN 模型，采用线性图卷积之后再接深度ReLU读出。
• 推导一个尖锐的Oracle不等式，将误差分解为优化、近似和随机分量（定理1）。
• 建立近似理论，证明GNN可以近似传播后再读出函数（引理4）。
• 在局部性/有界感受野假设下，建立最小二乘GNN估计量的收敛速率。
• 给出GNN函数类的经验熵界，并将深度、宽度与稀疏性与泛化联系起来（命题1；推论2）。
• 通过有界感受野假设，在图结构依赖下实现浓度结果，并帮助理解GNN中标签利用效率。 Assumption 1）。

实验结果

研究问题

• RQ1 图传播如何影响半监督图回归中预测器的有效复杂度？
• RQ2 具有线性图卷积和深度读出的GNN能否逼近传播–非线性组合回归函数？
• RQ3 在部分监督和图引入的依赖下，最小二乘GNN估计量的非渐进风险界是什么？
• RQ4 标签稀疏性（已标记节点的分数）与图拓扑（感受野）如何影响收敛速率？
• RQ5 网络深度、宽度与稀疏性在控制度量熵与泛化方面的作用是什么？

主要发现

• 存在一个尖锐的Oracle不等式，将风险分解为优化、近似和随机误差，并且对已标记分数和图拓扑具有显式依赖（定理1）。
• 近似理论表明，内部图传播后接 Hölder-光滑读出可以被所提的GNN类别所近似（引理4）。
• 最小二乘GNN估计量的收敛速率被刻画，揭示速率如何依赖于标签稀缺性和图的感受野。
• GNN类的度量熵具有上界，显示深度、宽度和稀疏性对泛化的影响（命题1；推论2）。
• 有界感受野假设在图结构依赖下实现集中性结果，并引导理解GNN中的标签效率。