[论文解读] Deconvolutional Networks on Graph Data

Jia Li, Jiajin Li+4 more|arXiv (Cornell University)|Oct 29, 2021

Advanced Graph Neural Networks参考文献 49被引用 7

一句话总结

本文提出图去卷积网络（GDN），一种从图卷积网络（GCNs）平滑后的表征中重建原始图信号的方法。通过结合逆谱滤波与基于小波的去噪，GDN缓解了直接去卷积带来的噪声放大问题，在图特征补全与结构生成任务中达到最先进性能。

ABSTRACT

In this paper, we consider an inverse problem in graph learning domain -- ``given the graph representations smoothed by Graph Convolutional Network (GCN), how can we reconstruct the input graph signal?" We propose Graph Deconvolutional Network (GDN) and motivate the design of GDN via a combination of inverse filters in spectral domain and de-noising layers in wavelet domain, as the inverse operation results in a high frequency amplifier and may amplify the noise. We demonstrate the effectiveness of the proposed method on several tasks including graph feature imputation and graph structure generation.

研究动机与目标

• 解决从GCN平滑表征中恢复原始图信号的逆问题。
• 克服直接去卷积GCN处理信号时固有的噪声放大问题。
• 设计一种对称的编码器-解码器框架，用于图自编码器，以GDN作为可学习解码器。
• 提升图特征补全与图结构生成任务的性能。
• 通过分析谱逆运算与噪声传播，为图去卷积提供系统化的设计方法。

提出的方法

• 提出一种谱-小波GDN，通过在谱域应用逆滤波来逆转GCN平滑效应。
• 使用Maclaurin级数近似，无需显式特征分解即可高效计算逆滤波与小波核。
• 引入基于小波的去噪方法，以抑制由逆滤波放大的高频噪声。
• 采用对称图自编码器（GAE）框架，结合GCN编码器与GDN解码器，实现端到端训练。
• 将GDN模块作为即插即用解码器集成到变分图自编码器（如VGAE、Graphite）中，以提升生成质量。
• 利用GCN的谱响应作为低通滤波器（g_c(λ) = 1 - λ），指导逆滤波g_d(λ) = 1 / (1 - λ)的设计。

实验结果

研究问题

• RQ1 我们能否有效从GCN平滑表征中重建原始图信号？
• RQ2 如何缓解图去卷积中逆滤波操作导致的噪声放大问题？
• RQ3 谱-小波混合设计是否能优于直接逆滤波，提升信号恢复性能？
• RQ4 将GDN集成到图自编码器中，是否能提升特征补全与结构生成任务的性能？
• RQ5 GDN在多大程度上提升了现有生成模型（如VGAE与Graphite）的性能？

主要发现

• 所提出的GAE模型采用GDN解码器，在六个基准数据集上均优于最先进方法，在图特征补全任务中表现优异。
• 在MUTAG数据集上，GDN使Graphite在图结构生成任务中的AP得分提升16.1%。
• 在PTC-MR数据集上，GDN使Graphite的AUC得分提升20.9%。
• 在VGAE框架中，GDN使ZINC数据集上的对数似然得分（log p(A|Z)）提升0.029。
• 谱-小波GDN设计能有效抑制噪声放大，优于朴素的逆滤波方法。
• 该方法展现出强泛化能力，在仅需最小架构修改的前提下，显著提升多种图学习任务的性能。