[论文解读] Decimated Framelet System on Graphs and Fast G-Framelet Transforms

Xuebin Zheng, Bingxin Zhou+2 more|arXiv (Cornell University)|Dec 12, 2020

Advanced Graph Neural Networks参考文献 109被引用 21

一句话总结

该论文提出了一种图上的降采样轮廓波系统，通过分层的粗粒度链式结构，实现了图数据的多尺度、局部化表示。该方法引入了一种快速 $\boldsymbol{\text{G}}$-轮廓波变换（F$\boldsymbol{\text{G}}$T），计算复杂度为线性 $\boldsymbol{\text{O}}(N)$，利用基于图拉普拉斯的正交基与数据驱动的滤波器组，实现了高效的分解与重构。

ABSTRACT

Graph representation learning has many real-world applications, from super-resolution imaging, 3D computer vision to drug repurposing, protein classification, social networks analysis. An adequate representation of graph data is vital to the learning performance of a statistical or machine learning model for graph-structured data. In this paper, we propose a novel multiscale representation system for graph data, called decimated framelets, which form a localized tight frame on the graph. The decimated framelet system allows storage of the graph data representation on a coarse-grained chain and processes the graph data at multi scales where at each scale, the data is stored at a subgraph. Based on this, we then establish decimated G-framelet transforms for the decomposition and reconstruction of the graph data at multi resolutions via a constructive data-driven filter bank. The graph framelets are built on a chain-based orthonormal basis that supports fast graph Fourier transforms. From this, we give a fast algorithm for the decimated G-framelet transforms, or FGT, that has linear computational complexity O(N) for a graph of size N. The theory of decimated framelets and FGT is verified with numerical examples for random graphs. The effectiveness is demonstrated by real-world applications, including multiresolution analysis for traffic network, and graph neural networks for graph classification tasks.

研究动机与目标

• 开发一种适用于图结构数据的局部化、紧框架系统，支持多尺度分析。
• 通过实现线性时间处理，解决现有图轮廓波变换计算效率低下的问题。
• 构建一个分层的、粗粒度的子图链，以保持原始图的几何与谱特性。
• 实现高效的图表示学习与多分辨率分析，适用于交通网络和图神经网络等实际应用。
• 建立一个数据驱动的滤波器组，确保变换过程中的完美重构与稳定性。

提出的方法

• 基于图拉普拉斯的链式正交基构建图上的降采样轮廓波系统，实现多尺度分解。
• 利用图聚类与粗粒度化方法构建分层子图链，每一层代表原始图的更粗略近似。
• 在图上使用哈尔基作为低SPOC（系数稀疏性）正交基，以确保快速计算与局部化。
• 在每一尺度设计包含低通与高通滤波器的滤波器组，确保轮廓波系统形成紧框架，实现稳定的信号表示。
• 通过将离散傅里叶变换（DFT）与高效下采样/上采样操作结合，设计出快速算法F$\boldsymbol{\text{G}}$T。
• 在分层图结构的每一层应用离散傅里叶变换（DFT）及其伴随变换（ADFT），以加速卷积与变换操作。

实验结果

研究问题

• RQ1 能否在图上构建降采样轮廓波系统，以实现图数据的局部化、多尺度表示，并保证稳定性与完美重构？
• RQ2 如何在保持精度与稀疏性的同时，将图轮廓波变换的计算复杂度降低至线性时间？
• RQ3 图拉普拉斯及其特征向量在构建支持快速变换的正交基中起到何种作用？
• RQ4 图的分层粗粒度化如何影响所得轮廓波系数的质量与可解释性？
• RQ5 所提出的F$\boldsymbol{\text{G}}$T在多大程度上可被用于提升图神经网络与多分辨率分析任务中的图表示学习？

主要发现

• 所提出的降采样轮廓波系统在图上形成局部化的紧框架，确保了多尺度下稳定且可逆的信号表示。
• F$\boldsymbol{\text{G}}$T算法对大小为 $N$ 的图实现了线性计算复杂度 $\boldsymbol{\text{O}}(N)$，显著优于先前方法。
• 在随机图上的数值实验验证了计算时间的线性增长，与理论复杂度分析一致。
• 该方法成功实现了对真实世界道路网络的多分辨率分析，揭示了不同粒度下的结构模式。
• 在图神经网络中应用基于F$\boldsymbol{\text{G}}$T的图卷积，通过利用多尺度特征，在基准数据集上提升了分类准确率。
• 图上的哈尔基实现了低SPOC（系数稀疏性），有助于提升轮廓波表示的效率与局部化特性。