[论文解读] Random Wavelet Features for Graph Kernel Machines

Valentin de Bassompierre, Jean‐Charles Delvenne+1 more|arXiv (Cornell University)|Feb 17, 2026

Advanced Graph Neural Networks被引用 0

一句话总结

本文提出基于图小波变换的随机化谱节点嵌入，用于近似基于拉普拉斯的图核，从而实现对图的可扩展核学习，且在频谱局部化核上表现尤为出色。

ABSTRACT

Node embeddings map graph vertices into low-dimensional Euclidean spaces while preserving structural information. They are central to tasks such as node classification, link prediction, and signal reconstruction. A key goal is to design node embeddings whose dot products capture meaningful notions of node similarity induced by the graph. Graph kernels offer a principled way to define such similarities, but their direct computation is often prohibitive for large networks. Inspired by random feature methods for kernel approximation in Euclidean spaces, we introduce randomized spectral node embeddings whose dot products estimate a low-rank approximation of any specific graph kernel. We provide theoretical and empirical results showing that our embeddings achieve more accurate kernel approximations than existing methods, particularly for spectrally localized kernels. These results demonstrate the effectiveness of randomized spectral constructions for scalable and principled graph representation learning.

研究动机与目标

• 在图上动机化基于核的学习，并解决图核的计算成本问题。
• 开发一种随机化谱嵌入方法，使给定图核的近似为低秩。
• 利用图信号处理和图小波设计高效嵌入。
• 提供理论保证和实证证据，表明对现有方法在谱局部化核上的近似改进。

提出的方法

• 为图节点构造一个随机特征映射，使点积近似于低秩核：Γ ≈ Φ^T Φ。
• 两阶段算法：(i) 使用过滤的随机信号进行范围估计以近似前-K个图谐波；(ii) 通过对 QR 子空间应用非线性谱滤波器 h^{1/2}(L) 进行嵌入计算。
• 使用多项式（Jackson-Chebyshev）近似 p_χ 以替代理想低通滤波以实现可处理的范围估计。
• 从过滤子空间定义嵌入 Φ 为 Φ = (p_h(L) Q)^T，得到核 h(L) 的秩-K 近似。
• 将与随机化 SVD 的联系，并采用过采样以改进子空间估计（对过滤的随机信号进行 QR）。
• 分析计算复杂度，显示关键步骤的拟线性扩展并通过低秩重构降低内存需求。

(a)

实验结果

研究问题

• RQ1 随机谱嵌入通过图小波是否能为基于拉普拉斯的图核提供准确的低秩近似？
• RQ2 这些嵌入是否在谱局部化核上优于现有的随机特征方法，尤指 g-GRFs？
• RQ3 在该随机化图核框架下，近似精度与计算效率之间的权衡如何？
• RQ4 图拉普拉斯特征值分布如何影响该方法的性能？

主要发现

• 提出的随机谱嵌入在理想条件下可实现与最佳秩-K近似相匹配的低秩近似，外加由于多项式近似和范围查找带来的误差项。
• 实证结果表明，在谱局部化核上，相较于通用图随机特征（g-GRFs）具有更高的核近似精度，同时对更广泛的核保持具竞争力的性能。
• 该方法通过避免显式特征分解并利用多项式近似和随机投影，展示了可扩展的时间和内存复杂度。
• 性能取决于图的特征值分布和选定的秩 K，当谱本身对目标核表现良好时，效果更好。

(b)