[论文解读] Diffusion Scattering Transforms on Graphs

Fernando Gama, Alejandro Ribeiro+1 more|arXiv (Cornell University)|Jun 22, 2018

Image and Signal Denoising Methods被引用 33

一句话总结

本文提出了图上的扩散散射变换，利用扩散小波构建图信号的稳定、非训练性表征。证明了该变换在图域度量扰动下具有稳定性，其算子范数差被限制在图之间的扩散距离之内——实现了无需训练的鲁棒、高频感知信号分析。

ABSTRACT

Stability is a key aspect of data analysis. In many applications, the natural notion of stability is geometric, as illustrated for example in computer vision. Scattering transforms construct deep convolutional representations which are certified stable to input deformations. This stability to deformations can be interpreted as stability with respect to changes in the metric structure of the domain. In this work, we show that scattering transforms can be generalized to non-Euclidean domains using diffusion wavelets, while preserving a notion of stability with respect to metric changes in the domain, measured with diffusion maps. The resulting representation is stable to metric perturbations of the domain while being able to capture "high-frequency" information, akin to the Euclidean Scattering.

研究动机与目标

• 通过扩散小波定义非欧几里得域上的图散射变换族。
• 基于扩散距离形式化图信号形变的概念。
• 建立图散射变换相对于图度量扰动的理论稳定性。
• 证明该表征在保持对域变化的稳定性的同时，仍能保留高频信息。
• 在图信号分类任务中验证该方法的性能，显示其相比线性基线方法具有更优的稳定性。

提出的方法

• 利用图扩散小波构建多分辨率滤波器组，用于图上的信号分析。
• 将图散射变换定义为扩散小波滤波器与逐点非线性函数（如ReLU）的分层组合。
• 以图之间的扩散距离作为域形变的度量，基于信号在图上传播所需的时间。
• 推导出理论界，表明两个图上散射变换之间的算子范数差与它们的扩散距离成正比。
• 采用归一化扩散算子（W/λ_max(W)）以确保信号传播过程中的数值稳定性。
• 在散射系数上训练线性SVM，以评估在作者归属和源定位等分类任务中的性能。

实验结果

研究问题

• RQ1 能否将散射变换推广到非欧几里得域（如图）并保持对形变的稳定性？
• RQ2 如何为图信号定义有意义的形变概念？何种度量可捕捉此类变化？
• RQ3 在底层图结构的度量扰动下，所得图散射变换是否保持稳定？
• RQ4 该表征能否在保持稳定的同时仍富含判别性特征（例如，捕捉高频内容）？
• RQ5 在实际的图信号分类任务中，散射变换的性能与线性方法及可训练GNN相比如何？

主要发现

• 两个图上散射变换之间的算子范数距离被一个常数乘以图之间扩散距离所限制。
• 稳定性界依赖于图的谱间隙，但与节点数量无关，从而确保可扩展性。
• 图散射变换在分类任务中优于线性方法（如GFT），在图扰动下表现出更低的方差。
• 在作者归属任务中，散射变换随训练数据增加而单调提升，而基线方法表现不稳定。
• 在Facebook图上的源定位任务中，散射表征在边扰动下分类误差变化小于线性方法。
• 更深的图散射变换可实现更高精度的分类，证明其能够捕捉分层信号特征。