[论文解读] Smooth Graph Signal Interpolation for Big Data

Ayelet Heimowitz, Yonina C. Eldar|arXiv (Cornell University)|Jun 7, 2018

Advanced Graph Neural Networks被引用 5

一句话总结

本文提出了一种名为马尔可夫变差（Markov variation）的新平滑度度量方法，为图信号平滑度提供了概率解释，并构建了图信号插值的优化框架。通过利用扩散嵌入向量和基于Nyström的扩展方法，该方法在大规模图上实现了高效、可扩展的插值，在MNIST和美国气温数据集上显著优于最先进方法，且在精度略有下降的情况下实现了显著的速度提升。

ABSTRACT

In this paper we present the Markov variation, a smoothness measure which offers a probabilistic interpretation of graph signal smoothness. This measure is then used to develop an optimization framework for graph signal interpolation. Our approach is based on diffusion embedding vectors and the connection between diffusion maps and signal processing on graphs. As diffusion embedding vectors may be expensive to compute for large graphs, we present a computationally efficient method, based on the Nystr\{o}m extension, for interpolation of signals over a graph. We demonstrate our approach on the MNIST dataset and a dataset of daily average temperatures around the US. We show that our method outperforms state of the art graph signal interpolation methods on both datasets, and that our computationally efficient reconstruction achieves slightly reduced accuracy with a large speedup.

研究动机与目标

• 提出一种具有概率解释的新图信号平滑度度量方法，以提升插值精度。
• 解决大规模图信号处理中扩散嵌入向量带来的计算瓶颈问题。
• 设计一种可扩展的插值框架，在降低计算成本的同时保持高精度。
• 在真实世界数据集（包括MNIST和美国每日气温数据）上评估该方法。
• 证明通过Nyström扩展实现的高效重构在速度与精度之间实现了有利的权衡。

提出的方法

• 提出马尔可夫变差作为平滑度度量，通过概率随机游走框架解释图信号平滑度。
• 基于马尔可夫变差度量，构建图信号插值的优化框架。
• 利用扩散嵌入向量表示图结构，利用扩散图与图信号处理之间的关联。
• 应用Nyström扩展方法，实现无需为大规模图重新计算完整扩散嵌入的高效信号插值。
• 将概率平滑度度量与基于Nyström的近似方法结合，实现可扩展且高精度的信号重构。
• 采用两阶段方法：先在子集节点上离线计算扩散嵌入，随后利用Nyström扩展在全图上高效插值。

实验结果

研究问题

• RQ1 图信号平滑度的概率解释是否能提升插值性能？
• RQ2 如何在大规模图信号插值中高效利用扩散嵌入向量？
• RQ3 基于Nyström的近似方法在降低计算成本的同时，能在多大程度上保持精度？
• RQ4 所提出方法在真实世界数据集上与最先进图信号插值技术相比表现如何？
• RQ5 在大规模图信号插值中，精度与计算效率之间的权衡关系如何？

主要发现

• 所提方法在MNIST和美国每日气温数据集上均优于最先进图信号插值技术。
• 通过Nyström扩展实现的计算高效重构相比完整扩散嵌入计算实现了显著提速。
• 与完整方法相比，高效方法的精度略有下降，但性能损失极小。
• 马尔可夫变差为信号平滑度提供了有意义的概率解释，提升了插值质量。
• 该框架在大规模图上表现出强大的可扩展性，适用于大数据应用。
• 结果证实，基于Nyström的方法在图信号插值中有效平衡了精度与效率。