[论文解读] Random Walks on Hypergraphs with Edge-Dependent Vertex Weights

Uthsav Chitra, Benjamin J. Raphael|arXiv (Cornell University)|May 20, 2019

Complex Network Analysis Techniques被引用 21

一句话总结

本文为具有边依赖顶点权重的超图构建了谱理论，其中每个顶点在每条关联的超边中具有不同的权重。该工作提出了一种基于随机游走的超图拉普拉斯矩阵，能够捕捉高阶关系；仅在边独立权重下与图上的随机游走等价；并在真实和合成数据的排序任务中展示了优越性能。

ABSTRACT

Hypergraphs are used in machine learning to model higher-order relationships in data. While spectral methods for graphs are well-established, spectral theory for hypergraphs remains an active area of research. In this paper, we use random walks to develop a spectral theory for hypergraphs with edge-dependent vertex weights: hypergraphs where every vertex $v$ has a weight $γ_e(v)$ for each incident hyperedge $e$ that describes the contribution of $v$ to the hyperedge $e$. We derive a random walk-based hypergraph Laplacian, and bound the mixing time of random walks on such hypergraphs. Moreover, we give conditions under which random walks on such hypergraphs are equivalent to random walks on graphs. As a corollary, we show that current machine learning methods that rely on Laplacians derived from random walks on hypergraphs with edge-independent vertex weights do not utilize higher-order relationships in the data. Finally, we demonstrate the advantages of hypergraphs with edge-dependent vertex weights on ranking applications using real-world datasets.

研究动机与目标

• 解决在真实应用中常见的具有边依赖顶点权重的超图缺乏严谨谱理论的问题。
• 指出基于随机游走的现有超图拉普拉斯矩阵在顶点权重为边独立时等价于团图，因此无法有效利用高阶关系。
• 为具有边依赖顶点权重的超图开发一种新型基于随机游走的拉普拉斯矩阵，以正确捕捉高阶交互作用。
• 为这类超图上的随机游走建立理论保证，包括平稳分布公式和混合时间界。
• 通过真实世界和合成数据集的实证结果表明，所提方法在排序应用中优于现有方法。

提出的方法

• 定义具有边依赖顶点权重的超图，其中每个顶点 $v$ 对每条关联的超边 $e$ 拥有一个权重 $\gamma_e(v)$，以建模其对 $e$ 的贡献。
• 通过基于超边权重 $\omega(e)$ 和顶点权重 $\gamma_e(v)$ 定义转移概率，在此类超图上构建随机游走。
• 从随机游走推导出超图拉普拉斯矩阵，确保其为半正定并满足切比雪夫不等式。
• 证明当顶点权重为边独立时，超图上的随机游走等价于团图上的随机游走，从而解释为何先前方法无法捕捉高阶结构。
• 将随机游走的平稳分布公式化为 $\pi_v^H = \sum_{e \in E(v)} \omega(e) \gamma_e(v)$，该公式推广了标准图情形。
• 利用谱间隙分析建立随机游走混合时间的界，并应用Chung [8] 的定理8，将混合时间与权重比关联。

实验结果

研究问题

• RQ1 能否为具有边依赖顶点权重的超图建立谱理论，以正确捕捉高阶关系？
• RQ2 在何种条件下，具有边依赖顶点权重的超图上的随机游走等价于图上的随机游走？
• RQ3 为何基于随机游走的现有超图拉普拉斯矩阵无法利用数据中的高阶交互作用？
• RQ4 具有边依赖顶点权重的超图上随机游走的平稳分布是什么？
• RQ5 所提方法在真实和合成数据集的排序任务中与现有方法相比表现如何？

主要发现

• 当顶点权重为边独立时，超图上的随机游走总是等价于团图上的随机游走，这解释了为何先前方法无法利用高阶关系。
• 所提出的基于随机游走的拉普拉斯矩阵在边依赖顶点权重下为半正定，并满足切比雪夫不等式，确保理论上的合理性。
• 随机游走的平稳分布为 $\pi_v^H = \sum_{e \in E(v)} \omega(e) \gamma_e(v)$，该公式推广了标准图情形。
• 通过谱间隙分析建立随机游走混合时间的界，其界依赖于每个顶点上最大与最小顶点权重的比值。
• 在排序聚合实验中，所提超图方法优于MC3和基于团图的方法，尤其在部分排序稀疏（低 $p$）时表现更优。
• 团图近似方法的表现显著劣于所提方法，表明其作为具有边依赖权重的超图的替代模型效果极差。