[论文解读] Transduction on Directed Graphs via Absorbing Random Walks

Jaydeep De, Xiaowei Zhang+1 more|arXiv (Cornell University)|Feb 19, 2014

Advanced Graph Neural Networks参考文献 32被引用 5

一句话总结

该论文提出了一种新颖的有向图归纳分类方法，基于马尔可夫链上的吸收随机游走，以最大化未标记节点的期望访问次数。该方法在多种真实世界数据集上优于当前最先进方法，同时在稀疏或动态图中仍能保持图结构和微弱的方向性信号。

ABSTRACT

In this paper we consider the problem of graph-based transductive classification, and we are particularly interested in the directed graph scenario which is a natural form for many real world applications. Different from existing research efforts that either only deal with undirected graphs or circumvent directionality by means of symmetrization, we propose a novel random walk approach on directed graphs using absorbing Markov chains, which can be regarded as maximizing the accumulated expected number of visits from the unlabeled transient states. Our algorithm is simple, easy to implement, and works with large-scale graphs. In particular, it is capable of preserving the graph structure even when the input graph is sparse and changes over time, as well as retaining weak signals presented in the directed edges. We present its intimate connections to a number of existing methods, including graph kernels, graph Laplacian based methods, and interestingly, spanning forest of graphs. Its computational complexity and the generalization error are also studied. Empirically our algorithm is systematically evaluated on a wide range of applications, where it has shown to perform competitively comparing to a suite of state-of-the-art methods.

研究动机与目标

• 填补现有方法在有向图归纳分类方面的空白，因为有向图在现实应用中很常见，但目前研究仍不充分。
• 开发一种方法，保留方向信息，而不依赖于边的对称化处理。
• 确保在大规模有向图中对稀疏性和动态变化具有鲁棒性。
• 保持对有向边中编码的微弱信号的敏感性，这些信号在对称方法中常被忽略。
• 在马尔可夫链框架下提供理论基础，并与图拉普拉斯方法和生成森林等经典方法建立联系。

提出的方法

• 将分类问题建模为吸收马尔可夫链，其中标记节点为吸收态，未标记节点为瞬态。
• 将目标定义为通过随机游走，最大化从每个未标记节点到标记态的期望访问次数。
• 利用吸收马尔可夫链的基本矩阵，基于访问概率计算分类得分。
• 直接利用有向图的结构，无需对称化处理，从而保留边的方向性和微弱信号。
• 通过利用稀疏性及对动态图的增量更新机制，确保计算效率。
• 通过底层的马尔可夫链框架，建立与图拉普拉斯方法、图核及生成森林的理论联系。

实验结果

研究问题

• RQ1 如何在不通过边对称化导致方向信息丢失的前提下，有效实现有向图的归纳分类？
• RQ2 吸收随机游走能在多大程度上在稀疏或演化的有向图中保持结构和信号信息？
• RQ3 所提出的吸收游走方法与现有图基方法（如图拉普拉斯和图核）之间存在何种理论关系？
• RQ4 与当前最先进归纳分类技术相比，该方法在真实世界有向图数据集上的实证表现如何？
• RQ5 所提出的吸收随机游走方法的计算复杂度和泛化误差界是什么？

主要发现

• 所提出的方法在广泛的真实世界有向图应用中实现了具有竞争力的性能，优于或匹配当前最先进方法。
• 该方法能有效保留有向边中的微弱信号，而这些信号在对称或无向图方法中常被忽略。
• 即使在稀疏图上也能保持高性能，并因高效的更新机制而很好地适应动态图结构。
• 理论分析揭示了与图拉普拉斯方法和生成森林的联系，为现有技术提供了统一的视角。
• 该方法表现出有利的计算复杂度和泛化误差界，支持在大规模图上的可扩展性。