[论文解读] Towards a practical $k$-dimensional Weisfeiler-Leman algorithm

Christopher Morris, Petra Mutzel|arXiv (Cornell University)|Apr 2, 2019

Advanced Graph Neural Networks被引用 6

一句话总结

本文提出了一种 $k$-维 Weisfeiler-Leman 算法的局部变体，通过在每次迭代中将邻域探索限制在稀疏的、依赖于图的子集上，降低了计算开销。尽管进行了此优化，该方法仍保持了原始算法区分非同构图的能力，并在基准图数据集上实现了更快的运行时间和更高的分类准确率。

ABSTRACT

The $k$-dimensional Weisfeiler-Leman algorithm is a well-known heuristic for the graph isomorphism problem. Moreover, it recently emerged as a powerful tool for supervised graph classification. The algorithm iteratively partitions the set of $k$-tuples, defined over the set of vertices of a graph, by considering neighboring $k$-tuples. Here, we propose a ew{local} variant which considers a subset of the original neighborhood in each iteration step. The cardinality of this local neighborhood, unlike the original one, only depends on the sparsity of the graph. Surprisingly, we show that the local variant has at least the same power as the original algorithm in terms of distinguishing non-isomorphic graphs. In order to demonstrate the practical utility of our local variant, we apply it to supervised graph classification. Our experimental study shows that our local algorithm leads to improved running times and classification accuracies on established benchmark datasets.

研究动机与目标

• 为解决标准 $k$-维 Weisfeiler-Leman 算法在图分析任务中的高计算成本问题。
• 开发一种变体，使其在通过局部邻域探索减少运行时间的同时，保持原始算法的区分能力。
• 在真实世界图分类基准上评估所提方法的实际性能。
• 证明基于图稀疏性的局部邻域选择可在保持理论保证的同时提升效率。

提出的方法

• 该算法引入了一种局部邻域选择策略，基于图的稀疏性在每次迭代中限制所考虑的邻近 $k$-元组数量。
• 与处理所有邻近 $k$-元组不同，该方法仅选择足以维持与原始 $k$-WL 算法相同区分能力的子集。
• 局部邻域通过一种考虑稀疏性的准则定义，确保其基数随图的边密度而非完整 $k$-元组邻域而变化。
• 该算法通过仅使用这些局部选择的邻居，迭代地细化 $k$-元组的划分，保持与原始 $k$-WL 精炼过程的一致性。
• 该方法被集成到监督式图分类流程中，以在标准基准上评估其经验性能。

实验结果

研究问题

• RQ1 局部化的 $k$-维 Weisfeiler-Leman 算法能否保持与原始算法相同的区分能力？
• RQ2 基于图稀疏性减少邻域大小是否能在不损失准确率的前提下显著提升运行时间性能？
• RQ3 在基准数据集上，局部 $k$-WL 算法与标准 $k$-WL 算法在分类准确率方面有何比较？
• RQ4 基于稀疏性的邻域选择对算法在大规模图上的可扩展性有何影响？

主要发现

• 局部 $k$-维 Weisfeiler-Leman 算法至少保持了与原始算法相同的区分能力，同时保留了其理论保证。
• 由于邻域探索范围受限，该算法显著降低了运行时间，使其在大规模或稀疏图上更具可扩展性。
• 在既定的图分类基准上，局部变体相比标准 $k$-WL 算法实现了更高的分类准确率。
• 性能提升可归因于在局部精炼过程中减少了过拟合现象，并实现了更高效的特征传播。