[论文解读] Dynamic Edge-Conditioned Filters in Convolutional Neural Networks on Graphs

Martin Simonovsky, Nikos Komodakis|arXiv (Cornell University)|Apr 10, 2017

Data Visualization and Analytics参考文献 35被引用 50

一句话总结

本文提出 Edge-Conditioned Convolution (ECC)，这是一种在边标签基础上动态生成滤波权重的时空域图卷积，使得在结构可变的图上也能学习，并在 Sydney LiDAR 点云上达到最先进的结果，在图基准数据集上表现出色。

ABSTRACT

A number of problems can be formulated as prediction on graph-structured data. In this work, we generalize the convolution operator from regular grids to arbitrary graphs while avoiding the spectral domain, which allows us to handle graphs of varying size and connectivity. To move beyond a simple diffusion, filter weights are conditioned on the specific edge labels in the neighborhood of a vertex. Together with the proper choice of graph coarsening, we explore constructing deep neural networks for graph classification. In particular, we demonstrate the generality of our formulation in point cloud classification, where we set the new state of the art, and on a graph classification dataset, where we outperform other deep learning approaches. The source code is available at https://github.com/mys007/ecc

研究动机与目标

• 将类似 CNN 的滤波推广到任意图，同时处理可变连通性。
• 利用边标签来条件化并动态生成卷积滤波器。
• 在点云和标准图分类基准上演示该方法。
• 研究具备图粗化与池化的网络体系结构，以构建深层图分类器。

提出的方法

• 定义 Edge-Conditioned Convolution (ECC)，其中每个邻域边标签 L(j,i) 通过滤波器生成网络 F^l 生成唯一的滤波器 Θ_{ji}^l。
• 将 X^l(i) 计算为 Θ_{ji}^l X^{l-1}(j) 的邻居加权平均再加偏置，从而使局部结构信息影响滤波。
• 证明 ECC 能泛化标准卷积：在网格情况下，配合适当的边标签，ECC 简化为常规卷积。
• 使用图上的粗化/池化构建用于图分类的层次网络。
• 通过从欧几里得空间邻域构建图，并使用捕获空间偏移的边标签，将 ECC 应用于点云。
• 在 Sydney Urban Objects、ModelNet、NCI/MUTAG/enzymes/D&D 图数据集以及作为图为基础的 MNIST 实验上进行评估。

实验结果

研究问题

• RQ1 ECC 是否能利用边标签在结构变化的图上提升局部敏感的滤波？
• RQ2 ECC 的性能与现有图卷积和体积方法在点云与标准图基准上的比较？
• RQ3 图粗化与池化在多大程度上使得深层图分类体系结构有效？
• RQ4 ECC 在如 Sydney LiDAR 数据与 ModelNet 等挑战性数据集上是否具备与最先进方法竞争力？
• RQ5 在不同数据集上包含或排除边标签对性能的影响是怎样？

主要发现

• 在对比方法中，ECC 在 Sydney Urban Objects 上实现了最先进的平均 F1（ECC 78.4）。
• 不同半径的基于 ECC 的变体显示中等邻域大小更可取；在没有合适的跳跃连接的情况下使用较大半径可能略微降低精度。
• 在 ModelNet10/40 上，ECC 具有高度竞争力，使用 12 视图投票可达 90.8% 的平均准确率。
• 在标准图基准（NCI1, NCI109, MUTAG, ENZYMES, D&D）上，ECC 的表现达到或超过若干基线，使用边标签相对于不使用边标签的变体具有明显优势。
• MNIST 实验表明 ECC 能在此格网任务中达到最先进水平并学习平滑的、边条件化的滤波器。