[论文解读] DiffGCN: Graph Convolutional Networks via Differential Operators and Algebraic Multigrid Pooling

Moshe Eliasof, Eran Treister|arXiv (Cornell University)|Jun 7, 2020

3D Shape Modeling and Analysis参考文献 63被引用 10

一句话总结

该论文提出 DiffGCN，一种图卷积网络，通过使用离散化微分算子（质量、梯度、拉普拉斯）来公式化图卷积，并采用基于代数多重网格（algebraic multigrid）的池化/解池化操作实现层次化特征学习。与现有 GCN 相比，该方法在点云分类和部件分割基准测试中实现了最先进或具有竞争力的性能，同时计算成本更低。

ABSTRACT

Graph Convolutional Networks (GCNs) have shown to be effective in handling unordered data like point clouds and meshes. In this work we propose novel approaches for graph convolution, pooling and unpooling, inspired from finite differences and algebraic multigrid frameworks. We form a parameterized convolution kernel based on discretized differential operators, leveraging the graph mass, gradient and Laplacian. This way, the parameterization does not depend on the graph structure, only on the meaning of the network convolutions as differential operators. To allow hierarchical representations of the input, we propose pooling and unpooling operations that are based on algebraic multigrid methods, which are mainly used to solve partial differential equations on unstructured grids. To motivate and explain our method, we compare it to standard convolutional neural networks, and show their similarities and relations in the case of a regular grid. Our proposed method is demonstrated in various experiments like classification and part-segmentation, achieving on par or better than state of the art results. We also analyze the computational cost of our method compared to other GCNs.

研究动机与目标

• 通过将图卷积建立在微分算子基础上，弥合结构化 CNN 与非结构化几何深度学习之间的差距。
• 基于离散化微分算子（如质量、梯度和拉普拉斯）提出一种与图结构无关的图卷积参数化方法。
• 提出受代数多重网格（AMG）方法启发的新型池化与解池化操作，用于 GCN 中的层次化特征学习。
• 在保持或提升点云和网格任务性能的同时，降低计算成本。
• 在 ModelNet40 和 S3DIS 等标准基准上展示所提方法的有效性与高效性。

提出的方法

• 图卷积核通过在非结构化网格上基于有限差分近似推导出的离散化微分算子——图质量、梯度和拉普拉斯——进行参数化。
• 卷积操作被定义为这些微分算子的线性组合，从而实现具有几何意义且与结构无关的参数化。
• 池化通过基于聚合的代数多重网格（AMG）中的 Galerkin 粗化算子实现，支持高效的层次化表示学习。
• 解池化通过平滑聚合实现，在上采样过程中保留特征分辨率。
• 该方法借鉴了 CNN 的偏微分方程（PDE）解释，建立了在规则网格上的标准 CNN 与在不规则图上的所提 GCN 之间的直接类比。
• 该框架支持端到端训练，并在点云分类和语义分割任务上进行了评估。

实验结果

研究问题

• RQ1 图卷积能否通过与图拓扑无关的离散化微分算子实现有效参数化？
• RQ2 基于 AMG 的池化与解池化操作在性能与效率方面与标准 GCN 池化相比如何？
• RQ3 各个微分算子（质量、梯度、拉普拉斯）对整体模型性能的贡献是什么？
• RQ4 与最先进 GCN 相比，该方法在点云和网格任务上是否实现了具有竞争力或更优的结果？
• RQ5 与其它基于空间的 GCN 相比，该方法的计算成本如何？

主要发现

• 在 ModelNet40 上，DiffGCN 在使用池化的情况下实现了 89.5% 的平均类别准确率和 93.1% 的总体准确率，优于仅使用质量或梯度项的模型。
• 质量与拉普拉斯项的组合性能优于质量与梯度项，表明拉普拉斯算子具有强大的表征能力。
• 在 S3DIS 数据集上，该方法实现了 61.4% 的平均 IoU 和 85.5% 的总体准确率，优于 PointNet 和 DGCNN，且效率更高。
• 引入池化操作通过扩大感受野提升了性能，仅导致 FLOPs 和内存使用量略有增加。
• 与其它基于消息传递的空间 GCN 相比，该方法计算成本更低，尤其得益于高效的 AMG 基池化与解池化机制。
• 消融实验确认，质量、梯度和拉普拉斯三个微分算子均对性能有正向贡献，三者组合效果最佳。