[论文解读] GraphTER: Unsupervised Learning of Graph Transformation Equivariant Representations via Auto-Encoding Node-wise Transformations

Xiang Gao, Wei Hu+1 more|arXiv (Cornell University)|Nov 19, 2019

3D Shape Modeling and Analysis参考文献 54被引用 4

一句话总结

该论文提出 GraphTER，一种通过自编码节点级变换（对随机采样的节点组应用各向同性或各向异性变换）来学习图表示的无监督方法。通过从编码特征中重建这些变换，GraphTER 捕捉了局部和全局结构不变性，在 3D 点云分割任务上实现了最先进性能（81.9% mIoU），显著优于先前的无监督方法，并接近完全监督性能。

ABSTRACT

Recent advances in Graph Convolutional Neural Networks (GCNNs) have shown their efficiency for non-Euclidean data on graphs, which often require a large amount of labeled data with high cost. It it thus critical to learn graph feature representations in an unsupervised manner in practice. To this end, we propose a novel unsupervised learning of Graph Transformation Equivariant Representations (GraphTER), aiming to capture intrinsic patterns of graph structure under both global and local transformations. Specifically, we allow to sample different groups of nodes from a graph and then transform them node-wise isotropically or anisotropically. Then, we self-train a representation encoder to capture the graph structures by reconstructing these node-wise transformations from the feature representations of the original and transformed graphs. In experiments, we apply the learned GraphTER to graphs of 3D point cloud data, and results on point cloud segmentation/classification show that GraphTER significantly outperforms state-of-the-art unsupervised approaches and pushes greatly closer towards the upper bound set by the fully supervised counterparts. The code is available at: https://github.com/gyshgx868/graph-ter.

研究动机与目标

• 解决在 3D 点云等不规则数据中监督图表示学习的高标注成本问题。
• 学习对全局和局部结构变换均不变的图表示，且无需标注数据。
• 开发一种自监督框架，通过重建节点级变换来在学习的特征中强制实现结构感知。
• 实现对下游节点级任务（如分割和分类）具有良好泛化能力的无监督预训练。
• 缩小无监督与完全监督图表示学习在 3D 几何数据上的性能差距。

提出的方法

• 该方法在全局或局部随机采样节点组，并对每组应用节点级各向同性或各向异性变换（例如平移、旋转、剪切）。
• 编码器网络学习原始图及其变换版本的联合表示，使用带跳跃连接的 EdgeConv 块以保留局部结构。
• 变换解码器从原始图和变换图的编码特征中重建所应用的节点级变换。
• 通过对比重建损失端到端训练模型，以鼓励解码器恢复每个节点组所应用的变换。
• 架构对原始图和变换图使用共享编码器，对变换重建使用共享解码器头。
• 训练期间，前四个 EdgeConv 块被冻结以保留结构特征学习，最终分类器以节点为单位作用于拼接后的特征。

实验结果

研究问题

• RQ1 通过显式建模节点级变换作为监督信号，能否提升无监督图表示学习？
• RQ2 各向同性与各向异性节点级变换如何影响所学习图表示的质量？
• RQ3 与全局采样相比，对节点进行局部采样以应用变换是否能带来更好的结构感知？
• RQ4 节点级变换的自编码框架在多大程度上能缩小无监督与完全监督图学习在 3D 点云上的性能差距？
• RQ5 通过该方法学习的变换等变表示能否泛化到下游任务（如部件分割和分类）？

主要发现

• GraphTER 在 ShapeNet 部分分割基准上实现了 81.9% 的平均交并比（mIoU），显著优于先前最先进无监督方法 MAP-VAE 13.9 个百分点。
• 该模型性能与完全监督的最先进方法（如 DGCNN 和 RS-CNN）相当，表明无监督预训练可接近完全监督性能。
• 剪切变换的 mIoU 最高（81.13%），优于平移（79.90%）和旋转（80.35%），表明复杂变换能增强结构学习。
• 与全局采样相比，局部采样节点进行变换应用使性能提升 0.14%（80.53% vs. 80.39%），凸显局部结构感知的重要性。
• 定性结果表明，与 MAP-VAE 相比，GraphTER 在细粒度部件（如飞机引擎和椅子腿）的分割上更准确。
• 消融研究证实，所提方法在不同变换类型和采样策略下均具鲁棒性，且在表示质量上保持一致提升。