[论文解读] Generalizing the Convolution Operator to extend CNNs to Irregular Domains

J Vialatte, Vincent Gripon+1 more|arXiv (Cornell University)|Jun 3, 2016

Domain Adaptation and Few-Shot Learning参考文献 14被引用 21

一句话总结

本文提出了一种广义卷积算子，通过基于图的结构在保持标准卷积的核心特性（线性性、局部性、权重重用）的前提下，将CNN扩展至非规则域。该方法在扭曲的MNIST数据集上性能优于MLP，同时在规则网格上精确复现了标准卷积。

ABSTRACT

Convolutional Neural Networks (CNNs) have become the state-of-the-art in supervised learning vision tasks. Their convolutional filters are of paramount importance for they allow to learn patterns while disregarding their locations in input images. When facing highly irregular domains, generalized convolutional operators based on an underlying graph structure have been proposed. However, these operators do not exactly match standard ones on grid graphs, and introduce unwanted additional invariance (e.g. with regards to rotations). We propose a novel approach to generalize CNNs to irregular domains using weight sharing and graph-based operators. Using experiments, we show that these models resemble CNNs on regular domains and offer better performance than multilayer perceptrons on distorded ones.

研究动机与目标

• 解决标准CNN在处理物联网传感器读数或非均匀空间信号等非规则结构化数据时的局限性。
• 克服基于谱图卷积的缺点，包括局部性丧失以及在非规则图上出现的非预期旋转不变性。
• 开发一种卷积算子，保持CNN的不变性与高效性，同时适用于任意图嵌入数据。
• 确保广义算子在规则网格上退化为标准卷积，从而实现与现有CNN架构的无缝集成。
• 证明所提方法在非规则域上优于多层感知机，且无需预定义流形或复杂坐标系。

提出的方法

• 定义一个图结构输入域，其中每个节点对应于嵌入欧氏空间中的一个数据点，边表示邻域关系。
• 利用依赖于嵌入空间中邻近节点相对位置的核权重分配图，构建局部化且权重重用的卷积。
• 将广义卷积表述为对邻近节点的加权和，其中权重由作用于节点间距离的可学习核函数确定。
• 使用ReLU激活、池化核大小为$2\mu$的最大池化层以及带有Softmax输出的全连接层，将广义卷积集成至类似CNN的架构中。
• 使用带有Nesterov动量和L2正则化的随机梯度下降进行训练，确保参数量与基线MLP一致。
• 通过Hadamard积和矩阵转置推导广义卷积层的反向传播规则，包括对特征、权重和偏置的梯度。

实验结果

研究问题

• RQ1 能否在保持标准CNN核心特性（局部性、线性性、权重重用）的前提下，将卷积算子推广至非规则域？
• RQ2 广义CNN在非规则结构化数据（如扭曲的MNIST图像）上的性能与标准MLP相比如何？
• RQ3 所提算子在规则网格上是否退化为标准卷积，从而确保与现有CNN模型的向后兼容性？
• RQ4 该方法在多大程度上保持了空间不变性，并避免了谱图方法中常见的非预期对称性（如旋转不变性）？
• RQ5 广义卷积能否有效应用于具有任意底层图结构的真实世界数据（如物联网传感器网络或脑成像数据）？

主要发现

• 在参数数量相同的条件下，广义CNN在高扭曲程度（高达200μ）的扭曲MNIST数据集上，误差率低于MLP。
• 在未扭曲（规则）MNIST上，广义CNN的性能与使用零填充的标准CNN相当，证实其在规则网格上等价于经典卷积。
• 该模型保持了局部性，避免了谱图卷积方法在非规则图上表现出的非局部化行为。
• 所提算子实现了跨不同图结构的权重重用，使得训练好的滤波器可泛化至同一空间中嵌入的不同输入，而无需依赖底层图拓扑。
• 在对域扭曲的不变性方面，该方法优于基于谱的图CNN，因其未引入虚假的旋转对称性。
• 通过使用涉及Hadamard积和矩阵转置的闭式梯度表达式，广义卷积层的反向传播可高效计算。