[论文解读] Learning to Convolve: A Generalized Weight-Tying Approach
本文提出了一种可学习的、广义的权重共享方法，用于组卷积神经网络，通过基分解学习滤波器变换——特别是旋转——避免了手工设计的插值。通过将滤波器表示为学习基中的系数，并旋转基而非滤波器本身，该方法实现了更优的等变性与对输入旋转的鲁棒性，在 MNIST 和 CIFAR-10 上的表现优于双线性和基于傅里叶的插值方法，且准确率具有竞争力。
Recent work (Cohen & Welling, 2016) has shown that generalizations of convolutions, based on group theory, provide powerful inductive biases for learning. In these generalizations, filters are not only translated but can also be rotated, flipped, etc. However, coming up with exact models of how to rotate a 3 x 3 filter on a square pixel-grid is difficult. In this paper, we learn how to transform filters for use in the group convolution, focussing on roto-translation. For this, we learn a filter basis and all rotated versions of that filter basis. Filters are then encoded by a set of rotation invariant coefficients. To rotate a filter, we switch the basis. We demonstrate we can produce feature maps with low sensitivity to input rotations, while achieving high performance on MNIST and CIFAR-10.
研究动机与目标
- 为解决现有旋转平移组 CNN 中因对连续变换进行事后离散化而导致的非等变性问题。
- 开发一种广义的权重共享机制，学习如何旋转滤波器，而非依赖固定的插值规则。
- 通过学习旋转不变的滤波器表示，提升组 CNN 在输入旋转下的鲁棒性与性能。
- 证明可学习的滤波器变换可实现优于手工插值方法的等变性与分类准确率。
提出的方法
- 滤波器表示为学习基滤波器的线性组合，其系数在旋转下保持不变。
- 通过切换到学习基的旋转版本来实现滤波器的旋转，同时保持系数向量不变。
- 基及其旋转变体端到端联合训练，使网络能够学习离散旋转下的最优插值。
- 该方法通过允许非置换型变换（如插值旋转）扩展了标准权重共享。
- 该框架在卷积内积下保证了酉变换，从而确保了等变性。
- 该方法应用于离散旋转平移群，实验在 MNIST 和 CIFAR-10 上进行。
实验结果
研究问题
- RQ1在旋转平移组 CNN 中，可学习的滤波器基表示是否能实现优于手工插值的等变性？
- RQ2学习滤波器变换是否能提升对输入旋转的鲁棒性，相比双线性或基于傅里叶的插值？
- RQ3一种学习基旋转的广义权重共享机制，是否能在准确率与稳定性上超越固定变换规则？
- RQ4非酉变换（如双线性插值）对组 CNN 中的等变性有何影响？
- RQ5所提出的方法是否能在显著降低对输入旋转敏感性的同时，保持高性能？
主要发现
- 所提方法的等变性误差低于双线性、高斯及基于傅里叶的插值方法，尤其在深层网络中表现更优。
- 基学习的 Partial 方法在等变性方面优于 Full 方法，表明 Full 基中的微小非对称性会随深度加剧性能下降。
- 该模型在 CIFAR-10 上实现了具有竞争力的分类准确率，与同类容量的基线架构相当或更优。
- 该方法在输入旋转扰动下表现出显著提升的鲁棒性，对旋转扰动的敏感性低于现有方法。
- 研究发现，非酉滤波器变换（如双线性插值）会破坏等变性，从而解释了以往工作中表现不佳的原因。
- 结果证实，学习变换基可带来更优的表示稳定性与对对称性保持的数据增强下的泛化能力。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。