[论文解读] Learning Stable Group Invariant Representations with Convolutional Networks

Joan Bruna, Arthur Szlam+1 more|arXiv (Cornell University)|Jan 16, 2013

Speech and Audio Processing参考文献 2被引用 19

一句话总结

本文提出，通过在各层间对变换群进行分解，深度卷积网络本质上会学习到稳定、局部的群不变性，其中池化操作引发不变性，而卷积通过群作用的交换性保持不变性。其主要贡献是建立了一个理论框架，将网络架构与复杂、可变形变换下的稳定不变性联系起来。

ABSTRACT

Transformation groups, such as translations or rotations, effectively express part of the variability observed in many recognition problems. The group structure enables the construction of invariant signal representations with appealing mathematical properties, where convolutions, together with pooling operators, bring stability to additive and geometric perturbations of the input. Whereas physical transformation groups are ubiquitous in image and audio applications, they do not account for all the variability of complex signal classes. We show that the invariance properties built by deep convolutional networks can be cast as a form of stable group invariance. The network wiring architecture determines the invariance group, while the trainable filter coefficients characterize the group action. We give explanatory examples which illustrate how the network architecture controls the resulting invariance group. We also explore the principle by which additional convolutional layers induce a group factorization enabling more abstract, powerful invariant representations.

研究动机与目标

• 形式化深度卷积网络与几何和加性扰动下稳定群不变性之间的联系。
• 解释卷积神经网络中的权重重用与分层架构为何能导致对复杂变换群的鲁棒表示不变性。
• 基于群作用与形变度量，为卷积神经网络中的局部不变性建立理论基础。
• 提出一种基于数据中潜在对称群的群发现与结构化滤波器学习框架。

提出的方法

• 使用利普希茨连续性条件（公式1）形式化稳定群不变性，该条件通过相对于不变性群的距离来限制形变下的表征变化。
• 将卷积网络建模为线性滤波（F_i）、逐点非线性（M）与局部池化（P_i）的级联层，其中池化通过抑制群作用来诱导局部不变性。
• 证明当群在滤波系数空间中作为平移作用时，卷积与群作用可交换，从而实现在层间的不变性传播。
• 引入通过半直积（G = G₁ ⋊ G₂ ⋊ ... ⋊ Gₛ）实现的群分解，其中每个群因子与一组特定层相关联，并作用于特定的表示维度。
• 通过协方差算子的特征向量发现数据中的潜在群结构，尤其适用于数据在群上均匀分布的情况。
• 建议通过强制实现群不变的滤波器组（例如通过 R_θ h₀ 实现旋转对称滤波器）来实现结构化滤波器学习，以正则化网络学习。

实验结果

研究问题

• RQ1 深度卷积网络如何实现对复杂、可变形变换（超越简单平移）的稳定不变性？
• RQ2 卷积神经网络的架构（滤波、非线性、池化）与群作用不变性之间的数学关系是什么？
• RQ3 是否可以使用层间群分解系统地分解卷积神经网络的不变性特性？
• RQ4 在存在形变的情况下，能否仅从数据中发现数据集的潜在变换群？
• RQ5 在多大程度上可以将群结构施加于滤波器组，以提升泛化能力与不变性？

主要发现

• 卷积神经网络中的局部不变性源于池化算子，当变换尺度相对于池化尺度较小时，池化会抑制群作用。
• 卷积通过在滤波系数空间中作为平移作用的群作用保持不变性，因为卷积与群作用可交换。
• 网络架构自然实现了不变性群的半直积分解，每个群因子与一层或一组层相关联。
• 当表征满足利普希茨条件（公式1）时实现稳定不变性，该条件通过相对于不变性群的距离来限制形变下的变化。
• 通过最小化变换后数据幅度的方差，可实现群发现，从而恢复对群作用进行对角化的特征向量。
• 可通过学习尊重群对称性的结构化滤波器组（例如通过 R_θ h₀ 实现的旋转不变性）来强制实现不变性并提升泛化能力。