[论文解读] Deep Roto-Translation Scattering for Object Classification

Edouard Oyallon, Stéphane Mallat|arXiv (Cornell University)|Dec 30, 2014

Advanced Image and Video Retrieval Techniques参考文献 26被引用 7

一句话总结

本文提出了一种深度旋转变换散射网络，利用预定义的复小波滤波器来建模图像的空间与角度可变性，在Caltech和CIFAR数据集上实现了非学习方法中的最先进性能。该方法在CIFAR-100上达到79.9%的准确率，在Caltech-256上达到82.3%，表明几何先验可显著提升图像分类性能，而无需监督学习。

ABSTRACT

Dictionary learning algorithms or supervised deep convolution networks have considerably improved the efficiency of predefined feature representations such as SIFT. We introduce a deep scattering convolution network, with predefined wavelet filters over spatial and angular variables. This representation brings an important improvement to results previously obtained with predefined features over object image databases such as Caltech and CIFAR. The resulting accuracy is comparable to results obtained with unsupervised deep learning and dictionary based representations. This shows that refining image representations by using geometric priors is a promising direction to improve image classification and its understanding.

研究动机与目标

• 开发一种深度卷积网络，通过引入几何先验（特别是平移与旋转不变性）实现，而无需监督训练。
• 通过小波基散射变换建模尺度-角度联合交互作用，超越传统手工设计特征（如SIFT）。
• 证明精细化的几何理解可实现与无监督深度学习及字典学习方法相当的分类性能。
• 提供一种稳定且压缩的表示，避免某些深度网络中出现的不稳定性问题，同时保留关键的判别性信息。

提出的方法

• 通过在空间和角度变量上使用复小波滤波器构建深度散射网络，以建模几何图像可变性。
• 通过模值非线性与下采样相结合的卷积层级联，构建分层的平移不变表示。
• 通过引入角度滤波实现旋转变换不变性，使网络能够捕捉旋转可变性，同时不强制实现完全的旋转不变性。
• 采用正交匹配追踪进行监督特征选择，随后使用线性或高斯核SVM进行最终分类。
• 采用可分离的散射变换，线性化刚性运动与透视形变，确保对微小扰动的稳定性。
• 计算几乎完整的散射系数，实现高保真图像重建，并保留判别性结构。

实验结果

研究问题

• RQ1 具有预定义几何先验的深度散射网络是否能在物体分类任务中超越传统手工特征（如SIFT）？
• RQ2 在无学习的情况下，平移与旋转不变性在多大程度上能提升分类准确率？
• RQ3 基于散射的表示与当前最先进的无监督深度学习及字典学习方法相比，在标准基准上的表现如何？
• RQ4 在小波滤波器中整合联合尺度-角度信息是否能产生比标准SIFT类描述符更鲁棒、更具判别性的特征？
• RQ5 非学习、压缩的基于小波的架构是否能在复杂物体识别任务中实现与监督深度网络相当的性能？

主要发现

• 旋转变换散射网络在CIFAR-100上达到79.9%的准确率，优于所有先前的非学习方法，并与最佳无监督字典学习方法持平。
• 在Caltech-256上，该方法取得82.3%的准确率，略低于最佳无监督字典学习方法（如RFL的83.1%），但显著高于SIFT和随机滤波基线。
• 在CIFAR-10上，该方法达到56.8%的准确率，优于RFL（54.2%）和NOMP（60.8%），且与无监督深度学习基线相比表现强劲。
• 散射表示始终优于SIFT类特征和随机权重深度网络，在CIFAR-100上较随机滤波提升17.3%。
• 该方法在性能上可与监督深度网络（如在ImageNet上微调的AlexNet）相媲美，表明几何先验捕捉了对分类有用的通用图像特性。
• 该架构对形变和加性噪声具有稳定性，避免了某些深度网络中观察到的不稳定性问题，信息损失仅发生在最终分类阶段。