[论文解读] DCFNet: Deep Neural Network with Decomposed Convolutional Filters

Qiang Qiu, Xiuyuan Cheng+2 more|arXiv (Cornell University)|Feb 12, 2018

Advanced Neural Network Applications参考文献 24被引用 20

一句话总结

DCFNet 提出了一种深度神经网络，通过使用预定义基函数（如傅里叶-贝塞尔，FB 基）对卷积核进行截断展开，仅学习展开系数，从而实现对卷积核的分解。该方法显著减少了模型参数量和计算量，同时在图像分类和去噪任务中保持了高精度，并在输入形变下具备理论上的稳定性保障。

ABSTRACT

Filters in a Convolutional Neural Network (CNN) contain model parameters learned from enormous amounts of data. In this paper, we suggest to decompose convolutional filters in CNN as a truncated expansion with pre-fixed bases, namely the Decomposed Convolutional Filters network (DCFNet), where the expansion coefficients remain learned from data. Such a structure not only reduces the number of trainable parameters and computation, but also imposes filter regularity by bases truncation. Through extensive experiments, we consistently observe that DCFNet maintains accuracy for image classification tasks with a significant reduction of model parameters, particularly with Fourier-Bessel (FB) bases, and even with random bases. Theoretically, we analyze the representation stability of DCFNet with respect to input variations, and prove representation stability under generic assumptions on the expansion coefficients. The analysis is consistent with the empirical observations.

研究动机与目标

• 通过使用预定义的函数基对卷积核进行结构化设计，以降低深度卷积神经网络的模型复杂度。
• 通过截断基展开对滤波器施加正则化，减少冗余并提升稳定性。
• 在显著减少可训练参数数量的同时，保持高分类精度。
• 对表示在输入形变下的鲁棒性进行理论分析与实验验证。
• 探索 DCFNet 与多种基类型（包括 FB 基、傅里叶基、小波基、随机基和主成分分析基）的兼容性。

提出的方法

• 将每个卷积核表示为 K 个预定义的空间基函数（如傅里叶-贝塞尔基）的线性组合，其中系数通过数据学习得到。
• 使用 1×1 卷积层实现学习到的展开系数，从而以低秩参数化方式有效替代标准卷积核。
• 采用强调低频分量的基函数进行截断展开（如 FB 基），以抑制高频噪声和不稳定性。
• 通过基函数截断约束滤波器结构，实现正则化，从而减少参数数量和冗余。
• 通过理论分析证明，在展开系数有界的假设下，表示在输入形变下具有稳定性。
• 在 CIFAR-10、SVHN 和 LFW 等标准基准数据集上，对图像分类和去噪任务进行性能验证。

实验结果

研究问题

• RQ1 使用预定义基函数对卷积核进行分解，是否能显著减少模型参数量，同时不牺牲分类精度？
• RQ2 基函数的选择（如傅里叶-贝塞尔基、随机基、主成分分析基）如何影响 DCFNet 的性能与稳定性？
• RQ3 通过基函数截断实现的滤波器正则化，在多大程度上提升了对输入变化（如形变或噪声）的鲁棒性？
• RQ4 在展开系数的通用假设下，DCFNet 表示的理论稳定性是否可以被证明？
• RQ5 在非常深的网络架构和大规模数据集上，DCFNet 在复杂任务（如人脸识别）中的表现如何？

主要发现

• 使用傅里叶-贝塞尔（FB）基的 DCFNet 在保持或超越标准 CNN 分类精度的同时，将参数量减少了高达 67%（例如，在人脸识别任务中，VGG-16 的参数量从 21.26M 减少至 7.01M）。
• 在 LFW 基准上，使用 FB 基的 DCFNet 仅用原始 CNN 参数量的 1/3，即达到 97.32% 的人脸识别准确率（原始 CNN 为 97.65%）。
• 基于 FB 基的 DCFNet 降低了对高频分量的敏感性，而高频分量在形变下易不稳定，且在识别任务中通常不具关键作用。
• 理论分析证明，DCF-FB 表示在输入形变下具有稳定性，其扰动幅度受展开系数有界性的约束，且与形变大小成正比。
• 即使使用随机基，DCFNet 仍能保持高精度，表明其优势源于分解结构本身，而非特定基函数的性质。
• 在图像去噪任务中，DCF-FB 的性能优于标准 CNN 及其他基函数选择，证实了其对高频噪声的鲁棒性。