[论文解读] COP: Customized Deep Model Compression via Regularized Correlation-Based Filter-Level Pruning

Wenxiao Wang, Cong Fu+3 more|arXiv (Cornell University)|Jun 25, 2019

Advanced Neural Network Applications参考文献 18被引用 6

一句话总结

COP提出了一种新颖的滤波器级剪枝方法，通过利用皮尔逊相关系数进行跨层滤波器比较来减少冗余，并引入参数量和计算成本的正则化项，实现可定制的细粒度模型压缩。该方法在多个模型架构（包括VGG、ResNet和MobileNet）上实现了最先进的压缩比和加速效果，同时保持了极小的精度损失。

ABSTRACT

Neural network compression empowers the effective yet unwieldy deep convolutional neural networks (CNN) to be deployed in resource-constrained scenarios. Most state-of-the-art approaches prune the model in filter-level according to the "importance" of filters. Despite their success, we notice they suffer from at least two of the following problems: 1) The redundancy among filters is not considered because the importance is evaluated independently. 2) Cross-layer filter comparison is unachievable since the importance is defined locally within each layer. Consequently, we must manually specify layer-wise pruning ratios. 3) They are prone to generate sub-optimal solutions because they neglect the inequality between reducing parameters and reducing computational cost. Reducing the same number of parameters in different positions in the network may reduce different computational cost. To address the above problems, we develop a novel algorithm named as COP (correlation-based pruning), which can detect the redundant filters efficiently. We enable the cross-layer filter comparison through global normalization. We add parameter-quantity and computational-cost regularization terms to the importance, which enables the users to customize the compression according to their preference (smaller or faster). Extensive experiments have shown COP outperforms the others significantly. The code is released at https://github.com/ZJULearning/COP.

研究动机与目标

• 为解决现有滤波器级剪枝方法未能考虑跨层滤波器之间冗余性的问题。
• 通过在层间归一化重要性得分，实现滤波器重要性的全局、跨层比较。
• 通过双重正则化，使用户能够根据对模型大小或推理速度的偏好来自定义压缩策略。
• 开发一种对参数量减少和计算成本减少均敏感的剪枝策略，避免次优解。

提出的方法

• COP使用皮尔逊相关系数度量滤波器间的冗余性，从而实现对跨层高度相似滤波器的检测。
• 通过最大值归一化对不同层间的滤波器重要性进行缩放，实现全局比较并保持一致的剪枝比例。
• 引入双重正则化项：一项用于参数量，另一项用于计算成本，以支持用户定义的压缩偏好。
• 重新定义重要性得分为滤波器幅值、基于相关性的冗余性以及正则化项的加权和。
• 基于组合重要性得分，采用Top-K选择策略逐层执行剪枝。
• 在微调过程中迭代应用该方法，以在剪枝后保持模型精度。

实验结果

研究问题

• RQ1 滤波器级剪枝方法能否有效检测并移除深度卷积神经网络中多层间的冗余滤波器？
• RQ2 如何对层间滤波器重要性进行归一化，以实现一致且全局的剪枝决策？
• RQ3 对参数量和计算成本的正则化项能否协同引导出更高效且可定制的剪枝策略？
• RQ4 所提出的方法在多样化的模型架构上是否在压缩比、加速效果和精度保持方面优于现有SOTA方法？

主要发现

• 在CIFAR-100上，COP实现了最高的压缩比和加速效果，优于所有基线方法，包括NS、SFP和PFGM。
• 在VGG16和ResNet32上，COP在剪枝高达80%参数的同时，保持了与原始模型相差不超过1%的精度。
• 在MobileNet上，COP的压缩和加速效果优于模型原生的深度可分离卷积压缩方法，且精度下降极小。
• 消融实验表明，皮尔逊相关系数与最大值归一化能实现最佳的冗余检测效果，显著降低了保留特征图中的滤波器相似性。
• 正则化项有效：增加γ会优先考虑参数量减少，而增加β会优先考虑计算成本减少，符合设计预期。
• 可视化分析表明，COP剪枝后的模型所含冗余特征图少于SFP和NS，表明其具有更优的冗余消除能力。