[论文解读] Interpreting Convolutional Neural Networks Through Compression

Reza Abbasi-Asl, Bin Yu|arXiv (Cornell University)|Nov 7, 2017

Explainable Artificial Intelligence (XAI)参考文献 8被引用 15

一句话总结

本文提出一种基于分类准确率降低（CAR）的滤波器剪枝方法，通过结构压缩来解释卷积神经网络（CNNs）。通过迭代剪枝对准确率影响最小的滤波器，该方法揭示出被剪枝的滤波器通常在视觉上具有冗余性，例如颜色选择性滤波器，而最重要的滤波器则是形状选择性的。其主要贡献在于提出了一种类别级CAR指数，将滤波器重要性与特定图像类别关联，从而实现可解释的、人类可读的滤波器功能说明。

ABSTRACT

Convolutional neural networks (CNNs) achieve state-of-the-art performance in a wide variety of tasks in computer vision. However, interpreting CNNs still remains a challenge. This is mainly due to the large number of parameters in these networks. Here, we investigate the role of compression and particularly pruning filters in the interpretation of CNNs. We exploit our recently-proposed greedy structural compression scheme that prunes filters in a trained CNN. In our compression, the filter importance index is defined as the classification accuracy reduction (CAR) of the network after pruning that filter. The filters are then iteratively pruned based on the CAR index. We demonstrate the interpretability of CAR-compressed CNNs by showing that our algorithm prunes filters with visually redundant pattern selectivity. Specifically, we show the importance of shape-selective filters for object recognition, as opposed to color-selective filters. Out of top 20 CAR-pruned filters in AlexNet, 17 of them in the first layer and 14 of them in the second layer are color-selective filters. Finally, we introduce a variant of our CAR importance index that quantifies the importance of each image class to each CNN filter. We show that the most and the least important class labels present a meaningful interpretation of each filter that is consistent with the visualized pattern selectivity of that filter.

研究动机与目标

• 为解决由于参数数量庞大而导致复杂CNN难以解释的挑战。
• 开发一种结构压缩方法，在保持性能的同时提升可解释性。
• 通过测量其对准确率的影响，识别出对分类贡献最大的滤波器。
• 提出一种基于类别的重要性指数（CAR^c），将滤波器功能与特定图像类别关联。
• 证明基于CAR的滤波器剪枝能够揭示视觉冗余且功能有意义的滤波器。

提出的方法

• 提出一种基于贪心策略的结构压缩方案，根据滤波器移除后的分类准确率降低（CAR）来剪枝滤波器。
• 将滤波器重要性定义为移除某滤波器后top-1准确率的下降值，剪枝顺序按影响最小到最大进行。
• 采用迭代剪枝策略，并在每一步剪枝后进行微调以维持性能。
• 引入一种变体CAR^c(i,L)，用于衡量在层L中滤波器i被剪枝时，对各类别c的准确率降低程度。
• 通过最高激活图像块可视化滤波器的模式选择性，并将其与高/低CAR^c类别的图像模式相关联。
• 将该方法应用于AlexNet和LeNet，重点关注早期和中期卷积层以增强可解释性。

实验结果

研究问题

• RQ1 CNN中的哪些滤波器在功能上是冗余的，能否通过压缩系统性地识别？
• RQ2 基于CAR的滤波器剪枝是否能产生可解释的网络结构，反映出视觉模式的选择性？
• RQ3 滤波器的重要性能否通过其对特定图像类别的依赖关系进行有意义的解释？
• RQ4 基于类别的CAR^c指数与滤波器的视觉模式选择性之间是否存在相关性？
• RQ5 基于CAR的压缩在多大程度上能在保持分类准确率的同时实现人类可解释性？

主要发现

• 在AlexNet第一层中，前20个CAR剪枝滤波器中有17个为颜色选择性，表明颜色选择性滤波器在功能上是冗余的。
• 在AlexNet第二层中，前20个CAR剪枝滤波器中有14个为颜色选择性，进一步证实此类滤波器对识别任务并非关键。
• 通过CAR识别出的最重要滤波器为形状选择性，例如检测椭圆或线性结构的滤波器，这与物体识别需求一致。
• 对于AlexNet第5层的滤波器，CAR^c值最高的类别（如“陡拱桥”、“汤碗”）在视觉上与滤波器激活的模式相匹配，证实了类别依赖性与视觉选择性之间的一致性。
• 基于类别的CAR^c指数成功识别出每个滤波器最依赖和最不依赖的图像类别，为滤波器功能提供了口语化、可解释的说明。
• 即使从AlexNet第二层剪枝掉102个滤波器（从256个中），ImageNet中仍有37%至49%的类别保持准确率在原始网络的3%以内。