[论文解读] Learning Fine-grained Features via a CNN Tree for Large-scale Classification

Zhenhua Wang, Xingxing Wang+1 more|arXiv (Cornell University)|Nov 14, 2015

Advanced Neural Network Applications参考文献 44被引用 7

一句话总结

本文提出一种CNN树框架，通过在逐步细化的类别子集上训练专用卷积神经网络（CNN），提升大规模图像分类中的特征可分性。通过递归识别被基础CNN误分类的混淆集（即混淆类别），并在这些子集上训练专用CNN，该方法通过细粒度特征学习提升分类准确率，在ILSVRC 2015数据集上，对AlexNet和GoogleNet均实现了显著的错误率降低。

ABSTRACT

We propose a novel approach to enhance the discriminability of Convolutional Neural Networks (CNN). The key idea is to build a tree structure that could progressively learn fine-grained features to distinguish a subset of classes, by learning features only among these classes. Such features are expected to be more discriminative, compared to features learned for all the classes. We develop a new algorithm to effectively learn the tree structure from a large number of classes. Experiments on large-scale image classification tasks demonstrate that our method could boost the performance of a given basic CNN model. Our method is quite general, hence it can potentially be used in combination with many other deep learning models.

研究动机与目标

• 解决标准CNN因在所有类别上共享特征学习而难以捕捉类别特定判别性特征的局限性。
• 在大规模数据集中为每个类别训练专用模型时，降低计算和内存开销。
• 构建一种可扩展的分层树结构，将具有重叠混淆模式的类别分组，以实现高效、针对性的特征学习。
• 通过在混淆子集上训练专用CNN来优化误分类样本的预测，从而提升分类准确率。
• 在AlexNet和GoogleNet等不同主干CNN架构上验证该方法的泛化能力。

提出的方法

• 通过基于基础CNN模型估计的混淆集，递归地对类别进行划分，构建CNN树。
• 对于树中的每个节点，仅针对与该节点关联的类别集合训练专用CNN模型，专注于区分这些类别。
• 使用启发式算法将重叠的混淆集合并为更大的超集，以减少专用模型数量，同时保持准确率。
• 采用深度优先与广度优先相结合的树生长策略，从根节点开始，根据混淆集估计和合并启发式规则扩展节点。
• 限制合并后混淆集的大小以控制复杂度，通过适度牺牲准确率换取显著的效率提升。
• 对专用CNN模型进行端到端微调，同时支持固定早期层仅微调最后全连接层的消融实验。

实验结果

研究问题

• RQ1 在由混淆模式定义的类别子集上训练专用CNN，是否能相比单个共享CNN提升分类准确率？
• RQ2 如何在大规模多分类任务中最小化专用CNN模型的数量，同时保持高性能？
• RQ3 通过树结构进行分层、渐进的细粒度特征学习，是否比全局特征学习具有更好的可分性？
• RQ4 所提方法在ILSVRC 2015等具有挑战性的大规模数据集上，能将错误率降低到何种程度？
• RQ5 在准确率和推理效率方面，CNN树与模型平均及其他集成策略相比表现如何？

主要发现

• 在仅微调最后全连接层（不进行特征学习）的情况下，CNN树方法使GoogleNet的top-1错误率降低0.59%，top-5错误率降低0.25%，证明了专用模型中端到端特征学习的价值。
• 对于AlexNet，当仅在固定特征上使用逻辑回归时，该方法使top-1错误率降低0.13%，但top-5错误率上升0.1%，证实特征学习对性能提升至关重要。
• CNN树在ILSVRC 2015上实现了显著的错误率降低，随着添加更多专用CNN模型，top-1错误率持续下降，如图3所示。
• 该方法提升了误分类样本的预测准确率：图4显示，CNN树修正了基础模型的预测错误，绿色标签表示被纠正的（此前错误的）预测。
• 训练CNN树分别需要约150万次迭代（AlexNet）和480万次迭代（GoogleNet），分别为基础模型的5倍和2倍，使用12块GPU训练约1.5至2天完成。
• 由于需要在树中多个CNN上评估每个样本，推理时间增加约2倍（AlexNet）和1倍（GoogleNet），但准确率的提升使其推理成本具有合理性。