[论文解读] Deep Boosting: Joint Feature Selection and Analysis Dictionary Learning in Hierarchy

Zhanglin Peng, Ya Li+2 more|arXiv (Cornell University)|Aug 8, 2015

Advanced Image and Video Retrieval Techniques参考文献 27被引用 3

一句话总结

本文提出 Deep Boosting，一种深度学习框架，通过分层方式联合执行特征选择与分析字典学习，用于图像分类。该方法通过迭代优化分类误差与图像重建误差（采用 AdaBoost 和梯度下降），构建出深层、紧凑且具有判别性的表征，从而在目标识别与面部年龄估计基准测试中取得最先进性能，准确率最高提升 2.4%。

ABSTRACT

This work investigates how the traditional image classification pipelines can be extended into a deep architecture, inspired by recent successes of deep neural networks. We propose a deep boosting framework based on layer-by-layer joint feature boosting and dictionary learning. In each layer, we construct a dictionary of filters by combining the filters from the lower layer, and iteratively optimize the image representation with a joint discriminative-generative formulation, i.e. minimization of empirical classification error plus regularization of analysis image generation over training images. For optimization, we perform two iterating steps: i) to minimize the classification error, select the most discriminative features using the gentle adaboost algorithm; ii) according to the feature selection, update the filters to minimize the regularization on analysis image representation using the gradient descent method. Once the optimization is converged, we learn the higher layer representation in the same way. Our model delivers several distinct advantages. First, our layer-wise optimization provides the potential to build very deep architectures. Second, the generated image representation is compact and meaningful. In several visual recognition tasks, our framework outperforms existing state-of-the-art approaches.

研究动机与目标

• 将传统图像分类流程扩展为受深度神经网络启发的深度架构。
• 解决 BoW 等浅层模型的局限性，如空间信息丢失与非判别性字典学习问题。
• 开发一种联合优化框架，使每一层同时执行特征增强与分析字典学习。
• 通过跨层的组合滤波器构建实现分层表征学习。
• 通过紧凑、有意义且具有判别性的特征表征，提升视觉识别任务的性能。

提出的方法

• 该框架采用逐层优化策略，每一层联合最小化经验分类误差与基于分析的图像重建正则化项。
• 在每一层中，使用温和 AdaBoost 算法执行特征选择，以识别最具判别性的特征。
• 通过梯度下降计算滤波器更新，以最小化训练图像在分析字典下的重建误差。
• 收敛后，将所选滤波器组合并用作下一层的输入，以构建更深层的表征。
• 在字典学习过程中应用模型压缩，以降低特征空间复杂度与训练时间。
• 该方法集成空间金字塔匹配以保留空间上下文信息，并采用类似卷积的编码方式实现特征变换。

实验结果

研究问题

• RQ1 能否通过联合特征选择与字典学习，有效将传统图像分类流程扩展为深度架构？
• RQ2 在分层表征学习框架中，如何联合优化判别性特征与重建保真度？
• RQ3 跨层组合滤波器学习对识别性能有何影响？
• RQ4 所提方法能否在目标识别与面部年龄估计任务中均超越最先进方法？
• RQ5 提升特征紧凑性与可解释性的关键机制是什么？

主要发现

• 在 LHI-Animal-Faces 数据集上，该方法实现了 81.5% 的分类准确率，较第二好的方法提升 2.4%。
• 在 MORPH-II 数据集的面部年龄估计任务中，该方法实现了 5.61 年的 MAE，优于最先进方法（IIS-LLD 为 5.67 年，AGES 为 6.61 年）。
• 该方法在多个基准测试中表现优异，涵盖目标识别与年龄估计任务，准确率与误差均持续提升。
• 累积得分分析表明，该方法在年龄估计中所有误差水平（0 至 10 年）均优于其他方法。
• 滤波器的分层组合使模型能够学习到紧凑、有意义且高度判别性的图像表征。
• 分类与重建项的联合优化显著提升了视觉识别任务中的泛化能力与鲁棒性。