[论文解读] Jointly Learning Non-negative Projection and Dictionary with Discriminative Graph Constraints for Classification

Weiyang Liu, Zhiding Yu+3 more|arXiv (Cornell University)|Nov 14, 2015

Advanced Image and Video Retrieval Techniques参考文献 46被引用 5

一句话总结

该论文提出了一种联合非负投影与字典学习（JNPDL）框架，通过图约束联合优化非负特征投影与判别性字典学习，以提升分类性能。通过将基于部分的特征提取与标签感知正则化相结合，JNPDL在图像和图像集分类基准上实现了最先进性能，在Honda/UCSD、CMU MoBo和YouTube Celebrities数据集上的准确率分别达到100%、97.1%和77.4%。

ABSTRACT

Sparse coding with dictionary learning (DL) has shown excellent classification performance. Despite the considerable number of existing works, how to obtain features on top of which dictionaries can be better learned remains an open and interesting question. Many current prevailing DL methods directly adopt well-performing crafted features. While such strategy may empirically work well, it ignores certain intrinsic relationship between dictionaries and features. We propose a framework where features and dictionaries are jointly learned and optimized. The framework, named joint non-negative projection and dictionary learning (JNPDL), enables interaction between the input features and the dictionaries. The non-negative projection leads to discriminative parts-based object features while DL seeks a more suitable representation. Discriminative graph constraints are further imposed to simultaneously maximize intra-class compactness and inter-class separability. Experiments on both image and image set classification show the excellent performance of JNPDL by outperforming several state-of-the-art approaches.

研究动机与目标

• 为解决现有字典学习方法将特征与字典独立处理、忽略其相互依赖关系的局限性。
• 通过联合优化特征投影与字典学习，而非依赖手工设计特征，以提升分类性能。
• 通过图约束引入标签信息，最大化类内紧凑性与类间可分性，增强判别能力。
• 为非负投影学习在联合特征-字典学习背景下的优化算法提供收敛性保证。
• 在图像和图像集分类任务中，验证联合学习框架的优越性。

提出的方法

• 该框架采用基于投影的自表示（PSR）模型：Y ≈ M P Y，其中P为非负投影矩阵，M为基矩阵，实现基于部分的特征学习。
• 通过具有收敛性保证的乘法更新规则学习非负投影，确保特征表示具有加法性与部分性。
• 对投影后的特征与编码系数同时施加判别性图约束，强制实现类内紧凑性与类间可分性。
• 引入判别性重建约束，确保编码系数仅能良好表示同类别样本，提升鲁棒性。
• 优化过程交替更新投影矩阵P、字典M与编码系数，所有组件均受非负性与图正则化约束。
• 将方法形式化为统一的优化问题，联合最小化重建误差、基于图的正则化项与非负性约束。

实验结果

研究问题

• RQ1 与顺序或独立优化相比，联合学习特征投影与字典学习是否能提升分类性能？
• RQ2 引入非负投影是否能增强所学习特征与字典的判别性？
• RQ3 在联合特征-字典学习背景下，图约束在提升类内紧凑性与类间可分性方面的有效性如何？
• RQ4 所提出方法是否能在图像与图像集分类基准上超越现有最先进方法？
• RQ5 在训练样本有限或存在噪声数据（如视频识别）的情况下，联合优化框架是否仍具有效性？

主要发现

• 在Honda/UCSD数据集上，JNPDL实现100%识别准确率，优于次优方法SFDL的100%与LMKML的98.5%。
• 在CMU MoBo数据集上，JNPDL达到97.1%准确率，超过SFDL（96.7%）与LMKML（96.3%）。
• 在YouTube Celebrities（YTC）数据集上，JNPDL实现77.4%准确率，优于SFDL（76.7%）与LMKML（78.2%）的最佳折中结果。
• 即使在小规模训练集下，方法仍保持优异性能，如在不同视频帧数下的消融实验所示。
• JNPDL的计算时间约为每查询5秒，与最先进方法相当，表明其具备实际效率。
• 消融实验确认，结合图约束的联合学习显著优于无此类约束的基线方法。