[论文解读] Low-shot visual object recognition.

Bharath Hariharan, Ross Girshick|arXiv (Cornell University)|Jun 9, 2016

Domain Adaptation and Few-Shot Learning被引用 36

一句话总结

本文提出了一种新的低样本视觉物体识别评估协议，允许模型在分类前先学习特征表示。通过引入表示正则化技术，该方法在保持准确率的同时，将ImageNet上的训练数据需求减少了2倍，显著提升了深度学习中的少样本泛化能力。

ABSTRACT

Low-shot visual learning - the ability to recognize novel object categories from very few examples - is a hallmark of human visual intelligence. Existing machine learning approaches fail to generalize in the same way. To make progress on this foundational problem, we present a novel protocol to evaluate low-shot learning on complex images where the learner is permitted to first build a feature representation. Then, we propose and evaluate representation regularization techniques that improve the effectiveness of convolutional networks at the task of low-shot learning, leading to a 2x reduction in the amount of training data required at equal accuracy rates on the challenging ImageNet dataset.

研究动机与目标

• 解决低样本视觉物体识别的挑战，即模型必须从极少数样本中对新类别进行分类。
• 克服现有机器学习方法在少样本场景下无法像人类一样泛化的局限性。
• 开发一种新的评估协议，使模型能够在分类前先学习特征表示，更真实地反映现实世界中的少样本学习。
• 通过新颖的表示正则化技术，提升卷积神经网络在低样本设置下的泛化性能。
• 证明正则化可使ImageNet数据集上相同准确率下的数据需求减少2倍。

提出的方法

• 提出一种新的评估协议，即模型在分类查询图像前，先从支持集中学习特征表示。
• 引入表示正则化技术，以提升少样本设置下所学特征的质量与泛化能力。
• 在特征学习阶段应用正则化，以从极少量数据中鼓励学习到更具区分性与鲁棒性的表示。
• 使用新协议与正则化训练卷积神经网络，优化零样本与少样本泛化性能。
• 在ImageNet数据集上使用标准少样本基准测试评估性能，以衡量准确率与数据效率。
• 在所有实验中使用相同的主干网络架构，以隔离所提正则化技术的影响。

实验结果

研究问题

• RQ1 一种允许先进行特征表示预训练的协议，是否能提升视觉识别中的低样本泛化能力？
• RQ2 表示正则化技术在ImageNet上的少样本学习中，对减少数据需求的效率如何？
• RQ3 在使用该方法时，深度网络在仅有少量样本的情况下，对新类别的一般化能力能达到何种程度？
• RQ4 在低样本条件下，该方法是否在数据效率与准确率方面优于现有方法？

主要发现

• 所提出的评估协议使模型能够在分类前学习到更有效的特征表示，从而提升少样本性能。
• 表示正则化显著增强了从少量样本中学习到的特征的判别能力。
• 该方法在ImageNet上实现了训练数据需求减少2倍，同时保持了相同的准确率水平。
• 与标准少样本学习基线相比，该方法在新物体类别上的泛化能力得到显著提升。
• 结果表明，结合正则化的表示学习对于在深度网络中实现类人般的少样本泛化至关重要。