[论文解读] Learning from Few Samples: A Survey
本综述分析了计算机视觉中的小样本元学习技术，提出一个分类法并在 Omniglot 和 Mini-Imagenet 基准上比较方法。
Deep neural networks have been able to outperform humans in some cases like image recognition and image classification. However, with the emergence of various novel categories, the ability to continuously widen the learning capability of such networks from limited samples, still remains a challenge. Techniques like Meta-Learning and/or few-shot learning showed promising results, where they can learn or generalize to a novel category/task based on prior knowledge. In this paper, we perform a study of the existing few-shot meta-learning techniques in the computer vision domain based on their method and evaluation metrics. We provide a taxonomy for the techniques and categorize them as data-augmentation, embedding, optimization and semantics based learning for few-shot, one-shot and zero-shot settings. We then describe the seminal work done in each category and discuss their approach towards solving the predicament of learning from few samples. Lastly we provide a comparison of these techniques on the commonly used benchmark datasets: Omniglot, and MiniImagenet, along with a discussion towards the future direction of improving the performance of these techniques towards the final goal of outperforming humans.
研究动机与目标
- 研究学习少量样本的动机并强调对新类别标注数据有限的挑战。
- 提供横跨四类的少样本元学习方法的分类法。
- 在每个类别中总结奠基性工作及其策略。
- 在标准计算机视觉基准上比较技术的性能并讨论未来方向。
提出的方法
- 将少样本元学习技术分成数据增强、嵌入、优化和基于语义的组别。
- 描述每个类别中的代表性奠基性工作及其核心思想。
- 解释这些技术如何解决对新任务少量标注样本的学习问题。
- 使用公用基准数据集 Omniglot 和 Mini-Imagenet 比较方法。
- 讨论与迁移学习和自监督学习的联系，作为互补的方法。
实验结果
研究问题
- RQ1计算机视觉中少样本元学习技术的主要类别及其核心思想是什么？
- RQ2数据增强、嵌入、优化和基于语义的方法在像 Omniglot 和 Mini-Imagenet 这样的标准基准上表现如何？
- RQ3当前方法的局限性以及未来在提升少样本学习性能方面的潜在方向是什么？
主要发现
- 本文提供了四类分类：数据增强、嵌入、优化和基于语义的学习，适用于少样本、一次样本和零样本设置。
- 它回顾了每一类中的奠基性工作及其从有限样本中学习的方法。
- 它在 Omniglot 和 Mini-Imagenet 数据集上比较了技术，讨论相对强项和局限性。
- 该综述讨论了未来朝着在少样本学习任务中超越人类表现的方向。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。