[论文解读] Concept Learners for Few-Shot Learning

Kaidi Cao, Maria Brbić+1 more|arXiv (Cornell University)|Jul 14, 2020

Domain Adaptation and Few-Shot Learning参考文献 51被引用 4

一句话总结

该论文提出 COMET，一种元学习框架，通过利用人类可解释的概念学习特定概念的度量空间，从而提升少样本泛化能力。通过在结构化的概念维度上独立训练概念学习器，并对其预测结果进行集成，COMET 在包括图像、文本和生物数据在内的多样化少样本任务中，相对于最先进方法实现了 6–15% 的相对准确率提升，同时通过基于概念的推理机制，提供内在可解释的预测结果。

ABSTRACT

Developing algorithms that are able to generalize to a novel task given only a few labeled examples represents a fundamental challenge in closing the gap between machine- and human-level performance. The core of human cognition lies in the structured, reusable concepts that help us to rapidly adapt to new tasks and provide reasoning behind our decisions. However, existing meta-learning methods learn complex representations across prior labeled tasks without imposing any structure on the learned representations. Here we propose COMET, a meta-learning method that improves generalization ability by learning to learn along human-interpretable concept dimensions. Instead of learning a joint unstructured metric space, COMET learns mappings of high-level concepts into semi-structured metric spaces, and effectively combines the outputs of independent concept learners. We evaluate our model on few-shot tasks from diverse domains, including fine-grained image classification, document categorization and cell type annotation on a novel dataset from a biological domain developed in our work. COMET significantly outperforms strong meta-learning baselines, achieving 6-15% relative improvement on the most challenging 1-shot learning tasks, while unlike existing methods providing interpretations behind the model's predictions.

研究动机与目标

• 通过在元学习中引入结构化、人类可解释的概念，解决少样本学习中的泛化差距问题。
• 通过将预测建立在高层级、可重用的概念基础上，提升低数据场景下模型的可解释性。
• 开发一种与领域无关的方法，适用于人工定义和无监督概念发现的场景。
• 证明沿概念维度进行结构化表征学习可增强泛化能力，同时不损失准确性。
• 利用元学习构建单细胞生物学中少样本学习的新基准。

提出的方法

• COMET 使用特定于概念的神经嵌入函数，为每个高层级概念学习独立的度量空间。
• 每个概念学习器在其自身的度量空间中定义原型，以反映该概念维度下的类别差异。
• 通过加权集成机制聚合多个概念学习器的预测结果，以提升鲁棒性和准确性。
• 通过局部和全局评分机制确定概念重要性，从而从噪声或冗余集合中筛选出相关概念。
• 概念可来自外部知识库，也可通过无监督方式从数据中发现。
• 该架构设计具有内在可解释性，解释结果来源于各个概念学习器及其原型的贡献。

实验结果

研究问题

• RQ1 在人类可解释的概念维度上进行学习，是否能超越无结构度量学习，进一步提升少样本泛化能力？
• RQ2 COMET 在包括生物学在内的多样化领域中，与最先进元学习基线相比表现如何？
• RQ3 COMET 在无需人工标注的情况下，能多大程度上利用无监督概念发现？
• RQ4 COMET 是否能为低数据场景下的预测提供忠实且人类可理解的解释？
• RQ5 集成特定于概念的学习器是否比联合度量空间学习带来更好的泛化效果？

主要发现

• COMET 在最具挑战性的 1-shot 学习任务中，相对于强基线元学习方法实现了 6–15% 的相对准确率提升。
• 该模型在细粒度图像分类、文档分类以及一项新颖的单细胞转录组基准任务中，显著优于现有方法。
• COMET 通过突出显示对每个决策有贡献的概念和原型，提供内在可解释的预测结果。
• 即使在初始概念数量庞大、存在噪声或冗余的情况下，该方法仍能有效泛化，并自动选择最相关的概念。
• COMET 在使用人工整理和无监督概念发现时均表现出色，证明了其与领域无关的特性。
• 定量和定性评估均表明，COMET 生成的解释与人类推理一致，且比事后解释方法更可靠。