[论文解读] Few-Shot Continual Active Learning by a Robot

Ali Ayub, Carter Fendley|arXiv (Cornell University)|Oct 9, 2022

Domain Adaptation and Few-Shot Learning被引用 13

一句话总结

本文提出了一种少样本持续主动学习（FoCAL）框架，使机器人能够从少量标注样本中学习新物体类别，同时避免灾难性遗忘。该方法使用高斯混合模型（GMMs）表示已学习的类别，并采用伪回放机制进行回放，结合不确定性与视角一致性度量，主动选择最具有信息量的未标注样本供人工标注。该方法在CORe-50数据集上达到最先进性能，并实现了在人形机器人上的真实世界持续学习，仅需极少的人工监督。

ABSTRACT

In this paper, we consider a challenging but realistic continual learning (CL) problem, Few-Shot Continual Active Learning (FoCAL), where a CL agent is provided with unlabeled data for a new or a previously learned task in each increment and the agent only has limited labeling budget available. Towards this, we build on the continual learning and active learning literature and develop a framework that can allow a CL agent to continually learn new object classes from a few labeled training examples. Our framework represents each object class using a uniform Gaussian mixture model (GMM) and uses pseudo-rehearsal to mitigate catastrophic forgetting. The framework also uses uncertainty measures on the Gaussian representations of the previously learned classes to find the most informative samples to be labeled in an increment. We evaluate our approach on the CORe-50 dataset and on a real humanoid robot for the object classification task. The results show that our approach not only produces state-of-the-art results on the dataset but also allows a real robot to continually learn unseen objects in a real environment with limited labeling supervision provided by its user.

研究动机与目标

• 为解决真实世界机器人中持续物体学习的挑战，其中标注数据稀缺且人工标注成本高昂。
• 在不存储先前类别原始数据的情况下，缓解持续学习中的灾难性遗忘问题。
• 在流式、少样本、在线设置中实现主动学习，使机器人能够选择最具信息量的样本进行标注。
• 开发一种实用且可扩展的方法，用于在人形机器人上实现有限人工监督下的真实世界部署。
• 发布一个由真实机器人采集的新基准数据集，以供未来FoCAL研究使用。

提出的方法

• 该框架将每个先前学习的物体类别建模为均匀高斯混合模型（GMM），以表示其特征分布。
• 通过从旧类别的GMM中生成合成样本，采用伪回放机制在训练期间重现旧类别，避免存储原始数据。
• 利用预测熵和视角一致性度量在GMM表示上，通过获取函数选择最具信息量的未标注样本。
• 在每个增量中，模型在旧类别生成的伪样本和新标注样本的组合上进行训练。
• 使用固定的特征提取器和物体检测器，在采样和分类前从未标注图像中提取特征。
• 通过当前增量的标注样本和先前类别伪回放数据，增量式地更新分类器。

实验结果

研究问题

• RQ1 持续学习智能体是否能仅通过每个增量中少量标注样本，有效学习新物体类别？
• RQ2 在不存储原始数据的情况下，如何在少样本、在线持续学习设置中缓解灾难性遗忘？
• RQ3 基于不确定性的主动学习能否有效适配到具有未知或新类别的持续学习中？
• RQ4 与基准数据集相比，该方法在真实世界机器人部署中的泛化能力如何？
• RQ5 在仅使用极少人工标注的情况下，模型能否在学习新类别的同时保持对先前学习类别的性能？

主要发现

• 所提出的FoCAL框架在CORe-50基准上达到最先进性能，在少样本、持续主动学习设置中显著优于现有持续学习方法。
• 通过基于GMM的伪回放，模型成功缓解了灾难性遗忘，在多次增量后仍能保持对先前学习类别的高准确率。
• 主动学习组件能有效识别最不确定且最具信息量的样本，减少标注工作量，同时提升学习效率。
• 该框架使真实人形机器人（Pepper）能够随时间学习大量家用物体，仅需极少人工标注，展示了真实世界适用性。
• 作者发布了由机器人采集的新基准数据集，包含来自室内环境的真实世界物体图像，供未来FoCAL研究使用。
• 该方法在识别未知类别方面表现出鲁棒性，得益于不确定性和一致性度量，避免将新物体误分类为先前学习过的类别。