[论文解读] GPU-based Self-Organizing Maps for Post-Labeled Few-Shot Unsupervised Learning

Lyes Khacef, Vincent Gripon+1 more|arXiv (Cornell University)|Sep 4, 2020

Domain Adaptation and Few-Shot Learning参考文献 27被引用 6

一句话总结

本文提出了一种基于GPU加速的、后标签化的少样本无监督学习方法，结合迁移学习与自组织映射（SOMs），适用于边缘设备部署。通过使用预训练的Wide ResNet作为特征提取器，并在无标签数据上训练SOMs，再通过少量样本示例进行后处理标签分配，该方法在mini-ImageNet上实现了SOTA性能，1-shot准确率达到71.53%，5-shot达到82.22%，仅使用后处理标签而无需微调。

ABSTRACT

Few-shot classification is a challenge in machine learning where the goal is to train a classifier using a very limited number of labeled examples. This scenario is likely to occur frequently in real life, for example when data acquisition or labeling is expensive. In this work, we consider the problem of post-labeled few-shot unsupervised learning, a classification task where representations are learned in an unsupervised fashion, to be later labeled using very few annotated examples. We argue that this problem is very likely to occur on the edge, when the embedded device directly acquires the data, and the expert needed to perform labeling cannot be prompted often. To address this problem, we consider an algorithm consisting of the concatenation of transfer learning with clustering using Self-Organizing Maps (SOMs). We introduce a TensorFlow-based implementation to speed-up the process in multi-core CPUs and GPUs. Finally, we demonstrate the effectiveness of the method using standard off-the-shelf few-shot classification benchmarks.

研究动机与目标

• 解决边缘AI系统中标签成本高且不频繁的少样本分类挑战。
• 开发一种在训练过程中无需标签数据即可学习鲁棒表征的方法，将标签保留至后处理阶段。
• 通过利用硬件友好的SOMs与GPU加速，实现在嵌入式设备上的高效、低延迟推理。
• 证明无监督SOM聚类结合后标签原型可达到或超越有监督少样本基线方法。

提出的方法

• 使用预训练的Wide ResNet（WRN）作为迁移学习的通用特征提取器。
• 在无标签目标数据上训练自组织映射（SOM），以在特征空间中学习聚类原型。
• 通过每类仅使用少量标注样本，在SOM神经元上进行训练后标签分配。
• 在SOM计算中将欧氏距离替换为余弦距离，以提升迁移学习下的泛化能力。
• 在TensorFlow中实现SOM并支持GPU加速，以提升训练与推理速度。
• 采用两阶段流程：先进行无监督SOM训练，再通过最小监督完成标签分配。

实验结果

研究问题

• RQ1 无监督SOM聚类结合后标签原型是否能在不微调的情况下实现具有竞争力的少样本分类准确率？
• RQ2 在少量标签的迁移学习中，距离度量选择（欧氏距离 vs. 余弦距离）对性能有何影响？
• RQ3 无标签数据在多大程度上可弥补少样本学习中标签数据不足的问题？
• RQ4 在实时边缘部署中，使用GPU加速进行SOM训练可实现多大程度的速度提升？

主要发现

• 所提方法在1-shot mini-ImageNet基准上达到71.53%的准确率，在无监督方法中排名第二。
• 在5-shot设置下，准确率达到82.22%，位列现有方法前三名。
• 使用余弦距离替代欧氏距离，在所有shot设置下使准确率提升4.68%至5.9%。
• 该方法表明，无标签数据可有效补偿标签数据不足——例如，[s=3, Q=250]的性能可与[s=5, Q=25]相当。
• 基于GPU加速的TensorFlow实现相比纯CPU执行实现了约100倍的速度提升。
• 对于s=1的情况，25个神经元的SOM达到最优性能，表明更大的映射可能在标签极少时阻碍收敛。