[论文解读] Meta Learning for Few-shot Keyword Spotting.

Yangbin Chen, Tom Ko+4 more|arXiv (Cornell University)|Dec 26, 2018

Speech Recognition and Synthesis参考文献 9被引用 8

一句话总结

本文提出了一种改进的模型无关元学习（MAML）方法，用于少样本关键词检测，通过引入N+M类分类设置，区分新类与固定类。在Google语音命令数据集上的实验表明，该方法在少样本语音术语分类任务中优于传统的监督学习和标准MAML方法。

ABSTRACT

In this paper, we investigate the feasibility of applying few-shot learning algorithms to a speech task. We formulate a user-defined scenario of spoken term classification as a few-shot learning problem. In most few-shot learning studies, it is assumed that all the N classes are new in a N-way problem. We suggest that this assumption can be relaxed and define a N+M-way problem where N and M are the number of new classes and fixed classes respectively. We propose a modification to the Model-Agnostic Meta-Learning (MAML) algorithm to solve the problem. Experiments on the Google Speech Commands dataset show that our approach outperforms the conventional supervised learning approach and the original MAML.

研究动机与目标

• 研究将少样本学习应用于语音任务（特别是关键词检测）的可行性。
• 通过引入包含固定类与新类的混合N+M类设置，放宽标准少样本学习中所有N类均为新类的假设。
• 通过调整MAML以同时处理新类与先前见过的类，提升少样本语音术语分类的性能。
• 证明在元学习中引入固定类可提升低资源关键词识别任务中的泛化能力与更快的适应速度。

提出的方法

• 将关键词检测任务建模为N+M类少样本学习问题，其中N类为新类，M类为固定类（先前见过的类）。
• 修改MAML算法，在元训练过程中联合优化新类与固定类的损失。
• 采用基于任务的训练方式，使用支持集与查询集，其中支持集包含新类与固定类的样本。
• 在保持固定类性能的同时，使模型能利用少量样本快速适应新类。
• 应用元优化过程，通过最小化跨任务中新类与固定类的损失来更新模型参数。
• 使用神经网络主干网络（如CNN或RNN）进行特征提取，并通过MAML进行微调以实现快速适应。

实验结果

研究问题

• RQ1 在低资源设置下，少样本学习能否有效应用于语音术语分类？
• RQ2 在新类（N）之外引入固定类（M）如何提升关键词检测中的少样本适应能力？
• RQ3 一种同时考虑新类与固定类的改进MAML方法是否优于标准MAML与监督学习？
• RQ4 在混合类场景下进行元学习对模型泛化能力与推理速度有何影响？

主要发现

• 所提出的N+M类元学习方法在少样本关键词检测任务中，准确率高于传统的监督学习方法。
• 在Google语音命令数据集上，改进的MAML在少样本评估协议下优于原始MAML算法。
• 由于元学习初始化，模型能仅用少量支持样本即快速适应新关键词。
• 在元训练中引入固定类可提升模型的鲁棒性与泛化能力，尤其对罕见或未见关键词表现更优。