[论文解读] Meta-TTS: Meta-Learning for Few-Shot Speaker Adaptive Text-to-Speech

Sung-Feng Huang, Chyi-Jiunn Lin+3 more|arXiv (Cornell University)|Nov 7, 2021

Speech Recognition and Synthesis参考文献 32被引用 8

一句话总结

本文提出 Meta-TTS，一种元学习方法，通过使用模型无关元学习（MAML）训练多说话人 FastSpeech 2 模型，实现在文本到语音系统中快速、少样本的说话人适应。该方法仅需 10–20 次适应步骤即可实现高说话人相似度，优于说话人适应和说话人编码基线方法，即使后者在额外 8,371 个说话人上进行了预训练。

ABSTRACT

Personalizing a speech synthesis system is a highly desired application, where the system can generate speech with the user's voice with rare enrolled recordings. There are two main approaches to build such a system in recent works: speaker adaptation and speaker encoding. On the one hand, speaker adaptation methods fine-tune a trained multi-speaker text-to-speech (TTS) model with few enrolled samples. However, they require at least thousands of fine-tuning steps for high-quality adaptation, making it hard to apply on devices. On the other hand, speaker encoding methods encode enrollment utterances into a speaker embedding. The trained TTS model can synthesize the user's speech conditioned on the corresponding speaker embedding. Nevertheless, the speaker encoder suffers from the generalization gap between the seen and unseen speakers. In this paper, we propose applying a meta-learning algorithm to the speaker adaptation method. More specifically, we use Model Agnostic Meta-Learning (MAML) as the training algorithm of a multi-speaker TTS model, which aims to find a great meta-initialization to adapt the model to any few-shot speaker adaptation tasks quickly. Therefore, we can also adapt the meta-trained TTS model to unseen speakers efficiently. Our experiments compare the proposed method (Meta-TTS) with two baselines: a speaker adaptation method baseline and a speaker encoding method baseline. The evaluation results show that Meta-TTS can synthesize high speaker-similarity speech from few enrollment samples with fewer adaptation steps than the speaker adaptation baseline and outperforms the speaker encoding baseline under the same training scheme. When the speaker encoder of the baseline is pre-trained with extra 8371 speakers of data, Meta-TTS can still outperform the baseline on LibriTTS dataset and achieve comparable results on VCTK dataset.

研究动机与目标

• 解决仅使用少量注册样本对未见说话人进行文本到语音系统个性化的挑战。
• 克服传统说话人适应方法适应速度慢的问题，后者需要数千次微调步骤。
• 缩小说话人编码方法中的泛化差距，这些方法因过拟合而在面对未见说话人时表现不佳。
• 实现在计算成本和适应步骤均极低的前提下，高效且高质量的语音克隆。
• 证明元学习可作为少样本说话人适应在文本到语音中更优的初始化策略。

提出的方法

• 对多说话人 FastSpeech 2 模型应用模型无关元学习（MAML），将元优化聚焦于说话人条件化组件。
• 采用双层优化：内层循环在少量样本的说话人适应任务上微调模型，外层循环更新元初始化以实现快速适应。
• 通过引入可学习的说话人嵌入表，修改 FastSpeech 2 以支持多说话人生成，且仅对说话人相关模块应用 MAML。
• 训练元初始化，使得仅需少量适应步骤（例如 10–20 步）即可实现高质量的语音克隆。
• 将 Meta-TTS 与两种基线方法进行比较：标准说话人适应方法（多任务训练）和说话人编码方法（使用预训练或联合训练的说话人编码器）。
• 在 LibriTTS 和 VCTK 数据集上，使用说话人相似度、说话人验证（EER、DET）以及合成语音检测（ROC AUC）等指标评估性能。

实验结果

研究问题

• RQ1 元学习能否显著减少实现高质量说话人适应所需的适应步骤数量？
• RQ2 在说话人相似度和对未见说话人的泛化能力方面，Meta-TTS 与说话人编码方法相比表现如何？
• RQ3 当仅允许 10–20 次适应步骤时，基于元学习的适应是否优于基于标准微调的适应？
• RQ4 即使基线说话人编码方法在 8,371 个额外说话人数据集上进行了预训练，Meta-TTS 是否仍能实现更优性能？
• RQ5 元学习初始化是否足够鲁棒，能够无需大量微调即可泛化到多样化的未见说话人？

主要发现

• Meta-TTS 仅需 10–20 次适应步骤即可实现高说话人相似度，显著快于需要数千步的说话人适应基线方法。
• 在 LibriTTS 数据集上，Meta-TTS 在 100 次适应步骤内优于说话人编码基线方法，即使后者在 8,371 个额外说话人上进行了预训练。
• 在 VCTK 数据集上，Meta-TTS 的性能与最佳说话人编码基线方法相当，尽管后者具有预训练优势。
• 基线说话人编码方法中的说话人编码器存在过拟合问题，尤其在联合训练时，导致在未见说话人上的泛化能力差。
• 合成语音检测结果表明，Meta-TTS 生成的语音更具真实感，且与真实语音更难区分，优于基线方法。
• EER 和 DET 曲线结果证实，Meta-TTS 生成的语音在说话人相似度方面优于两种基线方法，尤其在少样本场景下表现更优。