[论文解读] Curriculum Learning for Domain Adaptation in Neural Machine Translation

Xuan Zhang, Pamela Shapiro+4 more|arXiv (Cornell University)|May 14, 2019

Natural Language Processing Techniques参考文献 41被引用 6

一句话总结

本文提出了一种神经机器翻译（NMT）领域自适应的课程学习方法，其中未标注领域语句根据与目标领域数据的相似度进行排序，并采用概率课程学习调度，优先在早期高频训练更相似的样本。该方法在不改变模型架构的前提下，通过更好地利用噪声大、距离远的数据，在低资源领域上持续将翻译性能提升最高达3.22 BLEU分，优于标准继续训练方法。

ABSTRACT

We introduce a curriculum learning approach to adapt generic neural machine translation models to a specific domain. Samples are grouped by their similarities to the domain of interest and each group is fed to the training algorithm with a particular schedule. This approach is simple to implement on top of any neural framework or architecture, and consistently outperforms both unadapted and adapted baselines in experiments with two distinct domains and two language pairs.

研究动机与目标

• 为解决训练与测试领域不匹配时NMT性能差的问题，特别是在目标领域平行数据稀缺的情况下。
• 通过引入未标注领域数据（如网络爬取数据）提升继续训练的有效性，这些数据与目标领域并非完全对齐。
• 通过引入动态的、基于相似度的训练调度，克服设定固定数据筛选阈值的困难。
• 通过优先在训练早期处理更相似、更相关领域的样本，充分发挥课程学习在NMT中的优势。
• 证明概率课程训练可提升模型泛化能力，并减少特定领域翻译中的词汇选择错误。

提出的方法

• 使用两种数据筛选方法（Moore-Lewis交叉熵差异和讽刺式数据筛选）对未标注领域数据（如Paracrawl）中的样本进行与目标领域数据的相似度评分。
• 根据相似度评分对句子进行排序，并划分为大小相等的片段，以支持分阶段训练。
• 应用概率课程策略，使早期训练阶段更大概率采样相似度更高的句子（即得分更高的句子），同时保持标准训练实践，如小批量处理和打乱。
• 模型首先在通用领域数据上进行预训练，然后使用课程调度的领域内数据和筛选出的相似未标注样本进行微调。
• 训练过程在各轮次中动态调整相似样本的有效权重，通过调度实现实例加权，而非修改损失函数。
• 该方法兼容任何神经NMT框架，且无需修改模型架构。

实验结果

研究问题

• RQ1 基于领域相似度的课程学习策略是否能提升低资源领域自适应中的NMT性能？
• RQ2 在使用噪声大、距离远的未标注数据时，课程学习的性能与标准继续训练相比如何？
• RQ3 对相似样本的动态调度是否能减少特定领域翻译中的词汇选择错误（SENSE和SCORE错误）？
• RQ4 课程学习在不降低性能的前提下，能在多大程度上利用多样化、低质量的未标注数据？
• RQ5 与标准训练基线相比，该方法是否保持了鲁棒性与收敛速度？

主要发现

• 所提出的课程学习方法在德语-英语和俄语-英语翻译任务上，相比标准继续训练最高提升3.22 BLEU分。
• 该方法在两个不同领域（TED演讲和专利摘要）及两种语言对中均实现稳定提升，展现出广泛适用性。
• S4错误分析显示SENSE和SCORE错误显著减少，表明对领域特定词汇选择的处理能力更强。
• 通过在训练早期优先处理更相关样本，该方法有效利用了远距离、噪声大的未标注数据，提升了数据效率。
• 该方法保持了良好的训练稳定性和收敛速度，因其保留了标准优化实践，如分桶和小批量处理。
• 性能提升归因于对数据多样性的更好利用以及遗忘现象的减少，因为早期学习到的相似样本在整个训练过程中得到持续强化。