[论文解读] Gradual Fine-Tuning for Low-Resource Domain Adaptation

Haoran Xu, Seth Ebner+4 more|arXiv (Cornell University)|Mar 3, 2021

Seismic Imaging and Inversion Techniques参考文献 24被引用 16

一句话总结

本文提出渐进式微调（gradual fine-tuning），一种多阶段微调方法，通过逐步增加训练批次中领域内数据的比例，以提升低资源领域的适应性能。通过在逐渐向目标领域分布偏移的数据分布上迭代优化模型，该方法在不修改模型或损失函数的前提下，显著优于标准的一阶段微调，且在对话状态追踪与事件抽取任务上取得了最先进性能。

ABSTRACT

Fine-tuning is known to improve NLP models by adapting an initial model trained on more plentiful but less domain-salient examples to data in a target domain. Such domain adaptation is typically done using one stage of fine-tuning. We demonstrate that gradually fine-tuning in a multi-stage process can yield substantial further gains and can be applied without modifying the model or learning objective.

研究动机与目标

• 提升在领域内数据稀缺的低资源领域适应场景下的性能。
• 解决一阶段微调的局限性，即模型突然转向目标领域可能导致次优收敛。
• 探究是否采用类似课程学习的训练策略——从较易的、混合领域数据开始，逐步过渡到更侧重目标领域的数据——能带来更好的泛化性能。
• 开发一种在不修改模型架构或学习目标的前提下提升领域适应性能的方法。
• 在包括对话状态追踪与跨语言事件抽取在内的多种NLP任务上验证该方法。

提出的方法

• 该方法采用多阶段微调过程，每个阶段在具有逐步提高的领域内数据比例的数据集上进行训练。
• 每个训练阶段使用通过插值混合域外数据与领域内数据形成的混合数据集，且各阶段中领域内数据的比例逐步增加。
• 在进入下一阶段前，确保模型在每个阶段均收敛，以保证参数更新的稳定性。
• 该方法与现有微调流程兼容，仅需调整数据调度配置，无需修改模型或损失函数。
• 训练轨迹遵循课程学习原则，从最接近源域的数据开始，逐步向目标域分布靠近。
• 该方法被应用于单语和多语言设置，包括在事件抽取任务中从英语到阿拉伯语的跨语言迁移。

实验结果

研究问题

• RQ1 是否可通过逐步增加领域内数据比例的多阶段微调策略，提升低资源领域适应性能？
• RQ2 受课程学习启发的渐进式适应是否能带来比一阶段微调更优的收敛性与泛化性能？
• RQ3 该方法在领域内数据有限的任务（如对话状态追踪与事件抽取）中，性能可提升多大程度？
• RQ4 性能提升是源于更好的分布对齐，还是源于优化稳定性的改善？
• RQ5 该方法是否可普遍适用于不同NLP任务与模型架构，而无需修改网络结构？

主要发现

• 在MultiWOZ v2.0对话状态追踪任务中，渐进式微调在酒店领域实现了94.30%的槽位准确率与52.12%的联合准确率，优于一阶段微调（92.49%联合准确率）。
• 在餐厅领域，渐进式微调达到94.30%的槽位准确率与67.27%的联合准确率，而一阶段微调为93.47%与61.15%。
• 在阿拉伯语事件抽取任务中，渐进式微调实现了66.29%的触发词识别F1与62.87%的触发词分类F1，相比仅在阿拉伯语数据上训练的最先进模型，绝对提升5.84个百分点。
• 在ACE 2005数据集上，该方法在所有四项评估指标（TrigID, TrigC, ArgID, ArgC）上均优于一阶段微调与混合数据训练基线。
• 即使目标领域中领域内数据极少，该方法仍表现出一致的性能增益，证明其在低资源场景下的有效性。
• 该方法无需修改模型架构或损失函数，可轻松集成至现有微调流程中。