[论文解读] Coach: A Coarse-to-Fine Approach for Cross-domain Slot Filling

Zihan Liu, Genta Indra Winata+2 more|arXiv (Cornell University)|Apr 24, 2020

Topic Modeling参考文献 30被引用 13

一句话总结

该论文提出Coach，一种用于跨域槽位填充的粗到细框架，首先在所有类型中全局识别槽位实体，然后通过与槽位描述的相似性预测其具体类型。该方法引入模板正则化以提升表征鲁棒性，在零样本和少样本设置下均取得最先进性能，尤其在未见槽位类型上表现显著提升，并展现出强大的跨域命名实体识别（NER）迁移能力。

ABSTRACT

As an essential task in task-oriented dialog systems, slot filling requires extensive training data in a certain domain. However, such data are not always available. Hence, cross-domain slot filling has naturally arisen to cope with this data scarcity problem. In this paper, we propose a Coarse-to-fine approach (Coach) for cross-domain slot filling. Our model first learns the general pattern of slot entities by detecting whether the tokens are slot entities or not. It then predicts the specific types for the slot entities. In addition, we propose a template regularization approach to improve the adaptation robustness by regularizing the representation of utterances based on utterance templates. Experimental results show that our model significantly outperforms state-of-the-art approaches in slot filling. Furthermore, our model can also be applied to the cross-domain named entity recognition task, and it achieves better adaptation performance than other existing baselines. The code is available at https://github.com/zliucr/coach.

研究动机与目标

• 通过在跨域槽位填充中实现零样本和少样本适应，缓解低资源目标领域中的数据稀缺问题。
• 克服现有模型在未见槽位类型上表现不佳以及对模糊标记产生多重预测的局限性。
• 通过学习跨领域的通用槽位实体模式，提升模型的鲁棒性与泛化能力。
• 将该框架扩展至跨域命名实体识别（NER）任务，验证其更广泛的应用潜力。

提出的方法

• 模型使用BiLSTM-CRF执行粗粒度分类，判断每个标记是否为槽位实体（三分类：O, B, I）。
• 在细粒度预测阶段，计算编码后的槽位实体表征与所有可能槽位类型预编码描述之间的相似性。
• 采用双编码器架构：一个用于话语编码，另一个用于槽位类型描述编码，所有槽位类型共享参数。
• 模板正则化通过正确和错误的槽位标签替换将话语去词化为模板，促使语义相似的话语在表征空间中聚类。
• 该框架利用所有槽位类型的共享表征，学习通用的槽位实体模式，降低对领域特定监督的依赖。
• 该方法可适配槽位填充与跨域NER任务，在各类任务中均保持一致的性能提升。

实验结果

研究问题

• RQ1 通过先学习通用槽位实体模式，粗到细方法是否能提升跨域槽位填充在零样本与少样本设置下的适应能力？
• RQ2 模板正则化在跨领域分布变化下如何增强模型的鲁棒性与泛化能力？
• RQ3 该模型在未见源领域中未出现的槽位类型上，检测与正确分类的能力达到何种程度？
• RQ4 该框架是否能有效泛化至其他序列标注任务，如跨域命名实体识别？
• RQ5 不同槽位实体编码策略对模型最终性能有何影响？

主要发现

• 在目标领域使用50个标注样本时，Coach在未见槽位上的F1得分为76.95，在已见槽位上为74.65，显著优于先前最先进方法。
• 引入模板正则化后，Coach在未见槽位上的F1提升至80.16，已见槽位为76.49，表明其适应鲁棒性显著增强。
• 在零样本设置下，Coach在未见槽位上取得34.09的F1，在已见槽位上为32.89，表明无需任何目标领域标签即可实现强大泛化能力。
• 在跨域NER任务中，Coach在50个标注样本下取得68.35的F1，优于BiLSTM-CRF及其他基线模型。
• 消融实验表明，使用BiLSTM编码实体标记可获得最佳性能，尽管Transformer和求和池化等替代方法也表现相近。
• 模板正则化在槽位填充任务中提升性能，但在NER任务中效果有限，原因在于NER文本更具开放性，不利于模板识别。