[论文解读] Preview, Attend and Review: Schema-Aware Curriculum Learning for Multi-Domain Dialog State Tracking

Yinpei Dai, Hangyu Li+5 more|arXiv (Cornell University)|Jun 1, 2021

Topic Modeling参考文献 38被引用 4

一句话总结

本文提出 SaCLog，一种与模型无关的框架，通过引入与模式相关的课程学习来提升多领域对话状态追踪（DST）性能。该框架通过预训练模式结构（预览）、按难度排序的阶段训练（课程）以及利用模式知识对误预测样本进行增强（回顾），在基于 Transformer（TripPy）和基于 RNN（TRADE）的模型上均实现了 WOZ2.0 和 MultiWOZ2.1 上的最先进性能。

ABSTRACT

Existing dialog state tracking (DST) models are trained with dialog data in a random order, neglecting rich structural information in a dataset. In this paper, we propose to use curriculum learning (CL) to better leverage both the curriculum structure and schema structure for task-oriented dialogs. Specifically, we propose a model-agnostic framework called Schema-aware Curriculum Learning for Dialog State Tracking (SaCLog), which consists of a preview module that pre-trains a DST model with schema information, a curriculum module that optimizes the model with CL, and a review module that augments mispredicted data to reinforce the CL training. We show that our proposed approach improves DST performance over both a transformer-based and RNN-based DST model (TripPy and TRADE) and achieves new state-of-the-art results on WOZ2.0 and MultiWOZ2.1.

研究动机与目标

• 解决对话状态追踪（DST）中结构信息利用不足的问题，特别是课程结构与模式结构的利用不足。
• 克服现有 DST 模型中随机训练顺序的局限性，该顺序未能利用示例难度的渐进性。
• 通过将模式信息整合到课程学习中，更有效地指导模型训练，从而提升 DST 性能。
• 开发一种与模型无关的框架，通过结构化课程学习与模式感知的预训练及数据增强，提升基于 Transformer 和 RNN 的 DST 模型性能。
• 证明课程学习在 DST 任务中的有效性，该任务此前尚未探索过课程学习的应用。

提出的方法

• 引入一个预览模块，在主训练前通过与模式相关的目标对 DST 模型进行预训练，以建立结构归纳偏置。
• 设计一个课程模块，利用结合模型预测与基于规则的启发式方法的混合得分对训练样本按难度进行排序，并按由易到难的顺序进行训练。
• 实现一个回顾模块，对误预测样本进行基于模式知识的数据增强，以强化对困难样本的学习。
• 采用基于交叉验证风格的模型预测与人工标注规则相结合的难度评分器，衡量样本的复杂度。
• 将该框架应用于基于 Transformer（如 TripPy）和基于 RNN（如 TRADE）的 DST 模型，证明其与模型无关的适用性。
• 不仅在预训练阶段，而且在回顾阶段利用模式信息生成合成训练样本，以提升模型鲁棒性。

实验结果

研究问题

• RQ1 当采用结构化、按难度排序的训练计划时，课程学习能否提升对话状态追踪性能？
• RQ2 将模式结构整合到课程学习过程中，对 DST 模型的泛化能力和准确性有何影响？
• RQ3 通过回顾模块实现的模式感知预训练与事后数据增强，在提升模型对困难样本的学习方面有多大作用？
• RQ4 所提出的框架是否能在不同 DST 架构（如基于 Transformer 和 RNN 的模型）上实现泛化？
• RQ5 各组件（预览、课程、回顾）在整体性能提升中的相对贡献如何？

主要发现

• SaCLog 在 MultiWOZ2.1 上实现了新的最先进联合目标准确率（JGA）60.61%，优于先前使用 ConvBERT 和 CoCoAug 的方法。
• 在 WOZ2.0 上，SaCLog 达到 94.2% 的 JGA，创下新的 SOTA 结果，较此前最佳结果高出超过 3 个百分点。
• 消融实验表明，若移除预览或回顾模块，JGA 下降 1.76%，证实二者在提升模型学习能力方面具有关键作用。
• 混合难度评分器（基于模型 + 基于规则）表现最佳（JGA 58.85%），优于单一评分器基线，表明结合模型与人工洞察具有显著价值。
• 在基于 RNN 的 TRADE 模型上，SaCLog 将 MultiWOZ2.1 的 JGA 提升 3.7 个百分点，WOZ2.0 提升 2.8 个百分点，证明其在不同架构上的广泛有效性。
• 该框架与模型无关，成功提升了 TripPy 和 TRADE 模型，证明其在单一模型架构之外具有良好的泛化能力。