[论文解读] Efficient Task-Oriented Dialogue Systems with Response Selection as an Auxiliary Task

Radostin Cholakov, Todor Kolev|arXiv (Cornell University)|Aug 15, 2022

Topic Modeling被引用 8

一句话总结

本论文为基于T5的任务导向型对话系统提出了两种响应选择辅助任务：区分干扰响应与真实响应，以及区分合成响应与真实响应。尽管参数量仅为102–105百万（比基线模型少3倍），该模型在MultiWOZ 2.1上的表现达到SOTA，得分分别为107.4和108.3，优于参数更大的T5-base模型，同时保持了相同的推理速度。

ABSTRACT

The adoption of pre-trained language models in task-oriented dialogue systems has resulted in significant enhancements of their text generation abilities. However, these architectures are slow to use because of the large number of trainable parameters and can sometimes fail to generate diverse responses. To address these limitations, we propose two models with auxiliary tasks for response selection - (1) distinguishing distractors from ground truth responses and (2) distinguishing synthetic responses from ground truth labels. They achieve state-of-the-art results on the MultiWOZ 2.1 dataset with combined scores of 107.5 and 108.3 and outperform a baseline with three times more parameters. We publish reproducible code and checkpoints and discuss the effects of applying auxiliary tasks to T5-based architectures.

研究动机与目标

• 通过减少模型规模而不牺牲生成质量，提升任务导向型对话系统的效率与性能。
• 探究将响应选择作为辅助任务是否能提升基于T5架构的生成性能。
• 解决用于对话生成的大规模预训练模型中存在的过拟合与参数效率低下问题。
• 探索不同响应选择策略对模型泛化能力与推理速度的影响。
• 通过辅助学习提供一种可复现且高效的大型对话模型替代方案。

提出的方法

• 模型采用T5-small编码器-解码器架构作为主干，共享编码器用于处理对话历史与用户话语。
• 引入两个辅助响应选择头：一个基于编码表示，对真实响应与干扰响应进行分类。
• 第二个分类器用于区分真实响应与解码器生成的（合成）响应，采用可微松弛方法处理离散标记生成的非可微性。
• 训练目标结合信念状态生成、响应生成、跨度匹配与响应选择损失，各项损失权重相等（α=β=γ=δ=0.5）。
• 训练过程中应用温度缩放以稳定可微响应选择头，τ从4逐渐降低至0.8。
• 推理阶段移除响应选择头，从而保持原始T5模型的生成速度与存储效率。

实验结果

研究问题

• RQ1 响应选择作为辅助任务是否能提升基于T5的任务导向型对话系统的生成性能？
• RQ2 使用更小的T5-small主干并结合辅助响应选择，是否能超越未使用此类任务的大规模T5-base模型？
• RQ3 不同响应选择策略（干扰响应分类 vs. 合成响应分类）如何影响模型性能与训练动态？
• RQ4 辅助任务是否能减少过拟合并提升端到端对话系统的泛化能力？
• RQ5 尽管自回归标记生成本身不可微，可微响应选择头是否仍具有效性？

主要发现

• 采用可微响应选择头的模型（RSTOD变体2）在MultiWOZ 2.1上取得108.34的综合得分，优于使用T5-base的基线模型（107.56），尽管参数量仅为后者的1/3。
• 采用干扰响应分类的模型（变体1）得分达107.39，同样超越T5-small基线（103.99），并接近大模型T5-base的性能。
• 两种提出模型的参数量分别为102.2M与105.5M，远低于T5-base基线的360.9M，展现出显著的参数效率。
• 推理速度与模型大小与T5-small基线完全一致，因为响应选择头在推理阶段已被移除。
• 可微响应选择头通过温度松弛实现了对生成响应的有效反向传播，克服了离散标记生成的不可微性。
• 结果证实，辅助响应选择任务能有效提升生成质量与鲁棒性，即使在以往此类方法研究较少的T5架构中亦然。