[论文解读] MOSS: End-to-End Dialog System Framework with Modular Supervision

Weixin Liang, Youzhi Tian+2 more|arXiv (Cornell University)|Sep 12, 2019

Topic Modeling参考文献 19被引用 5

一句话总结

MOSS 是一种端到端可训练的对话框架，通过共享编码器和专用解码器，整合了来自自然语言理解、对话状态追踪、对话策略学习和自然语言生成的模块化监督。在复杂 LaptopNetwork 数据集上仅使用 40% 的训练数据时，MOSS-all 在任务完成率上比最先进模型高出 42%，在生成质量上高出 7%。

ABSTRACT

A major bottleneck in training end-to-end task-oriented dialog system is the lack of data. To utilize limited training data more efficiently, we propose Modular Supervision Network (MOSS), an encoder-decoder training framework that could incorporate supervision from various intermediate dialog system modules including natural language understanding, dialog state tracking, dialog policy learning, and natural language generation. With only 60% of the training data, MOSS-all (i.e., MOSS with supervision from all four dialog modules) outperforms state-of-the-art models on CamRest676. Moreover, introducing modular supervision has even bigger benefits when the dialog task has a more complex dialog state and action space. With only 40% of the training data, MOSS-all outperforms the state-of-the-art model on a complex laptop network troubleshooting dataset, LaptopNetwork, that we introduced. LaptopNetwork consists of conversations between real customers and customer service agents in Chinese. Moreover, MOSS framework can accommodate dialogs that have supervision from different dialog modules at both the framework level and model level. Therefore, MOSS is extremely flexible to update in a real-world deployment.

研究动机与目标

• 解决训练端到端任务导向对话系统时的数据稀缺瓶颈。
• 结合模块化系统的优点（丰富监督）与端到端训练的优势（联合优化），以提升样本效率。
• 通过支持即插即用的模块移除和增量注释集成，实现在真实场景中的灵活部署。
• 证明模块化监督在具有大动作空间和状态空间的复杂对话任务中尤为有效。

提出的方法

• 提出一种统一的编码器-解码器架构，其中共享编码器处理输入话语，每个对话模块（NLU、DST、DPL、NLG）拥有独立的解码器。
• 通过共享隐藏状态连接解码器，而非符号化输出，以实现联合优化并减少误差传播。
• 使用模块化注意力机制，使每个解码器能够关注共享表示的相关部分。
• 通过支持移除选定模块的模型实例（例如，MOSS w/o NLU、MOSS w/o DPL）实现框架级别的灵活性。
• 通过允许部分注释（例如仅 NLG 或仅 DPL）输入同一框架，实现模型级别的适应性。
• 利用现有注释或启发式方法（例如，NLU 的状态差异，DPL 的正则表达式去标识化）以低成本生成监督信号。

实验结果

研究问题

• RQ1 将多个中间对话模块的监督整合是否能提升端到端对话训练中的样本效率？
• RQ2 与简单的信息查询任务相比，模块化监督在具有大状态空间和动作空间的复杂对话任务中的性能影响如何？
• RQ3 在真实部署中，具有即插即用特性的灵活框架在支持部分注释的增量模型更新方面能发挥多大作用？
• RQ4 包含对话策略学习和自然语言理解监督是否能显著减少所需标注对话的数量？

主要发现

• 在 CamRest676 数据集上，MOSS-all 仅使用 60% 的数据进行训练，其性能已超越最先进模型，包括 TSCP。
• 在复杂的 LaptopNetwork 数据集上，MOSS-all 仅使用 40% 的训练数据，其任务完成率（Succ.acc）比最先进模型高出 42%。
• MOSS-all 在生成质量上比最先进模型高出 7%，这归因于对话策略学习监督提供的引导作用。
• 移除对话策略学习模块（MOSS w/o DPL）导致对话状态追踪准确率下降和 BLEU 分数降低，表明其在协调中的关键作用。
• 移除自然语言理解模块（MOSS w/o NLU）导致所有下游任务性能下降，原因是语义输入的丧失。
• 案例研究显示，TSCP 因缺乏 NLU 和 DPL 监督而倾向于重复生成平凡回复，而 MOSS-all 则能生成上下文相关且目标导向的回复。