[论文解读] End-to-End Task-Completion Neural Dialogue Systems

Xiujun Li, Yun-Nung Chen+3 more|arXiv (Cornell University)|Mar 3, 2017

Speech and dialogue systems参考文献 18被引用 58

一句话总结

本论文提出了一个端到端的神经对话系统，用于任务完成，联动学习 LU、DM 和 NLG，使用强化学习，并分析在电影票务预订领域对 LU 错误的鲁棒性。

ABSTRACT

One of the major drawbacks of modularized task-completion dialogue systems is that each module is trained individually, which presents several challenges. For example, downstream modules are affected by earlier modules, and the performance of the entire system is not robust to the accumulated errors. This paper presents a novel end-to-end learning framework for task-completion dialogue systems to tackle such issues. Our neural dialogue system can directly interact with a structured database to assist users in accessing information and accomplishing certain tasks. The reinforcement learning based dialogue manager offers robust capabilities to handle noises caused by other components of the dialogue system. Our experiments in a movie-ticket booking domain show that our end-to-end system not only outperforms modularized dialogue system baselines for both objective and subjective evaluation, but also is robust to noises as demonstrated by several systematic experiments with different error granularity and rates specific to the language understanding module.

研究动机与目标

• 推动从模块化向端到端任务型对话系统的转变，以减少跨模块的错误传播。
• 开发一个端到端框架，直接与结构化数据库交互以完成任务。
• 评估基于 RL 的对话管理对 LU/NLG 噪声与错误的鲁棒性。
• 提供关于语言理解错误（意图与槽位）如何影响系统性能的见解。

提出的方法

• 提出一个端到端的神经对话系统，它接收用户话语，经过 LU 形成语义框架，并使用带状态跟踪器和策略学习器的 DM。
• 在 LU 中使用一个单一的 LSTM 进行联合意图分类和槽位填充。
• 实现一个基于强化学习的对话管理器，作为 Deep Q-Network (DQN) 以选择系统动作。
• 引入一个带有议程式用户建模的用户模拟器以及一个 NLG 组件（模板与基于模型的），以实现端到端训练。
• 引入一个错误模型，在意图和槽位层面模拟 LU 噪声，使在不同错误类型和速率下进行鲁棒性分析。

实验结果

研究问题

• RQ1 在任务完成场景中，端到端 RL 基对话系统的表现与模块化基线相比如何？
• RQ2 端到端系统对不同的 LU 错误（在意图和槽位层面）的鲁棒性如何，哪些错误类型最会降低性能？
• RQ3 在帧级与自然语言训练设置下，不同的 LU/NLG 噪声对系统成功率和对话长度的影响是什么？
• RQ4 在真实任务中的对话期间，系统能否处理用户发起的灵活互动？

主要发现

• 端到端 RL 智能体在不同噪声设置下的成功率超过基于规则的基线（如在 increasing error rates 下分别为 90%、79%、76%）。
• 槽位级错误对性能的负面影响大于意图级错误，错误的槽位值尤其具有破坏性。
• RL 智能体对嘈杂的意图具有鲁棒性，能够学会与用户进行二次确认或确认，但代价是对话更长。
• 随着槽位错误率的提高，系统性能下降，对槽位级噪声比对意图级噪声更敏感。
• 人工评估显示 RL 智能体在客观成功和主观用户评分方面均显著优于基于规则的智能体。