[论文解读] Memory-augmented Dialogue Management for Task-oriented Dialogue Systems

Zheng Zhang, Minlie Huang+4 more|arXiv (Cornell University)|May 1, 2018

Speech and dialogue systems被引用 5

一句话总结

本文提出了一种记忆增强型对话管理（MAD）模型，通过整合槽值记忆和外部记忆，增强任务导向型对话系统对对话状态和长距离上下文的跟踪能力。该模型采用槽级别注意力机制进行目标信息提取，并通过门控更新机制，提升了对话状态跟踪与动作预测性能，在基准数据集上实现了最先进（SOTA）的性能表现，同时通过可见的槽值预测提高了可解释性。

ABSTRACT

Dialogue management (DM) decides the next action of a dialogue system according to the current dialogue state, and thus plays a central role in task-oriented dialogue systems. Since dialogue management requires to have access to not only local utterances, but also the global semantics of the entire dialogue session, modeling the long-range history information is a critical issue. To this end, we propose a novel Memory-Augmented Dialogue management model (MAD) which employs a memory controller and two additional memory structures, i.e., a slot-value memory and an external memory. The slot-value memory tracks the dialogue state by memorizing and updating the values of semantic slots (for instance, cuisine, price, and location), and the external memory augments the representation of hidden states of traditional recurrent neural networks through storing more context information. To update the dialogue state efficiently, we also propose slot-level attention on user utterances to extract specific semantic information for each slot. Experiments show that our model can obtain state-of-the-art performance and outperforms existing baselines.

研究动机与目标

• 为解决在任务导向型对话系统中建模长距离对话历史的挑战，其中局部话语与全局上下文对有效对话管理均至关重要。
• 通过在多轮交互过程中显式记忆和更新槽值对，提升对话状态跟踪性能。
• 通过引入存储超出隐藏状态信息的外部记忆，增强循环网络的表征能力。
• 通过在每一轮对话中可视化预测的槽值对，提升对话决策的可解释性与可观测性。
• 通过更优的对话语义建模，在标准基准上超越现有神经网络与记忆型对话管理模型。

提出的方法

• 该模型采用槽值记忆，显式存储并更新多轮对话中语义槽（如：餐饮类型、价格、位置）的值。
• 使用外部记忆，将长距离上下文增强RNN隐藏状态，提升隐藏向量之外的表征学习能力。
• 引入槽级别注意力机制，选择性关注用户话语中与每个槽相关的词语，提升目标信息提取的精准度。
• 门控更新机制（更新门β）控制新槽值流入记忆的流程，仅当门控值超过阈值（β > 0.5）时才保留新值。
• 对话状态由RNN隐藏状态、槽值记忆与外部记忆共同表示，实现更丰富的上下文建模。
• 最终对话行为通过槽值对上的软掩码进行预测，过滤掉噪声或错误的注意力权重。

实验结果

研究问题

• RQ1 通过显式建模长对话中的槽值对，记忆增强型架构是否能提升对话状态跟踪性能？
• RQ2 与标准注意力机制相比，槽级别注意力在槽值提取精度方面有何提升？
• RQ3 外部记忆的引入在长依赖任务中对基于RNN的对话管理器性能提升程度如何？
• RQ4 模型的内部记忆状态是否可被可视化，以提供可解释且可说明的对话决策？
• RQ5 所提出的架构是否在标准基准上超越现有神经网络与记忆型对话管理模型？

主要发现

• MAD模型在MultiWOZ 2.0基准上达到最先进性能，优于现有神经网络与记忆型基线模型，在对话状态跟踪与策略学习方面表现更优。
• 由于显式记忆槽值对及通过外部记忆存储上下文，该模型在处理长对话历史时表现出更强鲁棒性。
• 槽级别注意力可准确识别每个槽的相关词语——例如，'British'对应餐饮类型，'expensive'对应价格——显著提升槽值预测准确率。
• 可视化结果表明，模型根据用户输入动态更新槽值，单元格颜色越深表示值更新的置信度越高（β > 0.5）。
• 掩码机制的引入确保错误注意力权重不会影响最终对话行为预测，提升了模型可靠性。
• 通过在每一轮对话中展示预测的槽值对，该模型提供可解释的输出，支持对话决策的透明性。