[论文解读] Scaling Multi-Domain Dialogue State Tracking via Query Reformulation

Pushpendre Rastogi, Arpit Gupta+2 more|arXiv (Cornell University)|Mar 12, 2019

Topic Modeling参考文献 23被引用 9

一句话总结

本文提出上下文查询重写（CQR），一种新颖的多领域对话状态追踪方法，通过将用户话语改写为包含对话上下文的自然语言查询，实现更精准的指代消解。采用带有多任务学习的指针-生成网络，CQR在具有挑战性的长距离指代场景下，将实体F1提升超过20%，并可在不重新训练模型的前提下，无缝集成至现有的领域特定SLU系统中。

ABSTRACT

We present a novel approach to dialogue state tracking and referring expression resolution tasks. Successful contextual understanding of multi-turn spoken dialogues requires resolving referring expressions across turns and tracking the entities relevant to the conversation across turns. Tracking conversational state is particularly challenging in a multi-domain scenario when there exist multiple spoken language understanding (SLU) sub-systems, and each SLU sub-system operates on its domain-specific meaning representation. While previous approaches have addressed the disparate schema issue by learning candidate transformations of the meaning representation, in this paper, we instead model the reference resolution as a dialogue context-aware user query reformulation task -- the dialog state is serialized to a sequence of natural language tokens representing the conversation. We develop our model for query reformulation using a pointer-generator network and a novel multi-task learning setup. In our experiments, we show a significant improvement in absolute F1 on an internal as well as a, soon to be released, public benchmark respectively.

研究动机与目标

• 解决多领域、多代理对话系统中指代表达解析与对话状态追踪的挑战，尤其针对不同语义表示形式的异构系统。
• 消除在异构领域间集成代理时，手动进行模式对齐以及重新训练领域特定SLU模型的需要。
• 通过使用自然语言作为代理间的通用API，提升工业级对话平台的可扩展性与模块化程度。
• 通过序列到序列的重写方法，利用对话历史实现代词与零回指的准确消歧。
• 证明查询重写可显著提升下游SLU性能，且无需修改现有代理架构。

提出的方法

• 该模型使用指针-生成网络（PGN）将用户话语重写为上下文相关的自然语言查询，保留原始意图并解决指代问题。
• 输入为对话轮次序列，包括用户话语与系统回复，被编码为单个标记序列，包含领域、意图及去词汇化实体占位符。
• 引入多任务学习目标，以引导PGN的注意力机制，而无需额外标注数据，从而提升长距离指代解析能力。
• 对实体（如将'Yuval Harari'表示为'Entity S1'）应用去词汇化处理，以在未见姓名上保持泛化性，同时保留槽位结构。
• 模型被训练为生成与原始话语语义等价但显式包含先前提及实体的重写查询。
• 重写后的查询可直接输入至现有的领域特定SLU系统，实现即插即用的集成，无需架构修改。

实验结果

研究问题

• RQ1 上下文查询重写是否能提升具有异构SLU模式的多领域系统中的对话状态追踪性能？
• RQ2 带有多任务学习的指针-生成网络在对话中解析长距离指代表达方面效果如何？
• RQ3 自然语言重写在多大程度上可作为独立开发的对话代理之间的通用接口？
• RQ4 查询重写在多大程度上可减少对人工模式对齐及领域特定SLU模型重新训练的需求？
• RQ5 该方法是否能泛化至零回指与非代词指代（如'地址是什么？'）？

主要发现

• 所提出的CQR模型在内部测试数据中最具挑战性的子集上，实体F1相对提升了超过20%，尤其在距离≥3轮的指代中表现显著。
• 在InCar基准测试中，查询重写提升了端到端对话模型的性能，证明了其在不同数据集间的泛化能力。
• 与基础指针-生成网络相比，多任务学习目标使源自至少三轮前话语的槽位错误率降低了3.2%。
• 该方法可在不修改SLU或DST组件的前提下，实现领域特定代理的无缝集成，显著提升模块化与可扩展性。
• 通过自然语言重写将对话上下文显式关联，该方法能有效解决零回指与非代词指代（如'地址是什么？'）问题。
• 模型的黑箱特性使其可与任何现有SLU系统集成，显著降低工业级对话平台的部署复杂度。