[论文解读] Neural Assistant: Joint Action Prediction, Response Generation, and Latent Knowledge Reasoning

Arvind Neelakantan, Semih Yavuz+6 more|arXiv (Cornell University)|Oct 31, 2019

Topic Modeling参考文献 24被引用 13

一句话总结

Neural Assistant 提出了一种统一的神经网络，无需显式信念状态标注，即可在任务导向对话中联合预测动作并生成响应。通过利用响应生成和动作预测的弱监督，它能有效利用外部知识库进行推理，在事实准确性方面优于 Transformer 模型，并在提供理想信念状态时超越基线模型。

ABSTRACT

Task-oriented dialog presents a difficult challenge encompassing multiple problems including multi-turn language understanding and generation, knowledge retrieval and reasoning, and action prediction. Modern dialog systems typically begin by converting conversation history to a symbolic object referred to as belief state by using supervised learning. The belief state is then used to reason on an external knowledge source whose result along with the conversation history is used in action prediction and response generation tasks independently. Such a pipeline of individually optimized components not only makes the development process cumbersome but also makes it non-trivial to leverage session-level user reinforcement signals. In this paper, we develop Neural Assistant: a single neural network model that takes conversation history and an external knowledge source as input and jointly produces both text response and action to be taken by the system as output. The model learns to reason on the provided knowledge source with weak supervision signal coming from the text generation and the action prediction tasks, hence removing the need for belief state annotations. In the MultiWOZ dataset, we study the effect of distant supervision, and the size of knowledge base on model performance. We find that the Neural Assistant without belief states is able to incorporate external knowledge information achieving higher factual accuracy scores compared to Transformer. In settings comparable to reported baseline systems, Neural Assistant when provided with oracle belief state significantly improves language generation performance.

研究动机与目标

• 解决基于流水线的任务导向对话系统依赖独立优化组件和信念状态标注的局限性。
• 通过联合建模响应生成、动作预测和知识推理，实现在对话系统中的端到端学习。
• 通过利用文本生成和动作预测任务的弱监督，减少对昂贵信念状态标注的依赖。
• 评估模型在低资源和远距离监督设置下有效整合外部知识的能力。
• 证明单一神经模型在响应质量和事实一致性方面均优于多阶段系统。

提出的方法

• 模型以对话历史和外部知识库作为输入，采用基于 Transformer 的架构，并在知识三元组上使用交叉注意力机制。
• 通过共享头和任务特定头，联合预测系统响应和下一步动作（例如，restaurant-book）。
• 通过弱监督进行端到端训练：使用响应生成损失和动作预测损失，无需信念状态标注。
• 通过注意力机制实现知识对齐，使模型在解码过程中关注相关知识库三元组。
• 通过使用知识库中的负样本模拟未观察到或错误的事实，应用远距离监督。
• 在 MultiWOZ 数据集上评估模型，并对知识库大小和监督类型进行消融研究。

实验结果

研究问题

• RQ1 能否在无需显式信念状态监督的情况下，使用单一神经网络在任务导向对话中联合预测动作并生成响应？
• RQ2 在远距离监督下，模型性能如何随外部知识库大小变化？
• RQ3 与标准的基于 Transformer 的基线模型相比，该模型在知识对齐的对话生成中是否实现了更高的事实准确性？
• RQ4 当提供理想信念状态时，与基线系统相比，该模型的性能如何？
• RQ5 仅通过响应和动作预测的弱监督，该模型能否有效利用外部知识进行推理？

主要发现

• 在无信念状态标注的情况下，Neural Assistant 的事实准确性高于标准 Transformer 模型，尤其在知识库较小时（例如，100 个三元组）表现更优，实体 F-1 得分为 74.0%。
• 随着知识库规模增大，性能略有下降，在 28,483 个三元组时，实体 F-1 降至 42.9%，表明在大规模知识库上存在扩展挑战。
• 当提供理想信念状态时，Neural Assistant 显著提升了响应生成性能，在 BLEU 和流畅性方面优于报告的基线系统。
• 即使在大规模知识库下，该模型仍保持强大的动作预测性能（F-1 最高达 90.2%），显示出在动作预测上的鲁棒性。
• 远距离监督有助于模型学习知识推理，但随着负样本增加，性能下降，表明对噪声监督较为敏感。
• 该模型成功处理了多轮、多意图对话（例如，在一次对话中同时预订酒店和餐厅），展示了联合推理与生成的能力。