[论文解读] Challenges in Building Intelligent Open-domain Dialog Systems

Minlie Huang, Xiaoyan Zhu+1 more|arXiv (Cornell University)|May 13, 2019

Topic Modeling参考文献 167被引用 44

一句话总结

本综述评估神经方法在开放域对话系统中的应用，聚焦于语义、一致性和互动性，并讨论检索、生成与混合方法以应对这些挑战。

ABSTRACT

There is a resurgent interest in developing intelligent open-domain dialog systems due to the availability of large amounts of conversational data and the recent progress on neural approaches to conversational AI. Unlike traditional task-oriented bots, an open-domain dialog system aims to establish long-term connections with users by satisfying the human need for communication, affection, and social belonging. This paper reviews the recent works on neural approaches that are devoted to addressing three challenges in developing such systems: semantics, consistency, and interactiveness. Semantics requires a dialog system to not only understand the content of the dialog but also identify user's social needs during the conversation. Consistency requires the system to demonstrate a consistent personality to win users trust and gain their long-term confidence. Interactiveness refers to the system's ability to generate interpersonal responses to achieve particular social goals such as entertainment, conforming, and task completion. The works we select to present here is based on our unique views and are by no means complete. Nevertheless, we hope that the discussion will inspire new research in developing more intelligent dialog systems.

研究动机与目标

• 推动开放域对话在实现长期用户参与和社会互动方面的目标。
• 识别并阐明三个核心挑战：语义、一致性和互动性。
• 比较并综合用于开放域对话的神经方法（检索、生成、混合）。
• 讨论将真实世界知识与人物设定（persona）结合的 grounding，以实现更自然的互动。
• 概述评估方法和基准，以指导未来研究。

提出的方法

• 描述开放域对话的端到端应答生成框架。
• 在统一评分公式 P( Y | X t, C t ) 中描述基于检索、基于生成和混合方法的特征。
• 解释用于检索式应答排序的浅层与深层交互网络。
• 概述编码器–解码器生成架构，包括注意力机制和预训练语言模型的作用。
• 讨论诸如知识定位、人物定位和情感定位等 grounding 技巧。
• 综述开放域对话建模的评估方法和常用基准。

实验结果

研究问题

• RQ1 神经开放域对话系统在语义、一致性和互动性方面的核心挑战是什么？
• RQ2 基于检索、生成与混合的架构如何应对这些挑战？
• RQ3 哪些 grounding 策略能提升回答的内容丰富性和人际质量？
• RQ4 哪些评估方法与基准最能体现开放域对话的质量和参与度？
• RQ5 未来工作如何推动开放域对话中的长期用户参与？

主要发现

• 神经开放域对话常因语义问题而产生通用化响应，这促使通过丰富理解与 grounding 来改进。
• 基于检索、生成和混合的方法各有优点与局限，混合方法在真实感与新颖性之间提供平衡。
• 深度交互网络和基于 Transformer 的模型（如 BERT、GPT 变体）在检索场景中提升匹配度与应答质量。
• 在人物设定、知识与情感上的 grounding 能提升对话的一致性与互动性。
• 预训练语言模型和任务特定微调在近期对话 AI 评估与挑战中取得了强劲的结果。