[论文解读] Alquist 4.0: Towards Social Intelligence Using Generative Models and Dialogue Personalization

Jakub Konrád, Jan Pichl+6 more|arXiv (Cornell University)|Sep 16, 2021

Topic Modeling参考文献 27被引用 11

一句话总结

Alquist 4.0 引入了一种混合对话系统，结合手工设计的对话流程与微调后的基于 DialoGPT 的神经响应生成器（NRG），以提升开放域对话中的连贯性与参与度。通过检测域外输入并生成上下文相关的回应——尤其是针对知识问答的后续问题——该系统在保持对话流畅性的同时实现个性化交互，实现了超过 90% 的响应类型（陈述句/疑问句）控制准确率，且在 GPU 上的推理时间低于 400ms。

ABSTRACT

The open domain-dialogue system Alquist has a goal to conduct a coherent and engaging conversation that can be considered as one of the benchmarks of social intelligence. The fourth version of the system, developed within the Alexa Prize Socialbot Grand Challenge 4, brings two main innovations. The first addresses coherence, and the second addresses the engagingness of the conversation. For innovations regarding coherence, we propose a novel hybrid approach combining hand-designed responses and a generative model. The proposed approach utilizes hand-designed dialogues, out-of-domain detection, and a neural response generator. Hand-designed dialogues walk the user through high-quality conversational flows. The out-of-domain detection recognizes that the user diverges from the predefined flow and prevents the system from producing a scripted response that might not make sense for unexpected user input. Finally, the neural response generator generates a response based on the context of the dialogue that correctly reacts to the unexpected user input and returns the dialogue to the boundaries of hand-designed dialogues. The innovations for engagement that we propose are mostly inspired by the famous exploration-exploitation dilemma. To conduct an engaging conversation with the dialogue partners, one has to learn their preferences and interests -- exploration. Moreover, to engage the partner, we have to utilize the knowledge we have already learned -- exploitation. In this work, we present the principles and inner workings of individual components of the open-domain dialogue system Alquist developed within the Alexa Prize Socialbot Grand Challenge 4 and the experiments we have conducted to evaluate them.

研究动机与目标

• 通过处理偏离预设对话流程的意外用户输入，提升开放域对话系统的连贯性。
• 通过基于交互过程中学习到的用户偏好来个性化对话，提升用户参与度。
• 在不损害响应质量或推理速度的前提下，有效整合生成模型到结构化对话系统中。
• 在实时对话管理中平衡探索（学习用户偏好）与利用（应用已学习的偏好）。
• 开发一种可扩展、可控的神经响应生成器，能够在上下文中生成相关联的陈述句与疑问句。

提出的方法

• 采用混合架构，将手工设计的对话图与神经响应生成器结合，其中预定义的对话流程引导高质量交互。
• 域外（OOD）检测作为意图分类器的扩展实现，用于识别超出脚本对话范围的输入。
• 使用特殊标记（STATEMENT、QUESTION）对微调后的 DialoGPT 模型进行条件控制，以优化响应类型并提升连贯性。
• 神经响应生成器（NRG）负责生成域外输入的响应以及知识问答的后续问题，确保对话的持续性。
• Skimmer 从用户输入中提取提及的实体与兴趣，用于填充用户档案，支持个性化对话管理。
• 对话管理器利用用户档案选择合适的对话路径、知识问答内容或响应，实现对已学习偏好的利用。

实验结果

研究问题

• RQ1 当用户偏离预设对话流程时，对话系统如何维持连贯性？
• RQ2 微调后的生成模型在开放域对话中，能在多大程度上生成上下文相关、控制优化的响应（陈述句 vs. 疑问句）？
• RQ3 系统在实时环境中学习并有效利用用户偏好的能力有多强，从而提升参与度？
• RQ4 在实时对话系统中部署生成模型时，响应质量、控制能力与推理速度之间的权衡如何？
• RQ5 结合脚本化对话与神经生成的混合系统，是否能在连贯性与参与度方面优于纯规则驱动或端到端生成模型？

主要发现

• 在 EmpatheticDialogues 数据集上微调的大型 DialoGPT 模型在域外（OOD）响应生成任务中表现最佳。
• 在 Topical-Chat 数据集上微调的大型 DialoGPT 模型在生成知识问答后续问题方面表现最佳。
• 响应类型控制（陈述句 vs. 疑问句）在大多数模型变体中均超过 90% 的准确率，表明对输出格式具有强大控制能力。
• 大型 DialoGPT 模型在 GPU 上生成五个响应变体的时间低于 400ms，具备实时部署的可行性。
• 生成的响应正确引用了输入中的实体与活动，展示了上下文相关性与连贯性。
• OOD 检测与 NRG 的集成使系统即使在用户引入意外话题时，也能维持对话流程。