[论文解读] Alquist 3.0: Alexa Prize Bot Using Conversational Knowledge Graph

Jan Pichl, Petr Marek+4 more|arXiv (Cornell University)|Nov 6, 2020

Topic Modeling参考文献 14被引用 7

一句话总结

Alquist 3.0 通过引入一种新型对话知识图谱和邻接对（adjacency pair）架构，提升了开放域对话系统中的连贯性与灵活性。通过动态拼接短小、模块化的对话单元，并将用户提供的知识持久化存储于知识图谱中，该系统实现了更高的响应连贯性与更低的延迟，NLU 延迟通过批处理和融合推理模型降低至 204ms。

ABSTRACT

The third version of the open-domain dialogue system Alquist developed within the Alexa Prize 2020 competition is designed to conduct coherent and engaging conversations on popular topics. The main novel contribution is the introduction of a system leveraging an innovative approach based on a conversational knowledge graph and adjacency pairs. The conversational knowledge graph allows the system to utilize knowledge expressed during the dialogue in consequent turns and across conversations. Dialogue adjacency pairs divide the conversation into small conversational structures, which can be combined and allow the system to react to a wide range of user inputs flexibly. We discuss and describe Alquist's pipeline, data acquisition and processing, dialogue manager, NLG, knowledge aggregation, and a hierarchy of adjacency pairs. We present the experimental results of the individual parts of the system.

研究动机与目标

• 解决开放域社交机器人中僵化对话结构的局限性，此类结构在面对意外用户输入时容易失效。
• 通过存储并重用对话过程中表达的知识，提升对话连贯性与系统鲁棒性。
• 在保持高准确率的前提下，通过模型融合与批处理技术，降低 NLU 组件的系统延迟。
• 实现无需依赖集中式话题切换模块的动态、模块化对话流程。
• 通过结合模板化响应与新兴的生成式建模方法，打造更具适应性与参与感的对话体验。

提出的方法

• 利用对话知识图谱，在会话间持久存储并检索外部知识与用户提供的信息。
• 设计对话邻接对——即小型、可重用的对话单元——以实现灵活、模块化的对话组合。
• 用基于邻接对的子对话动态链式机制替代原有的单体对话自动机。
• 实现多模型 NLU 流水线，采用融合计算图以支持并行推理并降低延迟。
• 通过批处理语音假设与语音段，提升 GPU 利用率并减少端到端响应时间。
• 集成最先进的 NLU 模型，包括基于 BERT 的分段模型，同时优化低延迟推理性能。

实验结果

研究问题

• RQ1 当面对多样化且不可预测的用户输入时，对话系统如何维持连贯性与用户参与度？
• RQ2 对话知识图谱在开放域对话中，能在多大程度上提升用户所提供信息的保留与重用能力？
• RQ3 使用小型、模块化的对话单元（邻接对）是否能在灵活性与鲁棒性方面优于单体对话结构？
• RQ4 在集成多个深度学习模型时，为维持低延迟 NLU 推理，需要哪些优化措施？
• RQ5 模板化响应与早期阶段生成模型的结合，在处理长尾对话场景时效果如何？

主要发现

• 对话知识图谱成功实现了用户所提供事实（如兄弟姐妹数量）在会话间的持久存储与检索，支持上下文感知的响应生成。
• 邻接对的使用消除了对话题切换模块的依赖，通过减少因误分类导致的错误，使第二版的错误率降低了 44%。
• 通过 GPU 加速、输入批处理以及将多个模型融合为单一计算图，NLU 延迟从 835ms 降低至 204ms。
• 系统在生产级硬件上实现了平均 204ms 的 NLU 延迟，满足了 500ms 的目标，支持实时交互。
• 模块化设计使系统即使在用户偏离预期对话路径时，也能生成连贯且上下文相关的响应。
• 与模板化响应结合的生成模型初步实验显示，在处理长尾查询方面具有潜力，但尚未达到生产可用状态。