[论文解读] Neural Approaches to Conversational AI

Jianfeng Gao, Michel Galley+1 more|arXiv (Cornell University)|Sep 21, 2018

Topic Modeling被引用 137

一句话总结

这篇论文综述了在三个类别中的对话式AI的神经方法——问题回答、面向任务的对话和社交聊天机器人——并讨论统一的基于RL的视角、训练方法和行业应用。

ABSTRACT

The present paper surveys neural approaches to conversational AI that have been developed in the last few years. We group conversational systems into three categories: (1) question answering agents, (2) task-oriented dialogue agents, and (3) chatbots. For each category, we present a review of state-of-the-art neural approaches, draw the connection between them and traditional approaches, and discuss the progress that has been made and challenges still being faced, using specific systems and models as case studies.

研究动机与目标

• 提供对话式AI在QA、面向任务的对话和社交聊天机器人领域的全面综述。
• 提出将对话视为通过强化学习实现最优决策的统一观点。
• 将神经方法与传统的NLP/IR方法联系起来，突出进展与挑战。
• 概述训练范式（监督学习与强化学习）以及评估技术。
• 展示行业趋势和部署的对话系统的案例研究。

提出的方法

• 将神经对话系统分为QA、面向任务和社交聊天机器人领域。
• 评估各类别的前沿神经模型和训练方案。
• 将神经方法与传统符号方法联系起来，揭示演变与权衡。
• 采用统一的强化学习框架来建模分层对话决策。
• 讨论端到端与模块化架构及其影响。
• 展示行业案例研究，以说明进展与仍存挑战。

实验结果

研究问题

• RQ1 面向QA的最新神经方法有哪些，包括知识库QA与机器阅读理解？
• RQ2 神经方法如何应用于面向任务的对话，以及有哪些有效的训练与评估策略？
• RQ3 神经社交聊天机器人领域的进展与挑战，尤其是在端到端生成和 grounding 方面？
• RQ4 如何将对话框架成一个强化学习中的最优决策过程？
• RQ5 哪些行业系统体现了这些神经方法，它们提供了哪些经验教训？

主要发现

• 神经方法在跨越QA、面向任务和社交聊天机器人任务的多种对话基准上取得了最先进的结果。
• 端到端神经架构正在重塑对话栈，减少对手工设计特征和传统NLP组件的依赖。
• 强化学习提供了一个统一框架，用于学习分层对话策略并在长期参与度与短期任务完成之间取得平衡。
• 将对话系统与世界知识和多模态信息（如图像）接地，提升对话的丰富性和有用性。
• 行业系统（如 Bing QA、Satori QA、 XiaoIce ）展示了神经对话模型的实际部署，并突出了评估、数据和用户参与等持续挑战。