[论文解读] Few-Shot Generalization Across Dialogue Tasks

В. И. Власов, Akela Drissner-Schmid+1 more|arXiv (Cornell University)|Nov 28, 2018

Speech and dialogue systems参考文献 27被引用 31

一句话总结

本文提出了一种循环嵌入对话策略（REDP），一种神经网络架构，通过注意力和记忆机制将对话状态与系统动作嵌入共享向量空间，从而实现在不同对话任务间有效的少样本泛化。REDP 在处理非合作用户行为方面显著优于LSTM基线模型，并在bAbI对话任务上实现了100%的准确率，其中对先前系统动作的注意力机制是提升小样本数据泛化能力的关键因素。

ABSTRACT

Machine-learning based dialogue managers are able to learn complex behaviors in order to complete a task, but it is not straightforward to extend their capabilities to new domains. We investigate different policies' ability to handle uncooperative user behavior, and how well expertise in completing one task (such as restaurant reservations) can be reapplied when learning a new one (e.g. booking a hotel). We introduce the Recurrent Embedding Dialogue Policy (REDP), which embeds system actions and dialogue states in the same vector space. REDP contains a memory component and attention mechanism based on a modified Neural Turing Machine, and significantly outperforms a baseline LSTM classifier on this task. We also show that both our architecture and baseline solve the bAbI dialogue task, achieving 100% test accuracy.

研究动机与目标

• 研究如何将一种对话任务（如餐厅预订）中的专业知识迁移至新出现的、未见过的任务（如酒店预订）中，且仅使用有限的训练数据。
• 解决处理非合作用户行为（如偏离主题的问题、更正或不完整回应）的挑战，而无需显式硬编码。
• 设计一种能够通过从极少量数据中学习可复用模式而在不同领域间泛化的对话策略。
• 评估注意力机制和记忆组件在提升任务导向对话系统少样本泛化能力方面的有效性。

提出的方法

• REDP将对话状态和系统动作嵌入共享向量空间，从而实现跨任务的知识迁移。
• 该模型采用改进的神经图灵机架构，包含记忆组件和注意力机制，用于关注对话历史的相关部分。
• 系统动作和用户话语通过共享嵌入进行编码，使策略能够对用户和系统回合进行联合推理。
• 策略通过监督学习在对话数据集上进行训练，基于上下文逐步预测动作。
• 通过在一个领域（如酒店）上训练并在另一领域（如餐厅）上测试（或反之）来评估迁移学习效果。
• 消融研究用于分离注意力机制对先前系统动作的关注对泛化性能的贡献。

实验结果

研究问题

• RQ1 在仅使用少量训练数据的情况下，是否能够有效将一种对话策略（如餐厅预订）泛化到新出现的、未见过的任务（如酒店预订）？
• RQ2 对先前系统动作的注意力机制如何提升少样本对话学习中的泛化能力？
• RQ3 对话状态与动作的共享嵌入空间在多大程度上能够实现跨领域迁移？
• RQ4 REDP在处理非合作用户行为方面与标准LSTM基线模型相比表现如何？
• RQ5 该模型是否在bAbI等标准基准任务上取得优异性能，从而表明其具备鲁棒性和泛化能力？

主要发现

• REDP在少样本泛化方面显著优于LSTM基线模型，尤其在训练数据有限的情况下表现更优。
• 消融研究显示，对先前系统动作的注意力机制是提升泛化能力的主要驱动因素。
• REDP在bAbI对话任务上实现了100%的测试准确率，表明其在端到端对话系统标准基准任务上的强大性能。
• 即使不使用注意力机制，REDP仍能达到100%的测试准确率，而LSTM基线模型则无法做到，表明该架构本身具有内在鲁棒性。
• 从餐厅对话迁移至酒店对话仅带来微小的性能增益，表明REDP具有强大的归纳偏置，能够从极小数据中快速学习。
• 通过选择性关注相关对话历史，模型能够成功从非合作用户行为中恢复，如注意力对齐可视化所示。