[论文解读] A Probabilistic End-To-End Task-Oriented Dialog Model with Latent Belief States towards Semi-Supervised Learning

Yichi Zhang, Zhijian Ou+2 more|arXiv (Cornell University)|Sep 17, 2020

Topic Modeling参考文献 40被引用 4

一句话总结

本文提出LABES，一种将信念状态视为隐变量的基于概率的端到端任务导向对话模型，支持利用未标注对话数据进行半监督学习。通过利用变分推断与一种增强复制的序列到序列架构（LABES-S2S），该模型在基准数据集上实现了最先进性能，并在MultiWOZ上将标注需求减少了50%而未造成性能损失。

ABSTRACT

Structured belief states are crucial for user goal tracking and database query in task-oriented dialog systems. However, training belief trackers often requires expensive turn-level annotations of every user utterance. In this paper we aim at alleviating the reliance on belief state labels in building end-to-end dialog systems, by leveraging unlabeled dialog data towards semi-supervised learning. We propose a probabilistic dialog model, called the LAtent BElief State (LABES) model, where belief states are represented as discrete latent variables and jointly modeled with system responses given user inputs. Such latent variable modeling enables us to develop semi-supervised learning under the principled variational learning framework. Furthermore, we introduce LABES-S2S, which is a copy-augmented Seq2Seq model instantiation of LABES. In supervised experiments, LABES-S2S obtains strong results on three benchmark datasets of different scales. In utilizing unlabeled dialog data, semi-supervised LABES-S2S significantly outperforms both supervised-only and semi-supervised baselines. Remarkably, we can reduce the annotation demands to 50% without performance loss on MultiWOZ.

研究动机与目标

• 减少端到端任务导向对话系统对昂贵的逐轮信念状态标注的依赖。
• 通过隐变量建模利用未标注对话数据，实现有效的半监督学习。
• 开发一种概率生成模型，联合推断信念状态并生成系统回复。
• 证明未标注对话数据中包含可利用的线索，即使没有显式标注也能用于信念追踪。
• 在显著减少标注需求的情况下实现强大性能，尤其在低资源设置下。

提出的方法

• 将对话系统建模为条件生成模型：pθ(b1:T, r1:T | u1:T)，其中信念状态b1:T为隐变量。
• 采用变分推断框架，在混合使用标注与未标注数据的情况下优化模型。
• 提出LABES-S2S，一种用于端到端响应生成与信念追踪的增强复制序列到序列实现。
• 使用注意力机制与复制机制以保留槽位值并提升回复流畅性。
• 利用用户输入与系统回复中的隐含线索（如词语重复或查询结果）以辅助信念状态推断。
• 在变分学习框架中应用后验正则化与自编码目标，以提升泛化能力。

实验结果

研究问题

• RQ1 信念状态能否被有效建模为隐变量，以减少对标注训练数据的依赖？
• RQ2 未标注对话数据在多大程度上能提升端到端对话系统中的信念追踪与响应生成性能？
• RQ3 在低资源设置下，所提出的半监督学习框架与仅监督学习及先前半监督基线相比表现如何？
• RQ4 当训练数据减少50%时，模型是否能维持或提升性能，特别是在MultiWOZ等大规模基准上？
• RQ5 用户输入与系统回复中的隐含线索在无显式标注的情况下，对增强信念状态推断起到何种作用？

主要发现

• LABES-S2S在CamRest676与In-Car数据集上实现了最先进联合目标准确率，并在MultiWOZ 2.1上优于非预训练模型。
• 半监督的LABES-S2S在所有三个基准数据集上均显著优于仅监督学习与先前半监督基线。
• 在MultiWOZ上，模型在仅使用50%标注数据时仍保持49.47%的联合目标准确率，与使用100%标注数据时的50.05%相比，性能无损失，表明标注成本减半。
• 该模型在MultiWOZ上减少了约30,000个信念状态标注，且未造成性能退化。
• 当标注数据稀缺时，半监督变体性能提升更大，尤其在10%标注比例时提升最为显著。
• 案例研究显示，半监督学习使模型能够捕捉隐含用户目标，并通过学习如'British'等提示词改善回复质量，同时避免错误传播。