[论文解读] Addressee and Response Selection in Multi-Party Conversations with Speaker Interaction RNNs

Rui Zhang, Honglak Lee+2 more|arXiv (Cornell University)|Sep 12, 2017

Speech and dialogue systems被引用 26

一句话总结

该论文提出Speaker Interaction RNN（SI-RNN），一种用于多方对话中发话人与回复选择的联合模型，通过为发送者、接收者和观察者分别使用独立的GRU单元，以角色敏感的方式更新说话人嵌入。SI-RNN通过联合预测发话人-回复对，实现了最先进性能，在复杂、长上下文对话中，尤其是存在多个并行子对话时，显著提升了准确率。

ABSTRACT

In this paper, we study the problem of addressee and response selection in multi-party conversations. Understanding multi-party conversations is challenging because of complex speaker interactions: multiple speakers exchange messages with each other, playing different roles (sender, addressee, observer), and these roles vary across turns. To tackle this challenge, we propose the Speaker Interaction Recurrent Neural Network (SI-RNN). Whereas the previous state-of-the-art system updated speaker embeddings only for the sender, SI-RNN uses a novel dialog encoder to update speaker embeddings in a role-sensitive way. Additionally, unlike the previous work that selected the addressee and response separately, SI-RNN selects them jointly by viewing the task as a sequence prediction problem. Experimental results show that SI-RNN significantly improves the accuracy of addressee and response selection, particularly in complex conversations with many speakers and responses to distant messages many turns in the past.

研究动机与目标

• 解决在多方对话中说话人角色（发送者、接收者、观察者）随对话轮次动态变化的建模挑战。
• 克服先前模型仅更新发送者嵌入且分别选择发话人与回复所导致的预测不一致问题。
• 通过联合预测候选集中最合适的发话人与回复，提升检索式对话系统的性能。
• 在长上下文对话中提升性能，特别是对跨越多轮的远距离消息的回复。
• 通过显式建模说话人交互动态，使多方对话系统更加自然且上下文连贯。

提出的方法

• 设计一种角色敏感的对话编码器，使用独立的GRU单元，根据说话人在每轮对话中的当前角色（发送者、接收者、观察者）更新说话人嵌入。
• 保持动态说话人嵌入，使其随时间演变，捕捉角色特异性状态与交互历史。
• 将发话人与回复选择建模为联合序列预测问题，联合建模给定回复时发话人的条件概率，反之亦然。
• 在推理过程中最大化发话人-回复对的联合概率，确保选择的一致性。
• 使用话语嵌入（例如，来自预训练模型）作为对话编码器的输入，再通过角色感知门控机制更新说话人表征。
• 使用公开基准数据集中的标注发话人-回复对，通过交叉熵损失端到端训练模型。

实验结果

研究问题

• RQ1 与仅更新发送者嵌入的模型相比，角色敏感的说话人嵌入更新是否能提升多方对话中发话人与回复选择的性能？
• RQ2 联合预测发话人与回复对是否能带来比独立选择策略更一致且更准确的选择？
• RQ3 该模型在具有多个并行子对话和长距离依赖的复杂对话中表现如何？
• RQ4 即使对话焦点已转移，模型是否能有效恢复并回应数轮之前发送的消息？
• RQ5 在多说话人和高对话复杂度场景下，模型性能提升的幅度有多大？

主要发现

• SI-RNN在复杂对话中，尤其是在多说话人场景下，显著优于先前最先进模型Dynamic-RNN，大幅提升了发话人与回复选择的准确率。
• 该模型在选择远距离消息回复方面表现优异，展现出强大的长上下文记忆能力和角色感知推理能力。
• 案例研究显示，SI-RNN能成功识别并加入新子对话（例如，回应关于Ubuntu笔记本电脑的'leaving'），而基线模型则无法做到。
• 当发话人并非最近发言者时，SI-RNN仍能正确选择相关回复，而Dynamic-RNN则表现出对最近互动的偏见。
• 联合预测机制减少了不一致的发话人-回复对，这在真实IRC对话的定性分析中得到验证。
• 模型通过维护和更新角色特异性嵌入，能够跟踪多个并行对话，并对每个对话做出恰当响应。