[论文解读] Interactive Matching Network for Multi-Turn Response Selection in Retrieval-Based Chatbots

Jia-Chen Gu, Zhen-Hua Ling+1 more|arXiv (Cornell University)|Jan 7, 2019

Topic Modeling参考文献 12被引用 10

一句话总结

本文提出了一种用于检索式聊天机器人多轮对话响应选择的交互式匹配网络（IMN），通过整合多层次词表示、注意力机制的层次化循环编码器（AHRE）以及双向上下文-响应匹配机制，提升了匹配准确率。IMN在四个不同数据集上均达到当前最优性能，R@10指标相比先前模型最高提升12.0%。

ABSTRACT

In this paper, we propose an interactive matching network (IMN) for the multi-turn response selection task. First, IMN constructs word representations from three aspects to address the challenge of out-of-vocabulary (OOV) words. Second, an attentive hierarchical recurrent encoder (AHRE), which is capable of encoding sentences hierarchically and generating more descriptive representations by aggregating with an attention mechanism, is designed. Finally, the bidirectional interactions between whole multi-turn contexts and response candidates are calculated to derive the matching information between them. Experiments on four public datasets show that IMN outperforms the baseline models on all metrics, achieving a new state-of-the-art performance and demonstrating compatibility across domains for multi-turn response selection.

研究动机与目标

• 通过融合多种词表示来源，解决多轮对话系统中未登录词（OOV）的问题。
• 利用注意力机制的层次化循环编码器，整合所有RNN层的表示，提升句子级表征能力，以捕捉上下文与句法信息。
• 通过建模多轮对话与响应候选之间的双向交互，提升上下文-响应匹配效果。
• 在系统故障排除、社交媒体和电子商务等多样化领域中，验证所提模型的泛化性与鲁棒性。
• 通过消融实验验证模型架构中各组件的贡献。

提出的方法

• 通过融合通用预训练词嵌入、任务特定词嵌入以及字符级嵌入，构建词表示，以缓解OOV问题。
• 采用多层双向LSTM的注意力机制层次化循环编码器（AHRE），通过学习各层的注意力权重，聚合所有隐藏层的表示。
• 应用匹配机制，计算整个上下文与每个响应候选之间的双向注意力，捕捉细粒度交互。
• 通过最大池化与拼接操作聚合匹配特征，形成最终的匹配向量用于分类。
• 将匹配向量输入多层感知机（MLP），最终预测上下文-响应匹配得分。
• 使用Sigmoid交叉熵损失函数，在标注的上下文-响应对上端到端优化模型。

实验结果

研究问题

• RQ1 如何增强词表示以更好地处理多轮对话系统中的未登录词（OOV）？
• RQ2 来自多层RNN的层次化表示在多大程度上提升了响应选择的句子编码效果？
• RQ3 上下文与响应候选之间的双向交互建模对匹配性能有何影响？
• RQ4 各组件（AHRE、字符嵌入、匹配机制）对整体模型性能的贡献如何？
• RQ5 所提模型能否在技术支援、社交媒体和电子商务等多样化领域中实现良好泛化？

主要发现

• IMN在四个公开数据集（Ubuntu V1、Ubuntu V2、Douban和E-commerce）上均达到当前最优性能，相比先前模型在R@10指标上最高提升12.0%。
• 在Ubuntu V1数据集上，IMN相比先前SOTA模型在R@10上提升2.6%，表明其在系统故障排除对话中的强大性能。
• 在Ubuntu V2数据集上，模型在R@10上实现了11.9%的相对提升，表明其在复杂、多轮技术对话中的鲁棒性。
• 在包含多个正确响应的Douban语料上，IMN在MAP上提升2.0%，在MRR上提升1.4%，表明其排名质量显著增强。
• 消融实验表明，移除AHRE、字符嵌入或匹配机制均导致性能显著下降，其中匹配组件贡献最大（R@10下降14.2%）。
• 注意力权重可视化显示，模型能有效突出相关词汇（如“router”、“ethernet”），同时抑制无关词汇（如“the”、“tried”），验证了其可解释性与注意力学习能力。