[论文解读] Exploring Dense Retrieval for Dialogue Response Selection

Tian Lan, Deng Cai+4 more|arXiv (Cornell University)|Oct 13, 2021

Topic Modeling参考文献 29被引用 4

一句话总结

本文提出 DR-BERT，一种用于对话回复选择的密集检索模型，结合双编码器架构与轻量级交互层，在保持高推理效率的同时实现最先进性能。通过整合同批对比学习、非平行领域自适应和数据增强，DR-BERT 在重排序和全排序设置下均优于强基线交叉编码器模型，尤其在从大规模或非平行候选池中检索时表现更优。

ABSTRACT

Recent progress in deep learning has continuously improved the accuracy of dialogue response selection. In particular, sophisticated neural network architectures are leveraged to capture the rich interactions between dialogue context and response candidates. While remarkably effective, these models also bring in a steep increase in computational cost. Consequently, such models can only be used as a re-rank module in practice. In this study, we present a solution to directly select proper responses from a large corpus or even a nonparallel corpus that only consists of unpaired sentences, using a dense retrieval model. To push the limits of dense retrieval, we design an interaction layer upon the dense retrieval models and apply a set of tailor-designed learning strategies. Our model shows superiority over strong baselines on the conventional re-rank evaluation setting, which is remarkable given its efficiency. To verify the effectiveness of our approach in realistic scenarios, we also conduct full-rank evaluation, where the target is to select proper responses from a full candidate pool that may contain millions of candidates and evaluate them fairly through human annotations. Our proposed model notably outperforms pipeline baselines that integrate fast recall and expressive re-rank modules. Human evaluation results show that enlarging the candidate pool with nonparallel corpora improves response quality further.

研究动机与目标

• 开发一种高效的密集检索模型，可直接从大规模或非平行语料库中选择回复，而无需依赖召回-重排序流水线。
• 克服交叉编码器模型的计算瓶颈，后者虽然准确但难以应用于大规模候选池。
• 通过引入交互层，以极低计算成本捕捉细粒度的上下文-回复交互，从而提升密集检索性能。
• 通过在大规模候选池上的人工标注评估，验证模型在真实全排序设置下的有效性。
• 探索在训练和推理中引入非平行语料对提升回复质量的益处。

提出的方法

• DR-BERT 采用双编码器架构，分别对上下文和回复进行编码，支持在大规模候选池上预计算和高效向量搜索。
• 在双编码器之后引入交互层，通过使用预计算的嵌入表示建模上下文-回复和回复-回复之间的交互，以优化匹配分数。
• 模型通过多任务学习进行训练，联合优化双编码器和交互层，共享同一目标函数。
• 在预训练阶段使用同批对比学习，对齐对话上下文与回复候选的语义空间。
• 通过非平行领域自适应预训练，利用未配对的语句语料对 BERT 编码器进行预热，以提升泛化能力。
• 通过正样本扩展和难负样本采样进行数据增强，提升训练数据的质量与多样性。

Figure 1. The overview of our DR-BERT training, offline index, and online inference. $c$ and $r$ represent conversation context and response, respectively. $V_{c}$ and $V_{r}$ denotes their representations in the semantic space. Note that the offline index may come from the nonparallel corpus and th

实验结果

研究问题

• RQ1 密集检索模型是否能在保持高推理效率的同时，优于交叉编码器基线模型？
• RQ2 在双编码器模型中引入交互层是否能显著提升匹配准确率，且计算开销可忽略不计？
• RQ3 在真实全排序设置下，能否有效利用非平行语料来提升回复选择性能？
• RQ4 当候选池规模达到数百万回复时，模型性能如何，相较于小规模预选集合有何差异？
• RQ5 定制化训练策略（如同批对比学习和数据增强）在多大程度上提升了模型的泛化能力和鲁棒性？

主要发现

• DR-BERT 在标准重排序基准上达到最先进性能，优于强基线交叉编码器模型（如 BERT-FP），在 NDCG@3 和 NDCG@5 指标上均表现更优。
• 在 RRS 排名测试集上，DR-BERT 达到 NDCG@3 = 0.710 和 NDCG@5 = 0.783，超越所有基线模型，包括 BERT-FP 和 SA-BERT BERT-FP。
• 交互层引入的计算开销极小，DR-BERT 在 1,000 个候选样本上的推理速度比 SMN 快达 489.68 倍，并在更大候选集上优于 ColBERT。
• 随着候选池规模增大，DR-BERT 显著快于 ColBERT，展现出卓越的可扩展性。
• 人工评估证实，利用非平行语料扩展候选池可提升回复质量，验证了模型在真实场景中的适用性。
• 同批对比学习、非平行领域自适应与数据增强的结合，在所有评估设置下均带来一致的性能提升。

Figure 2. The overview of our designed interaction layer. It contains $N$ transformer decoder layers.