[论文解读] Rethink Training of BERT Rerankers in Multi-Stage Retrieval Pipeline

Luyu Gao, Zhuyun Dai+1 more|arXiv (Cornell University)|Jan 21, 2021

Topic Modeling参考文献 16被引用 8

一句话总结

该论文提出局部对比估计（Localized Contrastive Estimation, LCE），一种用于多阶段检索流水线中 BERT 重排序器的训练方法，通过从目标检索器的 top 结果中采样负样本，并使用对比损失来防止对混淆特征的过拟合，从而提升性能。LCE 在多个检索器上显著提升了 MRR@100，尤其在 MSMARCO 数据集上取得了 40.5 的 MRR@100，位居排行榜首位，达到当前最优水平。

ABSTRACT

Pre-trained deep language models~(LM) have advanced the state-of-the-art of text retrieval. Rerankers fine-tuned from deep LM estimates candidate relevance based on rich contextualized matching signals. Meanwhile, deep LMs can also be leveraged to improve search index, building retrievers with better recall. One would expect a straightforward combination of both in a pipeline to have additive performance gain. In this paper, we discover otherwise and that popular reranker cannot fully exploit the improved retrieval result. We, therefore, propose a Localized Contrastive Estimation (LCE) for training rerankers and demonstrate it significantly improves deep two-stage models.

研究动机与目标

• 探究为何标准 BERT 重排序器训练无法充分利用更强的第一阶段检索器所提供的改进候选列表。
• 解决在高质量检索器生成的困难负样本中，重排序器因混淆特征而崩溃的问题。
• 提出一种训练方法，以增强高性能检索流水线中重排序器的鲁棒性与有效性。
• 证明在相同 BERT 架构下，更优的训练方法可超越更复杂的模型。

提出的方法

• LCE 仅从目标第一阶段检索器（如 HDCT 或 BM25）的 top-m 结果中采样负样本，将负样本分布局部化以匹配实际候选池。
• 采用对比损失函数，对包含一个正样本和多个负样本的文档-查询对组计算归一化得分，鼓励正样本获得更高排名。
• 损失函数定义为 $\mathcal{L}_q = -\log \frac{\exp(dist(q,d^{+}_{q}))}{\sum_{d \in G_q} \exp(dist(q,d))}$，其中 $G_q$ 包含来自目标检索器 top 结果的一个正样本和多个负样本。
• 该方法使用与基线方法相同的 BERT 模型，但将二元交叉熵训练替换为在局部化负样本上的对比学习。
• 训练数据根据目标检索器的输出按查询重新采样，确保训练与推理条件的一致性。
• 该方法兼容模型集成，且除标准微调外不增加额外的推理或训练开销。

实验结果

研究问题

• RQ1 为何简单地将 BERT 重排序器附加到更强的第一阶段检索器上无法获得预期的性能提升？
• RQ2 高质量检索器生成的困难负样本中的混淆特征如何影响标准 BERT 重排序器训练？
• RQ3 使用局部化负样本的对比损失能否提升多阶段检索中重排序器的泛化能力和鲁棒性？
• RQ4 负样本采样策略的选择——尤其是对目标检索器输出的局部化——是否会影响重排序器性能？
• RQ5 在使用相同 BERT 模型的情况下，更优的训练方法能否超越模型架构的改进？

主要发现

• LCE 在所有测试的第一阶段检索器上均显著提升了 MRR@100，在 MSMARCO 开发集上提升幅度为 2.6 至 3.5 个百分点。
• 在 MSMARCO 排行榜上，HDCT + LCE 集成模型实现了 40.5 的 MRR@100，获得第一名，并创下新的 SOTA 记录。
• LCE 的性能增益随第一阶段检索器强度的提升而增加，表明其能更有效地处理来自更强检索器的复杂困难负样本。
• 将负样本采样局部化至目标检索器的 top 结果至关重要：当负样本从较弱或无关的检索器中采样时，性能急剧下降。
• 经 LCE 训练的重排序器对分布偏移表现出更强的鲁棒性，在测试检索器与训练检索器不一致时仍能更好地泛化。
• 带有多个负样本的对比损失可防止模型崩溃，增强判别能力，尤其在存在混淆特征时表现更优。