[论文解读] Neural Ranking Models with Weak Supervision

Mostafa Dehghani, Hamed Zamani+3 more|arXiv (Cornell University)|Apr 28, 2017

Topic Modeling参考文献 29被引用 4

一句话总结

本文提出使用无监督信息检索模型（如BM25）生成弱监督信号来训练神经排序模型，从而在无需人工标注的情况下构建大规模训练数据。通过利用数十亿个弱标签的查询-文档对，作者在Robust04和ClueWeb数据集上分别实现了超过13%和35%的MAP提升，表明在有限标注数据下，基于弱监督数据的预训练能显著提升性能。

ABSTRACT

Despite the impressive improvements achieved by unsupervised deep neural networks in computer vision and NLP tasks, such improvements have not yet been observed in ranking for information retrieval. The reason may be the complexity of the ranking problem, as it is not obvious how to learn from queries and documents when no supervised signal is available. Hence, in this paper, we propose to train a neural ranking model using weak supervision, where labels are obtained automatically without human annotators or any external resources (e.g., click data). To this aim, we use the output of an unsupervised ranking model, such as BM25, as a weak supervision signal. We further train a set of simple yet effective ranking models based on feed-forward neural networks. We study their effectiveness under various learning scenarios (point-wise and pair-wise models) and using different input representations (i.e., from encoding query-document pairs into dense/sparse vectors to using word embedding representation). We train our networks using tens of millions of training instances and evaluate it on two standard collections: a homogeneous news collection(Robust) and a heterogeneous large-scale web collection (ClueWeb). Our experiments indicate that employing proper objective functions and letting the networks to learn the input representation based on weakly supervised data leads to impressive performance, with over 13% and 35% MAP improvements over the BM25 model on the Robust and the ClueWeb collections. Our findings also suggest that supervised neural ranking models can greatly benefit from pre-training on large amounts of weakly labeled data that can be easily obtained from unsupervised IR models.

研究动机与目标

• 探究无监督信息检索模型（如BM25）是否可作为有效弱监督信号用于训练神经排序模型。
• 评估在弱监督设置下，不同输入表示和学习目标（点对式 vs. 对比式）的影响。
• 确定在标注数据稀缺的情况下，基于弱监督数据的预训练是否能提升监督排序模型的性能。
• 识别在弱监督神经排序中实现高性能的关键设计因素。

提出的方法

• 使用BM25自动为数百万个查询-文档对生成二元相关性标签（相关为1，不相关为0）。
• 在数十亿个弱标签实例上训练前馈神经网络，输入表示涵盖原始嵌入向量至密集/稀疏向量。
• 采用点对式与对比式学习目标，重点优化排序性能而非校准得分，以减少对弱标签的过拟合。
• 允许网络端到端学习查询与文档表示，而非依赖固定特征工程。
• 在少量标注数据上进行微调前，先在弱监督数据上进行深度神经网络的预训练，以提升泛化能力。
• 在标准的即席检索基准测试集Robust04和ClueWeb09-B上评估模型性能。

实验结果

研究问题

• RQ1 RQ1：能否将无监督信息检索模型（如BM25）的标签作为弱监督信号，用于训练有效的神经排序模型？
• RQ2 RQ2：在该设置下，哪种输入表示和学习目标最为合适？
• RQ3 RQ3：在标注数据有限的情况下，监督学习模型是否能从弱监督阶段获益？

主要发现

• 表现最佳的神经排序模型在Robust04数据集上相比BM25实现了超过13%的MAP提升，在ClueWeb数据集上提升了超过35%。
• 即使完全不使用人工标注数据，神经模型的性能仍优于生成弱标签的BM25模型，表明其泛化能力已超越弱监督信号本身。
• 在仅有少量标注数据时，基于弱监督数据的预训练显著提升了监督模型的性能。
• 性能最优的模型通过端到端学习输入表示，而非依赖固定特征集，从而实现更好的泛化能力。
• 设计以排序优化为目标而非校准得分的损失函数，有助于网络避免对弱标签数据中缺陷的过拟合。
• 借助弱监督生成的大规模训练数据，是本设置下深度神经网络取得成功的关键因素。