[论文解读] Better than the real thing? Iterative pseudo-query processing using cluster-based language models

Oren Kurland, Lillian Lee+1 more|ArXiv.org|Jan 11, 2006

Topic Modeling参考文献 23被引用 10

一句话总结

本文提出一种基于聚类语言模型的迭代伪查询检索方法，以改进即兴信息检索。通过将检索结果中排名靠前的文档视为伪查询，并利用基于聚类的语言模型进行重排序，该方法提升了方面召回率并减少了查询漂移，其性能与最先进的方法（如相关性模型和Rocchio）相当。

ABSTRACT

We present a novel approach to pseudo-feedback-based ad hoc retrieval that uses language models induced from both documents and clusters. First, we treat the pseudo-feedback documents produced in response to the original query as a set of pseudo-queries that themselves can serve as input to the retrieval process. Observing that the documents returned in response to the pseudo-queries can then act as pseudo-queries for subsequent rounds, we arrive at a formulation of pseudo-query-based retrieval as an iterative process. Experiments show that several concrete instantiations of this idea, when applied in conjunction with techniques designed to heighten precision, yield performance results rivaling those of a number of previously-proposed algorithms, including the standard language-modeling approach. The use of cluster-based language models is a key contributing factor to our algorithms' success.

研究动机与目标

• 为解决传统伪反馈在即兴检索中的局限性，特别是方面召回率低和查询漂移问题。
• 通过将检索结果中排名靠前的文档视为伪查询并迭代优化，以提升检索性能。
• 利用基于聚类的语言模型捕捉语料库结构，以揭示用户信息需求的潜在方面。
• 通过重新锚定技术减少查询漂移，保持与原始查询的相关性。
• 评估基于文档呈现生成的伪查询是否能在检索效果上超越原始查询。

提出的方法

• 该方法将查询的排名靠前文档视为伪查询，并将其作为后续检索迭代的输入。
• 从文档聚类中构建基于聚类的语言模型，以表示用户信息需求的潜在方面，从而提升方面召回率。
• 通过重新锚定技术（如P*插值和截断P*重排序）实现查询漂移缓解，以保持与原始查询的相关性。
• 利用语言模型概率根据文档对当前伪查询的呈现效果对文档进行排序。
• 执行多轮迭代，每轮均使用前一轮中最佳的文档呈现结果来优化伪查询集合。
• 在多个语料库上使用标准信息检索指标评估该方法，并与基线方法和最先进方法进行比较。

实验结果

研究问题

• RQ1 使用文档呈现作为新查询的迭代伪查询处理，是否能超越标准语言建模方法，提升检索性能？
• RQ2 与文档级模型相比，基于聚类的语言模型在提升方面召回率方面有多大的增强效果？
• RQ3 在迭代检索过程中，重新锚定技术在缓解查询漂移方面的有效性如何？
• RQ4 增加初始检索文档数量（τ₁）是否会降低性能？所提出的方法如何应对这一问题？
• RQ5 基于检索结果中排名靠前文档生成的伪查询，是否能在检索效果上超越原始查询？

主要发现

• 所提出的基于聚类的迭代方法在平均精度和召回率方面显著优于标准语言建模方法。
• P*插值被证明是最有效的查询漂移预防技术，在所有语料库中均优于截断P*重排序。
• 该方法对τ₁（初始检索文档数量）的增加表现出更强的鲁棒性，在τ₁增大时仍能保持高精度。
• 基于聚类的方法显示出垂直性能趋势（召回率随τ₁增加而提升），而截断相关性模型则表现出水平退化，表明二者具有互补优势。
• 结合聚类模型的迭代方法在伪反馈任务中，其性能与Rocchio方法相当或更优，且优于Lavrenko和Croft的相关性模型。
• 迭代P*插值在两个语料库上的性能与P*插值持平，表明其在多轮迭代中具有稳定性与可扩展性。