[论文解读] Comparing and Combining Methods for Automatic Query Expansion

José R. Pérez-Agüera, Lourdes Araujo|ArXiv.org|Apr 13, 2008

Data Management and Algorithms参考文献 1被引用 27

一句话总结

本文评估并结合了基于共现和概率的自动查询扩展方法在信息检索中的应用。结果表明，将这两种互补的方法——使用Tanimoto、Dice和Cosine衡量共现，使用Kullback-Leibler散度或Bose-Einstein统计进行分布分析——整合后，检索性能优于单一方法，联合模型相比基线实现了19.29%的MAP提升。

ABSTRACT

Query expansion is a well known method to improve the performance of information retrieval systems. In this work we have tested different approaches to extract the candidate query terms from the top ranked documents returned by the first-pass retrieval. One of them is the cooccurrence approach, based on measures of cooccurrence of the candidate and the query terms in the retrieved documents. The other one, the probabilistic approach, is based on the probability distribution of terms in the collection and in the top ranked set. We compare the retrieval improvement achieved by expanding the query with terms obtained with different methods belonging to both approaches. Besides, we have developed a naïve combination of both kinds of method, with which we have obtained results that improve those obtained with any of them separately. This result confirms that the information provided by each approach is of a different nature and, therefore, can be used in a combined manner.

研究动机与目标

• 评估基于共现和分布（概率）方法在自动查询扩展中的有效性。
• 研究这两种方法所提供的互补信息是否可结合以提升检索性能。
• 确定文档选择（10篇文档）和扩展词数的最优参数。
• 比较各种重加权策略，包括Rocchio方法，用于扩展后的查询。
• 分析查询特定的性能差异，并验证共现方法与分布方法提供的是不同且非冗余的信息这一假设。

提出的方法

• 从检索到的前10篇文档中提取候选扩展词，使用共现系数：Tanimoto、Dice和Cosine，这些系数衡量检索文档中词的共现频率。
• 应用概率模型——Kullback-Leibler散度和Bose-Einstein统计——识别在前10篇文档与整个语料库之间分布显著不同的词。
• 通过简单的加法模型（如BoCo、KLDCo）将共现和概率得分结合，生成候选词的统一排序。
• 使用Rocchio重加权方法调整扩展查询中词的权重，以改善相关性估计。
• 通过系统性实验优化检索到的前10篇文档数量和扩展词数量。
• 使用标准IR指标（MAP、GMAP、R-Precision、P@5和P@10）在测试集合上评估性能。

实验结果

研究问题

• RQ1 基于共现的方法（Tanimoto、Dice、Cosine）与概率方法（KLD、Bose-Einstein）在查询扩展中的性能表现如何比较？
• RQ2 结合共现与概率方法是否能获得优于单独使用任一方法的检索结果？
• RQ3 在查询扩展中，用于候选词提取的最优前n篇检索文档数量是多少？
• RQ4 在与不同扩展方法结合时，哪种重加权策略（如Rocchio）表现最佳？
• RQ5 不同类型的查询是否更受益于某一类方法，从而表明其具有互补优势？

主要发现

• 联合方法（如BoCo、KLDCo）相比基线实现了19.29%的MAP提升，优于所有单一方法。
• 仅使用共现方法时，MAP（0.4831）和GMAP（0.2464）达到最高值，表明其在平均性能上表现强劲。
• Bose-Einstein统计与共现方法结合（BoCo）在R-Precision（0.4629）和P@10（0.5630）上表现最佳，显示出在各类指标上的稳健性。
• 对于特定查询，不同方法表现各异——例如，共现方法在查询C041上表现最佳（MAP 0.9428），而Bo1在C049上最优——表明其具有互补优势。
• 提取词的最优文档数量始终约为10篇，超过此数量后性能不再提升。
• 对查询特定结果的分析证实，共现与概率方法利用了不同类型的信息，从而支持了两者的结合。