[论文解读] Improving Query Expansion Using WordNet

Dipasree Pal, Mandar Mitra+1 more|arXiv (Cornell University)|Sep 19, 2013

Topic Modeling参考文献 30被引用 4

一句话总结

该论文提出了一种新颖的查询扩展方法，通过结合 WordNet 定义中的语义相似性、伪相关文档中的术语分布与统计关联性，利用 WordNet 提升术语有用性的评估。该方法在多个 TREC 数据集上显著优于现有的基于 WordNet 的方法以及标准的查询扩展技术（如 KLD 和 RM3），在平均平均精度（MAP）方面表现出一致的性能提升。

ABSTRACT

This study proposes a new way of using WordNet for Query Expansion (QE). We choose candidate expansion terms, as usual, from a set of pseudo relevant documents; however, the usefulness of these terms is measured based on their definitions provided in a hand-crafted lexical resource like WordNet. Experiments with a number of standard TREC collections show that this method outperforms existing WordNet based methods. It also compares favorably with established QE methods such as KLD and RM3. Leveraging earlier work in which a combination of QE methods was found to outperform each individual method (as well as other well-known QE methods), we next propose a combination-based QE method that takes into account three different aspects of a candidate expansion term's usefulness: (i) its distribution in the pseudo relevant documents and in the target corpus, (ii) its statistical association with query terms, and (iii) its semantic relation with the query, as determined by the overlap between the WordNet definitions of the term and query terms. This combination of diverse sources of information appears to work well on a number of test collections, viz., TREC123, TREC5, TREC678, TREC robust new and TREC910 collections, and yields significant improvements over competing methods on most of these collections.

研究动机与目标

• 为解决 WordNet 在查询扩展中效果有限的问题，通过更深入地整合检索统计信息来提升其应用价值。
• 克服以往基于 WordNet 的方法仅依赖词汇相似性或共现关系而忽略术语稀有性或文档上下文的缺陷。
• 开发一种稳健的组合方法，综合运用多种证据来源——分布、关联与语义——以实现更可靠的候选扩展术语选择。
• 验证结合多种信号类型（分布、统计、语义）可获得优于单一方法的性能表现。

提出的方法

• 从使用原始查询检索出的顶级相关伪相关文档中提取候选扩展术语。
• 通过三种不同特征评估术语有用性：(1) 在伪相关文档与完整语料库中的分布差异，(2) 与查询术语的统计关联性，(3) 通过 WordNet 定义重叠计算的语义相似性。
• 采用加权组合方法（KLWNET）利用融合公式（公式 9）整合这三项特征，其中每个分量根据其可靠性贡献相应权重。
• 语义相似性通过测量候选术语与查询术语的 WordNet 定义之间的重叠程度来计算，使用词汇重叠度量。
• 该方法在保留原始查询术语权重的同时，根据其综合信号强度智能调整扩展术语的权重。
• 最终的扩展查询通过原始术语与扩展术语的加权和构成，权重由三项组件的融合结果决定。

实验结果

研究问题

• RQ1 WordNet 定义能否被有效用于提升候选扩展术语的选择效果，而不仅限于同义词匹配？
• RQ2 将分布、统计与语义信号相结合，是否能带来优于单一信号方法的查询扩展性能？
• RQ3 在多种 TREC 数据集上，所提方法与 KLD 和 RM3 等成熟查询扩展技术相比，其 MAP 表现如何？
• RQ4 融合多种信号类型的混合方法是否能超越单一方法，特别是在某一方法失效的情况下？

主要发现

• 在 TREC7 和 TREC8 数据集上，所提出的 KLWNET 方法在平均平均精度（MAP）方面显著优于 MII_mp、KLD 和 RM3，且提升结果经统计检验显著。
• 在 TREC678 数据集上，KLWNET 在 40 个查询中优于 P-WNET 和 KLDLCA，在其余 110 个查询中表现居中，展现出对各类查询类型的稳健性。
• 对于查询 316（polygamy, polyandry, polygyny），KLWNET 保持原始术语权重为 1.00，与 KLDLCA 相同，但对相关性较低的扩展术语 'children' 的权重更低（0.48 vs. 0.69），从而取得更优性能。
• 对于查询 361（clothing sweatshops），KLWNET 成功引入了有用术语 'shop'，并赋予其中等权重，避免了 P-WNET 中的过度强调与 KLDLCA 中的使用不足，实现了更均衡的表现。
• KLWNET 在所有测试的 TREC 数据集（TREC123、TREC5、TREC678、TREC robust new、TREC910）上均持续优于基线（原始查询），且 MAP 提升显著。
• 该方法表明，将 WordNet 定义中的语义信息与分布和统计特征相结合，可形成比单一来源方法更可靠、更有效的查询扩展策略。