[论文解读] Toward Word Embedding for Personalized Information Retrieval

Nawal Ould-Amer, Philippe Mulhem+1 more|arXiv (Cornell University)|Jun 22, 2016

Topic Modeling参考文献 7被引用 4

一句话总结

本文研究了在社交书本搜索背景下，基于用户资料学习的word2vec嵌入在个性化查询扩展中的应用。尽管非个性化嵌入的表现略优于个性化嵌入，但结果表明，由于查询噪声和用户资料数据不足，词嵌入未能提升检索效果，暗示在用户内容稀疏的情况下将word2vec应用于个性化信息检索存在局限性。

ABSTRACT

This paper presents preliminary works on using Word Embedding (word2vec) for query expansion in the context of Personalized Information Retrieval. Traditionally, word embeddings are learned on a general corpus, like Wikipedia. In this work we try to personalize the word embeddings learning, by achieving the learning on the user's profile. The word embeddings are then in the same context than the user interests. Our proposal is evaluated on the CLEF Social Book Search 2016 collection. The results obtained show that some efforts should be made in the way to apply Word Embedding in the context of Personalized Information Retrieval.

研究动机与目标

• 评估词嵌入是否能够增强社交书本搜索中的个性化信息检索。
• 研究从用户资料中学习词嵌入是否相比从通用语料库学习能提升查询扩展效果。
• 评估查询过滤对基于嵌入的查询扩展效果的影响。
• 识别在用户数据稀疏的情况下将word2vec应用于个性化信息检索所面临的挑战。

提出的方法

• 用户资料被建模为用户书单、标签和评分的拼接文档。
• 查询过滤通过使用停用词-形容词列表和Porter词干提取器，移除形容词和标准停用词。
• 对于每个过滤后的查询词，通过word2vec空间中的余弦相似度，选取语义最相似的top-k个词。
• 个性化嵌入在用户特定资料上进行训练；非个性化嵌入在完整语料库上进行训练。
• 查询扩展将原始词与top-k词嵌入结合，检索使用标准排序模型。
• 评估使用CLEF Social Book Search 2016数据集上的MAP、MRR和P@10。

实验结果

研究问题

• RQ1 词嵌入能否在社交书本搜索中有效用于查询扩展？
• RQ2 使用用户资料个性化词嵌入是否能提升检索性能？
• RQ3 查询过滤如何影响基于嵌入的查询扩展效果？
• RQ4 为何在此背景下，个性化嵌入的表现劣于非个性化嵌入？

主要发现

• 查询过滤将MAP从0.0266提升至0.0309，但降低了P@10，表明效果存在矛盾。
• 在大多数配置中，非个性化查询扩展优于个性化扩展，尤其是在超过top-2个词时。
• 个性化嵌入未表现出显著改进，且在top-2扩展之外表现差，MAP曲线趋于平缓。
• 表现最佳的配置是经过过滤但未扩展的查询（配置2），优于所有扩展变体。
• 无论是个性化还是非个性化扩展，均未能超越基线，表明词嵌入质量和数据稀疏性存在根本性问题。
• 本研究将性能不佳归因于用户资料质量低，以及缺乏足够数据以有效训练单个用户的word2vec模型。