[论文解读] Neural IR Meets Graph Embedding: A Ranking Model for Product Search

Yuan Zhang, Dong Wang+1 more|arXiv (Cornell University)|Jan 24, 2019

Advanced Graph Neural Networks参考文献 48被引用 8

一句话总结

本文提出 GEPS，一种用于商品搜索的神经排序模型，通过整合图嵌入技术，利用点击率和异构用户行为数据，在长尾查询和稀有商品上显著提升性能。通过将图结构特征融入神经信息检索框架，该模型增强了语义匹配能力和传递性相关性推理，相较于强基线模型在真实电商数据集上表现更优。

ABSTRACT

Recently, neural models for information retrieval are becoming increasingly popular. They provide effective approaches for product search due to their competitive advantages in semantic matching. However, it is challenging to use graph-based features, though proved very useful in IR literature, in these neural approaches. In this paper, we leverage the recent advances in graph embedding techniques to enable neural retrieval models to exploit graph-structured data for automatic feature extraction. The proposed approach can not only help to overcome the long-tail problem of click-through data, but also incorporate external heterogeneous information to improve search results. Extensive experiments on a real-world e-commerce dataset demonstrate significant improvement achieved by our proposed approach over multiple strong baselines both as an individual retrieval model and as a feature used in learning-to-rank frameworks.

研究动机与目标

• 为解决电商搜索中常见的点击率数据长尾稀疏性问题。
• 使神经排序模型能够有效利用图结构数据（如点击图和共购买网络）。
• 通过基于图的归纳偏置捕捉传递性相关性，提升检索性能。
• 结合无监督图嵌入特征与有监督神经排序模型的优势。
• 为将外部异构信息有效集成到神经信息检索系统中，提供一种可扩展且高效的方法。

提出的方法

• 模型使用预训练的图嵌入（如 node2vec）将查询、商品和用户会话映射到共享向量空间中。
• 图嵌入基于点击率和共现数据生成，构建用户交互的异构图。
• 将这些嵌入与查询和商品表征拼接，作为深层神经网络排序任务的输入特征。
• 神经模型采用多层感知机，从组合输入特征中学习非线性相关性函数。
• 该方法将检索任务视为链接预测任务，其中相关性被建模为查询-商品对在图中相连的概率。
• 通过预计算的嵌入将图结构与神经网络解耦，相较于端到端 GCN 方法，提升了可扩展性。

实验结果

研究问题

• RQ1 图嵌入技术能否被有效整合到神经信息检索模型中，以提升商品搜索排序性能？
• RQ2 整合图结构化的点击率数据对长尾查询和稀有商品的性能有何影响？
• RQ3 图嵌入在多大程度上能捕捉神经网络单独难以学习的传递性相关性关系？
• RQ4 当训练数据稀疏或不完整时，图嵌入特征能否增强神经模型的性能？
• RQ5 在独立运行和学习排序设置下，该方法与强基线神经模型和图模型相比表现如何？

主要发现

• 所提出的 GEPS 模型在真实电商数据集上，相较于强基线神经模型和图模型，实现了显著的性能提升。
• GEPS 在多个指标上均提升了平均平均精度（MAP）和归一化折损累计增益（NDCG），尤其在长尾查询上表现更优。
• 该模型对数据稀疏性表现出强鲁棒性，相较于标准神经模型，对稀有查询和商品的泛化能力更强。
• 通过图嵌入整合共浏览和共购买等异构信号，显著提升了检索准确率。
• 图嵌入的集成使模型能更好地捕捉传递性相关性，即通过图中间接连接传播相似性。
• 由于图嵌入的归纳偏置，该方法在面对未见查询或商品时仍保持可扩展性和有效性。