[论文解读] A Comparison of Supervised Learning to Match Methods for Product Search

Fatemeh Sarvi, Nikos Voskarides+3 more|arXiv (Cornell University)|Jul 20, 2020

Web Data Mining and Analysis参考文献 39被引用 4

一句话总结

本文评估了12种用于产品搜索的监督式学习匹配方法，对比其在两个数据集——CIKM 2016（公开）和一个专有的欧洲电商数据集——上的有效性与效率。研究发现，专为短文本匹配设计的模型，如MV-LSTM和DRMMTKS，始终位列前三名；而ARC-I在实际部署中展现出最佳的准确率与效率平衡。令人意外的是，尽管是前沿的基于BERT的模型，却因预训练数据与领域不匹配而表现不佳。

ABSTRACT

The vocabulary gap is a core challenge in information retrieval (IR). In e-commerce applications like product search, the vocabulary gap is reported to be a bigger challenge than in more traditional application areas in IR, such as news search or web search. As recent learning to match methods have made important advances in bridging the vocabulary gap for these traditional IR areas, we investigate their potential in the context of product search. In this paper we provide insights into using recent learning to match methods for product search. We compare both effectiveness and efficiency of these methods in a product search setting and analyze their performance on two product search datasets, with 50,000 queries each. One is an open dataset made available as part of a community benchmark activity at CIKM 2016. The other is a proprietary query log obtained from a European e-commerce platform. This comparison is conducted towards a better understanding of trade-offs in choosing a preferred model for this task. We find that (1) models that have been specifically designed for short text matching, like MV-LSTM and DRMMTKS, are consistently among the top three methods in all experiments; however, taking efficiency and accuracy into account at the same time, ARC-I is the preferred model for real world use cases; and (2) the performance from a state-of-the-art BERT-based model is mediocre, which we attribute to the fact that the text BERT is pre-trained on is very different from the text we have in product search. We also provide insights into factors that can influence model behavior for different types of query, such as the length of retrieved list, and query complexity, and discuss the implications of our findings for e-commerce practitioners, with respect to choosing a well performing method.

研究动机与目标

• 探究近期监督式学习匹配方法在产品搜索场景中的表现，该场景中词汇鸿沟比传统信息检索任务更为显著。
• 评估12种学习匹配模型在有效性（排序质量）与效率（训练与推理速度）之间的权衡。
• 理解查询特征（如长度与流行度）如何影响模型性能，并为电商平台的模型选择提供建议。
• 评估预训练领域不匹配对基于BERT的模型在产品搜索中的影响，其中训练数据与典型网络文本存在显著差异。
• 为电商平台从业者提供基于真实部署约束与查询类型的最优学习匹配模型选择的实用建议。

提出的方法

• 本研究评估了12种监督式学习匹配模型，包括MV-LSTM、DRMMTKS、DUET等神经架构，以及基于BERT的模型，这些模型均经过训练以预测产品查询与商品描述之间的相关性。
• 采用NDCG@5和NDCG@25作为主要评估指标，对比分析在两个数据集上的表现：一个公开的CIKM 2016基准数据集，以及一个来自欧洲电商平台的专有查询日志。
• 分析包括对查询长度与流行度的消融研究，识别不同模型在查询依赖性性能上的差异。
• 通过训练与推理时间衡量效率，重点关注实际可部署性，尤其适用于具有延迟约束的生产系统。
• 使用词法基线（BM25）量化语义匹配带来的改进，性能提升以相对于该基线的百分比形式报告。
• 分析在语义匹配优于或劣于词法匹配的查询上模型的行为，识别此类查询的特征。

实验结果

研究问题

• RQ1 在两个差异较大的数据集上，不同监督式学习匹配模型在产品搜索任务中的有效性（NDCG@5与NDCG@25）表现如何？
• RQ2 在真实电商环境中，学习匹配方法在有效性与计算效率（训练与推理时间）之间存在何种权衡？
• RQ3 查询特定特征（如长度与流行度）如何影响不同学习匹配模型的性能？
• RQ4 为何最先进的基于BERT的模型在产品搜索中表现不佳，尽管其在其他信息检索领域表现优异？
• RQ5 哪种学习匹配模型在真实电商平台部署中展现出最佳的准确率、效率与鲁棒性平衡？

主要发现

• 在CIKM 2016数据集上，学习匹配方法相较BM25词法基线，NDCG@5最高提升了134.46%，表明在词汇重叠较低的场景中，语义匹配具有巨大潜力。
• 在专有数据集上，性能提升较为有限（≤29.93%），归因于查询与商品标题之间更高的词汇重叠，从而减少了语义匹配提升排序质量的机会。
• MV-LSTM与DRMMTKS在两个数据集上均持续位列前三名，展现出在产品搜索中短文本匹配任务下的强大鲁棒性。
• ARC-I因在有效性、效率及各类查询与数据集上的一致表现，成为实际部署的首选模型。
• 基于BERT的模型表现欠佳，作者归因于其预训练数据（通用网络文本）与短文本、关键词密集、非句子结构的产品查询及标题之间存在显著不匹配。
• 超过50%的查询受益于语义匹配，但仍有不可忽视比例的查询因语义匹配而表现更差，表明基于查询特征的模型选择可进一步提升整体性能。