[论文解读] AliCG: Fine-grained and Evolvable Conceptual Graph Construction for Semantic Search at Alibaba

Ningyu Zhang, Qianghuai Jia+9 more|arXiv (Cornell University)|Jun 3, 2021

Advanced Text Analysis Techniques参考文献 29被引用 5

一句话总结

AliCG 提出了一种细粒度、可演化概念图框架，用于阿里巴巴的语义搜索，通过一致性对齐的自举方法与低资源短语挖掘，从嘈杂的搜索日志中提取稀有且动态的概念，同时通过用户行为建模实现实时分类法更新。在线 A/B 测试显示，在日均请求超过 3 亿的阿里巴巴 UC 浏览器中，点击率提升了 5.1%，曝光效率提高了 7.01%。

ABSTRACT

Conceptual graphs, which is a particular type of Knowledge Graphs, play an essential role in semantic search. Prior conceptual graph construction approaches typically extract high-frequent, coarse-grained, and time-invariant concepts from formal texts. In real applications, however, it is necessary to extract less-frequent, fine-grained, and time-varying conceptual knowledge and build taxonomy in an evolving manner. In this paper, we introduce an approach to implementing and deploying the conceptual graph at Alibaba. Specifically, We propose a framework called AliCG which is capable of a) extracting fine-grained concepts by a novel bootstrapping with alignment consensus approach, b) mining long-tail concepts with a novel low-resource phrase mining approach, c) updating the graph dynamically via a concept distribution estimation method based on implicit and explicit user behaviors. We have deployed the framework at Alibaba UC Browser. Extensive offline evaluation as well as online A/B testing demonstrate the efficacy of our approach.

研究动机与目标

• 解决现有概念图仅能从正式文本中提取粗粒度、高频且静态概念的局限性。
• 实现从嘈杂、简短且低资源的搜索查询中提取细粒度和长尾概念。
• 基于隐式与显式用户行为，支持概念分类法的动态演化。
• 部署一个可扩展、生产就绪的概念图系统，以增强现实应用中语义搜索与下游 NLP 任务。
• 通过捕捉细微用户意图的演化、高粒度概念，提升搜索引擎的语义理解能力。

提出的方法

• 提出一种基于一致性对齐的自举方法，通过整合来自多样化来源的多个弱监督信号，提取细粒度概念。
• 提出一种低资源短语挖掘方法，以在极少标注数据下，从简短且嘈杂的查询中识别稀有和长尾概念。
• 设计一种概念分布估计方法，通过建模用户行为（点击、停留时间、搜索模式）实现概念流行度与分类结构的动态更新。
• 构建一个四级分层概念图：领域（第 1 层）、类型/子类（第 2 层）、用户意图的细粒度概念化（第 3 层）和实例（第 4 层）。
• 利用预训练与文本重写策略，结合概念图提升实体推荐与查询理解能力。
• 在阿里巴巴 UC 浏览器中部署该框架，集成至多个 NLP 流程，包括意图分类与命名实体识别。

实验结果

研究问题

• RQ1 在上下文有限、共现信号微弱的情况下，如何有效从嘈杂、简短的搜索查询中提取细粒度和长尾概念？
• RQ2 哪些技术可实现基于实时用户行为的分类法动态演化，而无需人工重新训练？
• RQ3 如何优化低资源短语挖掘，以在低数据环境下提取稀有但语义有意义的概念？
• RQ4 动态演化的概念图在真实世界语义搜索与推荐系统中的性能提升程度如何？
• RQ5 基于一致性对齐的自举框架是否能在概念提取质量与覆盖度上超越传统基于模式或序列标注的方法？

主要发现

• AliCG 框架成功从搜索日志中提取了超过 500 万个细粒度且持续演化的概念，对长尾与稀有概念具有高覆盖率。
• 在阿里巴巴 UC 浏览器上的在线 A/B 测试显示，点击率（CTR）相对提升了 5.1%，页面浏览量（PV）增加了 5.5%，曝光效率提升了 7.01%。
• 使用概念图后，用户在内容上的停留时间平均增加了 0.92%，表明系统与用户意图的匹配度更高。
• 系统在意图分类与命名实体识别任务中表现出稳健性能，显著优于未使用概念图的基线模型。
• 低资源短语挖掘方法能有效捕捉稀有概念，例如仅基于 35 个实例便识别出“罕见精神障碍”等短语。
• 概念分布估计方法实现了分类法的实时更新，确保其与当前用户兴趣与搜索趋势保持一致。