[论文解读] Construction and Applications of Billion-Scale Pre-Trained Multimodal Business Knowledge Graph

Shumin Deng, Wang, Chengming+12 more|arXiv (Cornell University)|Sep 30, 2022

Semantic Web and Ontologies被引用 6

一句话总结

本文提出 OpenBG，一个基于阿里巴巴集团企业数据构建的十亿规模开放商业知识图谱，整合了多模态事实（文本、图像、表格）以及包含100万个核心类和2,681种关系类型的细粒度本体。该研究展示了为下游电商任务预训练 OpenBG 的有效性，发布全部数据与代码以支持社区基准测试与竞赛，实证结果在以知识图谱为中心和知识增强的应用中表现优异。

ABSTRACT

Business Knowledge Graphs (KGs) are important to many enterprises today, providing factual knowledge and structured data that steer many products and make them more intelligent. Despite their promising benefits, building business KG necessitates solving prohibitive issues of deficient structure and multiple modalities. In this paper, we advance the understanding of the practical challenges related to building KG in non-trivial real-world systems. We introduce the process of building an open business knowledge graph (OpenBG) derived from a well-known enterprise, Alibaba Group. Specifically, we define a core ontology to cover various abstract products and consumption demands, with fine-grained taxonomy and multimodal facts in deployed applications. OpenBG is an open business KG of unprecedented scale: 2.6 billion triples with more than 88 million entities covering over 1 million core classes/concepts and 2,681 types of relations. We release all the open resources (OpenBG benchmarks) derived from it for the community and report experimental results of KG-centric tasks. We also run up an online competition based on OpenBG benchmarks, and has attracted thousands of teams. We further pre-train OpenBG and apply it to many KG- enhanced downstream tasks in business scenarios, demonstrating the effectiveness of billion-scale multimodal knowledge for e-commerce. All the resources with codes have been released at \url{https://github.com/OpenBGBenchmark/OpenBG}.

研究动机与目标

• 解决从噪声大、多源的企业数据中构建大规模、多模态商业知识图谱的挑战。
• 设计一种标准化、符合业务逻辑的本体，以支持电商应用中的细粒度分类法和超关系事实。
• 构建并发布 OpenBG，一个全面的、开放获取的商业知识图谱，包含26亿个三元组、8800万个实体以及100万个核心类/概念。
• 展示在大规模多模态知识图谱上进行预训练，对下游商业应用（如推荐与搜索）性能提升的价值。
• 通过发布 OpenBG 基准并举办线上竞赛，促进社区参与。

提出的方法

• 基于 W3C 标准与 SKOS 设计核心本体，定义8个核心类（如类别、品牌、地点）和2,681种关系类型，以结构化商业语义。
• 利用实体链接与属性对齐技术，将阿里巴巴电商平台的多模态数据（文本、图像、表格）统一表示为知识图谱形式。
• 采用混合人工与自动化处理的流水线，投入约4,000人天的标注工作，并借助100倍 V100 GPU 加速实现大规模数据处理。
• 在 OpenBG 上应用预训练技术，生成上下文感知的嵌入表示，用于下游知识图谱增强任务。
• 在三元组累积过程中实施质量控制机制，包括本体迭代优化、事实验证与一致性检查。
• 发布 OpenBG 基准，并在天池平台举办线上竞赛，以验证模型性能并推动创新。

实验结果

研究问题

• RQ1 如何从噪声大、多模态且异构的企业数据源中有效构建十亿规模的商业知识图谱？
• RQ2 哪些设计原则与本体结构最能支持企业知识图谱在可扩展性、可维护性以及与现实业务逻辑对齐方面的表现？
• RQ3 在大规模多模态商业知识图谱上进行预训练，能在多大程度上提升下游电商任务（如推荐与链接预测）的性能？
• RQ4 在数据高度波动、持续演化的大型知识图谱中，如何维持质量控制与一致性？
• RQ5 发布大规模、开放的商业知识图谱对社区研究与工业应用开发的实际影响是什么？

主要发现

• OpenBG 包含 2,603,046,837 个三元组、88,881,723 个实体以及 1,131,579 个核心类/概念，是迄今为止最大的公开可用商业知识图谱。
• 预训练的 OpenBG 模型在下游知识图谱核心任务（如链接预测与实体分类）中显著提升性能，该结果已在 OpenBG 基准上得到验证。
• 基于 OpenBG 的线上竞赛吸引了数千支团队参与，充分体现了社区的浓厚兴趣与该基准的实际应用价值。
• 多模态事实（如产品图像与描述）的整合显著提升了电商场景中知识增强应用的准确性与鲁棒性。
• 迭代优化流程与质量控制机制成功减少了最终知识图谱中冗余或缺失关系等结构性缺陷。
• 本项目证明，只要遵循业务逻辑、最小化设计原则并实施持续质量管控，大规模知识图谱在真实企业系统中的构建是可行的。