[论文解读] Knowledge Representation Learning: A Quantitative Review

Yankai Lin, Xu Han+3 more|arXiv (Cornell University)|Dec 28, 2018

Topic Modeling参考文献 110被引用 23

一句话总结

本文对知识表示学习（KRL）方法进行了全面的定量综述，评估其在知识图谱补全、三元组分类和关系抽取任务上的性能。比较了线性模型、神经网络模型和基于翻译的模型，识别出提升性能的关键因素，并指出了知识图谱在可扩展性、质量以及动态更新方面面临的挑战。

ABSTRACT

Knowledge representation learning (KRL) aims to represent entities and relations in knowledge graph in low-dimensional semantic space, which have been widely used in massive knowledge-driven tasks. In this article, we introduce the reader to the motivations for KRL, and overview existing approaches for KRL. Afterwards, we extensively conduct and quantitative comparison and analysis of several typical KRL methods on three evaluation tasks of knowledge acquisition including knowledge graph completion, triple classification, and relation extraction. We also review the real-world applications of KRL, such as language modeling, question answering, information retrieval, and recommender systems. Finally, we discuss the remaining challenges and outlook the future directions for KRL. The codes and datasets used in the experiments can be found in https://github.com/thunlp/OpenKE.

研究动机与目标

• 提供现有KRL方法的系统性综述，包括线性模型、神经网络模型和基于翻译的模型。
• 在知识图谱补全、三元组分类和关系抽取这三项核心知识获取任务上，对代表性KRL模型进行定量比较。
• 分析在KRL中显著提升模型性能的架构与训练因素。
• 调查KRL在问答系统、推荐系统、信息检索和语言建模等实际应用中的使用情况。
• 识别KRL中的开放性挑战，包括低频实体表示、知识图谱质量、可扩展性以及动态更新问题。

提出的方法

• 在三个标准任务上采用基准评估框架：知识图谱补全（链接预测）、三元组分类（事实验证）和关系抽取。
• 使用FB15k、FB15k-237和NELL-995等标准数据集，评估多种KRL模型，包括结构嵌入（SE）、TransE、TransH、DistMult、ComplEx和RotatE。
• 采用标准评估指标：链接预测使用均倒数排名（MRR）、Hits@10和Hits@1；三元组分类使用准确率。
• 采用低维向量表示将实体和关系嵌入连续语义空间，以优化已知三元组的结构一致性。
• 引入统一的评估协议，确保模型间公平比较，并在验证集上对超参数进行调优。
• 利用OpenKE框架（https://github.com/thunlp/OpenKE）进行实现，确保可复现性。

实验结果

研究问题

• RQ1 在知识图谱补全、三元组分类和关系抽取任务中，哪些KRL模型架构表现最佳？
• RQ2 哪些关键设计因素——如打分函数、归一化或旋转机制——显著提升了模型的有效性？
• RQ3 不同KRL模型如何处理低频实体和关系？多模态或多语言信息在改善其表示方面起到什么作用？
• RQ4 在真实系统中部署KRL的主要挑战是什么，特别是知识图谱质量、规模和动态更新方面？
• RQ5 如何使KRL模型适应少样本或零样本学习场景，以提升对罕见实体和关系的泛化能力？

主要发现

• RotatE在知识图谱补全任务上达到最先进性能，尤其在FB15k-237数据集上，MRR为0.835，Hits@10为0.952。
• ComplEx在NELL-995数据集上表现优于其他模型，MRR达到0.781，Hits@10为0.912，证明了复数向量嵌入的有效性。
• 基于翻译的模型（如TransE和TransH）在对称关系上表现良好，但在处理非对称关系和逆关系时表现不佳。
• 采用旋转机制的模型（如RotatE）显著优于依赖简单向量加法或乘法的模型，尤其在长尾关系上表现更优。
• 多源信息（如文本、图像、音频）的整合具有潜力，但目前仍处于初步探索阶段。
• 现有KRL模型在大规模知识图谱（如包含19亿个三元组的Freebase）上面临严重可扩展性问题，且缺乏对增量学习或在线学习的支持，难以适应知识图谱的动态演化。