[论文解读] Temporal Knowledge Graph Completion: A Survey

Borui Cai, Yong Xiang+4 more|arXiv (Cornell University)|Jan 16, 2022

Advanced Graph Neural Networks被引用 11

一句话总结

本文首次对时间知识图谱补全（TKGC）进行了全面综述，根据现有方法如何整合时间戳以建模动态知识图谱演化，对其进行了分类。综述涵盖了基准数据集、评估协议，并指出了关键挑战与未来方向，包括外部知识融合、时间感知负采样、可扩展性以及面向演化图谱的持续学习。

ABSTRACT

Knowledge graph completion (KGC) can predict missing links and is crucial for real-world knowledge graphs, which widely suffer from incompleteness. KGC methods assume a knowledge graph is static, but that may lead to inaccurate prediction results because many facts in the knowledge graphs change over time. Recently, emerging methods have shown improved predictive results by further incorporating the timestamps of facts; namely, temporal knowledge graph completion (TKGC). With this temporal information, TKGC methods can learn the dynamic evolution of the knowledge graph that KGC methods fail to capture. In this paper, for the first time, we summarize the recent advances in TKGC research. First, we detail the background of TKGC, including the problem definition, benchmark datasets, and evaluation metrics. Then, we summarize existing TKGC methods based on how timestamps of facts are used to capture the temporal dynamics. Finally, we conclude the paper and present future research directions of TKGC.

研究动机与目标

• 基于时间戳集成策略，对TKGC方法提供系统性分类体系。
• 总结TKGC研究中使用的基准数据集与标准评估协议。
• 识别当前TKGC方法的局限性，尤其关注数据稀疏性、不平衡性与可扩展性问题。
• 提出未来研究方向，包括外部知识融合、时间感知负采样，以及面向演化图谱的持续学习。

提出的方法

• 根据时间戳的整合方式，将TKGC方法划分为四类：时间嵌入、动态交互、记忆增强与生成建模。
• 提出统一的TKGC问题定义，将事实建模为（头实体，关系，尾实体，时间戳）元组。
• 回顾TKGC训练中常用的损失函数，如边际排序损失与交叉熵损失。
• 分析负采样策略，强调时间感知扰动在提升表征学习效果中的重要性。
• 引入预训练语言模型以增强实体与关系的语义表示，从而提升泛化能力。
• 讨论架构创新，如经验回放与知识蒸馏，以缓解增量学习场景下的灾难性遗忘问题。

实验结果

研究问题

• RQ1 现有TKGC方法在利用时间戳建模时间动态方面有何不同？
• RQ2 TKGC研究中使用了哪些标准基准数据集与评估指标？
• RQ3 当前TKGC方法的关键局限性是什么，尤其在数据不平衡与可扩展性方面？
• RQ4 如何通过外部知识与预训练语言模型提升TKGC性能？
• RQ5 哪些策略可实现对演化时间知识图谱的高效且持续的学习？

主要发现

• TKGC方法通过捕捉时间动态，持续优于静态KGC方法，尤其在预测时间敏感事实方面表现更优。
• GDELT数据集因实体与关系的长尾分布带来显著挑战，限制了模型的泛化能力。
• 时间感知负采样虽研究不足但至关重要，可提升模型判别能力并避免梯度消失。
• 当前模型计算开销大，难以应用于百亿规模知识图谱，亟需分布式与高效训练框架。
• 组合嵌入与参数共享可减少模型规模并提升可扩展性，同时不损失性能。
• 持续学习技术如经验回放与知识蒸馏在缓解增量图谱更新过程中的灾难性遗忘方面展现出潜力。